El fundador de DeepMind, Demis Hassabis, acaba de escribir lo más importante que leerás sobre la IAG este año. Aquí el resumen.

Demis Hassabis, el creador de DeepMind y ganador de un Nobel por AlphaFold, publicó un artículo en X que vale la pena leer con calma.

Es un marco completo sobre qué significa la IAG, qué riesgos existen y qué debemos hacer. Su tesis.

Dónde estamos

Él cree que la IAG está a pocos años. La compara no con internet, sino con el descubrimiento de la electricidad o el fuego. Sitúa el impacto económico en 10 veces el de la Revolución Industrial a 10 veces la velocidad. Piensa que genuinamente podría acabar con la escasez de recursos como factor limitante del progreso humano.

Sobre los riesgos, no los descarta

Las amenazas a la ciberseguridad de los modelos actuales ya son reales. Los riesgos biológicos y nucleares "pueden emerger pronto". Luego, su frase más importante: "Nadie en el mundo sabe con certeza qué va a pasar a partir de ahora, e incluso los expertos discrepan".

Esto lo dice Demis Hassabis. Significa algo.

Su propuesta concreta:

Un Organismo de Estándares para IA de Frontera inspirado en FINRA, una alianza público-privada que defina Modelos de Frontera mediante puntos de referencia actualizados periódicamente, exija pruebas previas al lanzamiento 30 días antes del despliegue y evalúe modelos frente a riesgos de ciberseguridad, amenazas biológicas y comportamiento engañoso. Quiere que esto se convierta en la base para estándares internacionales.

Su argumento es sencillo: la ventana antes de que llegue la IAG es finita y valiosa. Ahora mismo, como campo, no la estamos aprovechando lo suficiente.

El artículo completo merece tu tiempo.

Visto en r/ArtificialInteligence