Hinton, el padre del aprendizaje profundo, le puso número al apocalipsis: hasta un 20 por ciento de chances de que la IA nos extinga

Geoffrey Hinton tiene 78 años y dos Nobel del cerebro detrás. Durante décadas fue el tipo que empujó en silencio las ideas que hoy mueven a las inteligencias artificiales que dan noticias, redactan mails y recomiendan series. Hasta que en 2023 se paró, dejó Google y empezó a hablar sin el asterisco corporativo. Lo que dice desde entonces es incómodo: le puso número a un escenario que la mayoría prefiere no mirar de frente.

Su cálculo es seco y por eso golpea. Entre un 10 y un 20 por ciento de probabilidades de que sistemas superinteligentes provoquen el fin de la especie humana en los próximos treinta años. No lo dice un improvisado: lo dice el hombre al que el mundo académico llama el padrino del aprendizaje profundo, el mismo que en 2012 demostró que una red neuronal podía reconocer imágenes mejor que cualquier sistema previo. Y aclara que ese rango le parece alto incluso a él, si lo compara con las proyecciones que manejaba hace apenas diez años.

Más rápido que el volante

El razonamiento de Hinton no es catastrofista, es de mecánico. La tecnología aceleró tanto que las regulaciones quedaron corriendo de atrás. Para graficarlo usa una imagen de la casa: la innovación es el pedal de un auto; sin volante, cuanta más velocidad, peor el final. La regulación estatal, en su esquema, es ese volante. Y advierte que nunca en nuestra historia tuvimos que regular entidades más inteligentes que nosotros. Es un punto ciego, dice, y eso es lo que más le preocupa.

“La competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales.”Geoffrey Hinton

Hablé con Lucía, becaria en un laboratorio de PLN de la Universidad de Buenos Aires, y me lo bajó a la diaria: "Cuando el modelo te completa una frase, no está adivinando palabras al azar como haría un loro glorificado. Está representando un concepto abstracto, una idea, y la usa en contextos nuevos. Eso es lo que cambia la categoría del riesgo". Hinton dice lo mismo, pero con otros números: los modelos de lenguaje más avanzados ya no se limitan a detectar correlaciones en montañas de texto, sino que comprenden efectivamente los conceptos semánticos que procesan.

• La estimación de Hinton es de 10 a 20 por ciento de chances de extinción en un horizonte de treinta años.
• El salto cualitativo, según el científico, es que los modelos ya manejan conceptos abstractos, no solo patrones estadísticos.
• La metáfora del acelerador sin volante resume su planteo: sin regulación, más velocidad equivale a más peligro.
• Hinton descarta que la autorregulación del mercado alcance para una amenaza de esta escala.
• La ventana para definir la orientación ética de los sistemas se achica a medida que los modelos ganan autonomía.

¿Y eso para qué sirve?

Sirve para entender por qué un tipo que construyó buena parte de la infraestructura actual de la IA pide frenar. No es un tecnofóbico: es alguien que mira lo que viene y ve que la distancia entre lo que podemos hacer y lo que sabemos controlar se agranda cada año. La próxima vez que un modelo te escriba un poema o te apruebe un crédito, vale la pena acordarse de ese número que Hinton tiró al aire: hasta un 20 por ciento. No es un dato para asustarse, es un dato para empezar a discutir en serio quién pone el volante.