Hinton, el padrino de la IA, ahora le tiene miedo a su propia criatura: hasta un veinte por ciento de chances de que nos extinga

¿Puede el tipo que ayudó a parir a la inteligencia artificial ser la misma voz que ahora pide frenarla con un decreto? Sí, y se llama Geoffrey Hinton, Nobel de Física 2024, y hasta hace tres años seguía cobrando su sueldo en Google. Lo dejó en 2023 justamente para poder hablar sin que el código de conducta corporativo le sellara la boca. Y lo que dice ahora no es para quedarse tranquilo.

Vamos por partes, porque la cifra es de las que golpean: Hinton calcula entre un diez y un veinte por ciento de probabilidades de que una IA superinteligente termine con la especie humana en los próximos treinta años. Para ponerlo en criollo, es como si un meteorólogo cordobés dijera que hay entre una y dos chances en diez de que caiga un meteorito sobre Nueva Córdoba antes de 2055. No es certeza, pero tampoco es un número que se pueda barrer debajo de la alfombra.

¿Y por qué el padre del deep learning se volvió aguafiestas?

La explicación es casi un cuento con moraleja. Hinton sostiene que la humanidad nunca se topó con entidades más listas que ella misma, y que ese punto ciego es el verdadero problema. No le tiene miedo a la tecnología en abstracto, le tiene miedo a la velocidad. Dice que los avances superaron por goleada lo que él mismo imaginaba hace una década. Es como cuando comprás un Falcon por la App y te lo entregan en veinte minutos: útil, pero si el sistema de frenado no existiera, cada viaje sería una ruleta rusa.

Para graficarlo, el británico usa una metáfora bien terrenal: la innovación es el acelerador de un auto, y la regulación estatal, el volante. Cuanta más velocidad, más un mecanismo de dirección. Sin Gobierno marcando el ritmo, el vehículo termina en la banquina. O en el barranco.

¿Qué cambió para que Hinton cambiara de opinión?

El punto que el investigador machaca con más fuerza es el salto cualitativo de los modelos de lenguaje. Para Hinton, los sistemas actuales ya no se quedan en identificar correlaciones estadísticas en montañas de texto: entienden de verdad los conceptos abstractos que procesan. O sea, no es que repiten como loros bien entrenados, sino que, según su lectura, hay una comprensión semántica de fondo. Si eso es así, la categoría del riesgo cambia, porque pasamos de maquinitas que adivinan la siguiente palabra a entidades que, como mínimo, manipulan ideas con cierto nivel de significado.

• Una probabilidad de extinción estimada entre el diez y el veinte por ciento en un horizonte de treinta años.
• La advertencia de que los modelos de IA ya comprenden conceptos abstractos, no solo patrones estadísticos.
• El reclamo de regulación estatal urgente y leyes globales, en línea con tratados como el de armas nucleares.
• El rechazo a la idea de que la competencia entre países justifique dejar la seguridad en manos del mercado.
• La ventana para definir la orientación ética de la IA se achica a medida que los modelos ganan autonomía.

Ante el argumento de siempre, el de que regular frena a un país frente a sus competidores, Hinton responde que delegar la seguridad de la especie en la autorregulación del mercado es un error estratégico de manual. La geopolítica, dice, no puede ser excusa para patear la mesa legal. Después de todo, cuando se trató de armas nucleares se firmó el Tratado de No Proliferación, y el mundo no se cayó. Aunque tampoco funcionó de maravillas, claro.

La síntesis, para quien firma esta columna, es incómoda pero atendible: el padre del deep learning no pide que apaguemos las máquinas, pide que construyamos el volante antes de que el acelerador nos estrelle contra el guardarrail. ¿Qué tipo de regulación concreta te parece realista para una tecnología que no reconoce fronteras? Hinton ya puso los números sobre la mesa. Ahora falta que los gobiernos, los de todos los colores, se sienten a leerlos. Veremos, che.