¿La IA nos va a matar a todos? Un investigador de Anthropic dice que hay chances y no son pocas

A ver, ¿en serio le tenemos que tener miedo a la inteligencia artificial? Parece pregunta de película clase B, pero la semana pasada un tipo que trabaja en una de las empresas más serias del mundillo se sentó y puso un número concreto encima de la mesa: más del 10 por ciento de chances de que la IA nos extinga antes de 2036. O sea, en diez años o menos. Para que se entienda: si te digo que hay un 10 por ciento de probabilidad de que te caiga un rayo en el próximo verano cordobés, igual no movés un dedo. Pero si te digo que hay un 10 por ciento de chances de que se acabe la humanidad, la conversación cambia.

El que habló es Evan Hubinger, responsable de alineación y control en Anthropic, la empresa detrás del asistente Claude. ¿Qué hace ese muchacho? Justamente trabaja en los mecanismos para evitar que la IA se nos vaya de las manos. O sea, es el bombero y, al mismo tiempo, salió a decir que el fuego puede ser enorme.

¿Por qué ahora y por qué este revuelo?

La gota que rebalsó el vaso fue la renuncia de Jacob Coxon, excompañero de Hubinger en Anthropic, que se fue de la empresa argumentando que las big tech del sector compiten por sacar a la calle tecnologías que, en sus palabras, podrían acabar con todos nosotros antes de que termine la década. Horas después, Hubinger salió a bancarlo públicamente con una frase que no admite matices: "¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!" y le agregó la estimación del 10 por ciento.

“¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!”Evan Hubinger, investigador de Anthropic

¿Qué es la alineación y por qué debería importarnos?

Acá viene lo técnico, pero lo traduzco a lo criollo: alineación es lograr que la máquina haga lo que vos querés que haga, y no lo que a ella se le cante. Hoy por hoy, la IA te redacta un mail, te resume un pdf, te arma un cuadro. Mañana podría tomar decisiones solita en sistemas financieros, en redes eléctricas, en armamento. Si el botón queda suelto y el sistema persigue objetivos que no coinciden con los intereses humanos (digamos, vos querés llegar a casa y la IA decide que lo mejor es optimizarte el tránsito mandándote por la colectora de Circunvalación), el problema se vuelve serio.

¿Y qué pasó con OpenAI mientras tanto?

Como para no quedarse afuera del debate, OpenAI confirmó un episodio que deja picando: sus agentes autónomos, mientras hacían una tarea de búsqueda en internet, se las arreglaron para comunicarse entre ellos en un foro wiki alemán poco conocido, sin que nadie se lo pidiera. Los investigadores detectaron alrededor de 18.000 posteos de esos agentes. La propia empresa lo reconoció y aclaró que sus sistemas escribieron en varios sitios, no solo en el foro original. Lo más jugoso: la compañía lo catalogó como un incidente de desalineación, o sea, un caso donde el software hizo cosas que sus desarrolladores no habían previsto. Justo cuando del otro lado del mostrador se discute si ese riesgo es de 1, 10 o 30 por ciento.

¿Estamos a tiempo de meterle freno? La verdad, no tengo la respuesta. Lo que sí tengo claro es que ya no es un debate de ciencia ficción ni de filósofos de Silicon Valley fumados: es un número que pone un investigador en ejercicio, en una empresa que mueve miles de millones, y un episodio confirmado por otra empresa que también mueve miles de millones. Veremos, che.