Altman traza dos líneas rojas para el futuro de la inteligencia artificial: pérdida de control y concentración de poder

Sam Altman, director ejecutivo de OpenAI, describió dos escenarios que, a su juicio, concentran los mayores riesgos asociados al avance de la inteligencia artificial. El primero de ellos refiere a la posibilidad de que la humanidad termine perdiendo el control sobre sistemas cada vez más capaces. El segundo apunta a la acumulación desproporcionada de poder en una persona, una empresa o un país, capaz de imponer una visión del mundo al resto. Para reducir ambos peligros, el ejecutivo respaldó la creación de un marco regulatorio federal, la incorporación de auditores independientes y la articulación de respuestas coordinadas entre gobiernos.

En una serie de declaraciones recientes, Altman sostuvo que mantener a la inteligencia artificial bajo conducción humana constituye una condición no negociable. Según explicó, las técnicas de alineación y seguridad deben evolucionar al mismo ritmo que las capacidades de los modelos o, preferentemente, adelantarse a ellas. De lo contrario, advirtió, podría abrirse una ventana temporal en la que los sistemas actúen fuera del alcance efectivo de quienes los diseñaron.

El diagnóstico de Altman sobre los dos riesgos centrales

El primer riesgo identificado por el directivo se vincula con la pérdida de control humano. A su entender, la complejidad creciente de los modelos podría tornar insuficientes los mecanismos tradicionales de supervisión, lo que vuelve indispensable invertir en métodos de seguridad antes de que la tecnología supere la capacidad de corregir su trayectoria. El segundo riesgo, según expuso, es de naturaleza geopolítica y económica: la posibilidad de que una IA extraordinariamente poderosa quede al servicio de un actor único que la utilice para moldear el resto de la sociedad.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, director ejecutivo de OpenAI

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, director ejecutivo de OpenAI

Regulación federal y coordinación internacional como respuesta

En materia regulatoria, Altman respaldó la sanción de un marco común que establezca requisitos de seguridad aplicables a los modelos de frontera, es decir, aquellos que operan en el límite de las capacidades tecnológicas disponibles. Propuso, además, que esos esquemas incorporen auditores independientes con capacidad efectiva de fiscalización. No obstante, aclaró que la espera de nuevas leyes no debería funcionar como excusa para postergar la adopción de medidas internas de cuidado por parte de las compañías que desarrollan inteligencia artificial.

• Establecer un marco regulatorio federal con requisitos comunes de seguridad para los modelos de frontera.
• Incorporar auditores independientes a los mecanismos de supervisión de los sistemas de inteligencia artificial.
• Avanzar en técnicas de alineación y seguridad al mismo ritmo o por delante de las capacidades de los modelos.
• Fortalecer la coordinación internacional entre gobiernos para evitar que la competencia tecnológica derive en imprudencia.
• Impulsar que las empresas adopten medidas de seguridad por iniciativa propia, sin esperar nuevas legislaciones.

El directivo también advirtió que la pulseada competitiva entre países no debiera derivar en decisiones apresuradas. En su visión, ninguna urgencia geopolítica justifica recortar salvaguardias en el desarrollo de modelos avanzados. En ese sentido, consideró que la coordinación entre Estados constituye uno de los terrenos en los que las compañías requerirán acompañamiento gubernamental explícito, dado que la naturaleza transfronteriza de la inteligencia artificial excede el alcance de cualquier regulación local.

Altman describió la situación como un estrecho camino intermedio, en el que deben gestionarse simultáneamente la prevención de riesgos existenciales y el freno a la concentración de poder. De acuerdo con su planteo, ambos objetivos se condicionan mutuamente: una IA poderosa fuera del control humano podría facilitar esa concentración, mientras que un actor con poder desproporcionado podría debilitar los contrapesos institucionales necesarios para mantener a la tecnología bajo supervisión. La salida, según expuso, depende de un esquema regulatorio robusto, de cooperación internacional sostenida y de estándares técnicos de seguridad implementados desde la fase de diseño de cada modelo.