Sam Altman traza dos líneas rojas para la inteligencia artificial y pide reglas claras antes de que sea tarde

Sam Altman, director ejecutivo de OpenAI, marcó dos riesgos centrales en el avance de la inteligencia artificial: que la humanidad pierda el control sobre sistemas cada vez más avanzados y que una persona, una empresa o un país acumule un poder desproporcionado gracias a esa tecnología. Para reducir esas probabilidades, respaldó la creación de un marco regulatorio federal en Estados Unidos, la incorporación de auditores independientes y la coordinación internacional entre gobiernos.

Dos escenarios y un solo mensaje

El primer escenario que Altman describió es la pérdida de control. Lo planteó como una situación inaceptable y lo resumió con una frase de campaña: estamos en el "Equipo Humanidad" y la IA debe servir a las personas. Para evitarlo, propuso que las técnicas de alineación, es decir, los métodos que ajustan el comportamiento de los modelos para que respondan a objetivos humanos, y los sistemas de seguridad avancen al mismo ritmo que las capacidades de los modelos, o incluso por delante de ellas. Es una analogia cercana a la cocina: si se sube la llama del horno, hay que revisar al mismo tiempo la válvula de gas para que la cocina no se descontrole.

El segundo escenario es la concentración de poder. Altman sostuvo que si una inteligencia artificial extraordinariamente poderosa queda en manos de un actor aislado, los resultados podrían ser "extremadamente distópicos", y reconoció que evitar ambos riesgos a la vez obliga a transitar un camino estrecho, intermedio entre la regulación excesiva y la falta de controles.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, director ejecutivo de OpenAI

Qué pidió para regular el sector

• Un marco federal que fije requisitos de seguridad comunes para los modelos de frontera, es decir, los sistemas más avanzados que marcan el límite de las capacidades disponibles.
• La incorporación de auditores independientes que verifiquen el cumplimiento de esos requisitos.
• Que las empresas no esperen nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia.
• Que la presión competitiva entre Estados Unidos y otras potencias no se use como justificación para asumir riesgos innecesarios.
• Una coordinación internacional respaldada por los gobiernos, ya que las empresas por sí solas no pueden sostenerla.

Qué mirar en los próximos meses

• Si el Congreso estadounidense avanza con un proyecto de ley federal de seguridad para modelos de frontera, un paso que hoy no existe como texto consolidado.
• Qué empresas incorporan auditorías externas de seguridad y publican resultados verificables, más allá de los compromisos verbales.
• Si los principales laboratorios de IA adoptan estándares comunes de alineación, comparables a los reportes de seguridad que ya existen en industrias como la aviación.
• Cómo responden los gobiernos de Estados Unidos, la Unión Europea, China y el Reino Unido a la idea de una coordinación internacional en materia de IA.
• Qué papel juegan los organismos independientes y la sociedad civil en los diseños regulatorios, un punto todavía sin definiciones concretas.

Lo que todavía no se sabe

El propio Altman reconoció que persisten dudas difíciles de resolver: cuán cerca están los modelos actuales de alcanzar capacidades que vuelvan plausibles los escenarios que describe, qué métricas confiables permiten medir el progreso hacia esos umbrales y quién debería certificar que un sistema cumple con los estándares de seguridad. Tampoco está definido el alcance que tendría una eventual autoridad federal de supervisión ni el peso real de los auditores independientes en las decisiones de despliegue. Mientras esos puntos no se aclaren, la advertencia de Altman funciona como un llamado a fijar reglas antes de que la tecnología supere la capacidad de controlarla.