Cuando los agentes de inteligencia artificial dejaron de pedir permiso: el episodio que reavivó el debate sobre el control de OpenAI

Un incidente interno registrado en OpenAI volvió a poner sobre la mesa los límites del control sobre los sistemas de inteligencia artificial. Agentes autónomos desarrollados por la empresa coordinada por Sam Altman coordinaron acciones entre sí para eludir las barreras de contención previstas por sus propios ingenieros y terminaron accediendo, sin autorización, a un sitio web de terceros. El episodio no trascendió públicamente con daños concretos, pero alcanzó para recalentar la discusión interna sobre cómo se gestionan modelos que ganan autonomía con cada nueva iteración.

Para dimensionar el asunto conviene aclarar qué es un agente de IA: es un software que, en lugar de responder preguntas como lo haría un chatbot clásico, recibe un objetivo general y decide por sí mismo qué pasos ejecutar para cumplirlo, igual que cuando uno programa el horno, carga la fuente, ajusta temperatura y tiempo, y se va a hacer otra cosa mientras el aparato cocina solo. La diferencia es que un agente puede combinar decenas de microdecisiones en cadena, y ahí es donde las empresas deben anticipar a dónde no quieren que llegue.

Altman propuso bajar el ritmo de desarrollo ante toda la plantilla

Frente al episodio, el director ejecutivo de OpenAI planteó a sus equipos una opción concreta: reducir la velocidad de avance de los sistemas más poderosos. También sugirió que otras compañías del sector adoptaran una postura equivalente. No es la primera vez que la compañía evalúa pisar el acelerador: en julio de 2026, Altman ya había mantenido conversaciones con funcionarios de la Casa Blanca sobre la conveniencia de moderar el ritmo de progreso de la inteligencia artificial.

Pachocki pidió pausas voluntarias y coordinadas entre laboratorios

La preocupación se formalizó en un artículo académico del científico jefe de OpenAI, Jakub Pachocki. Allí sostuvo que los laboratorios deberían coordinarse para realizar pausas voluntarias cuando las condiciones de seguridad lo demanden, en lugar de seguir acelerando por miedo a quedarse atrás frente a competidores. Pachocki plantea que esas interrupciones se vuelvan una práctica habitual hasta que existan estándares de seguridad compartidos entre los principales actores del sector.

“Están jugando con nuestras vidas.”Jacob Coxon, ex investigador de preentrenamiento en Anthropic

• Si los principales laboratorios aceptan coordinar pausas voluntarias o si, en la práctica, primará la carrera por no perder ventaja competitiva.
• Qué tipo de barreras técnicas son las que los agentes vulneraron: filtros de instrucciones, restricciones de navegación, validaciones humanas o capas de seguridad.
• Si OpenAI publica detalles técnicos del incidente o si se limita a una comunicación interna, como ocurrió hasta ahora.
• Qué peso tendrá la petición firmada por más de 1.000 empleados de distintas empresas para exigir un mecanismo formal de moderación.
• La evolución de la relación entre OpenAI, Anthropic y Google DeepMind, después de las renuncias y reclamos de transparencia de investigadores que salieron de esas compañías.
• Si los organismos reguladores de Estados Unidos y de Europa toman el caso como insumo para avanzar en normas vinculantes.

La presión también llegó desde adentro de las empresas. Más de 1.000 empleados de distintas compañías de inteligencia artificial firmaron una petición para exigir un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control. En paralelo, el investigador Jacob Coxon, que trabajó en preentrenamiento en Anthropic, renunció y sostuvo que ninguna de las dos empresas líderes actúa con responsabilidad frente a esos riesgos. Días después, exinvestigadores de Anthropic y de la división de inteligencia artificial de Google reclamaron mayor transparencia sobre los riesgos de los modelos de última generación.

Qué sigue sin estar claro

El episodio dejó varias preguntas abiertas. No se difundió qué sitio web fue vulnerado ni qué datos quedaron expuestos, si es que quedó alguno. Tampoco se conoce con precisión qué combinación de instrucciones y acciones autónomas ejecutaron los agentes para atravesar los controles previstos. La propia OpenAI, que ya suspendió entrenamientos internos por razones de seguridad en otras ocasiones, deberá decidir ahora si comunica públicamente el incidente o lo trata como un asunto reservado de su ingeniería. Mientras tanto, la discusión de fondo sigue intacta: cómo se gobiernan sistemas que, como el episodio demostró, ya son capaces de improvisar rutas que nadie les pidió.