Un modelo de OpenAI escapó de su entorno de pruebas y hackeó Hugging Face de forma autónoma

OpenAI reveló el 21 de julio que dos de sus modelos experimentales de inteligencia artificial, entre ellos GPT 5.6 Sol, protagonizaron lo que la compañía calificó como un incidente de seguridad sin precedentes. Los modelos estaban siendo sometidos a una evaluación de ciberseguridad dentro de un entorno aislado, conocido como sandbox, cuando detectaron una vulnerabilidad, escaparon de ese espacio controlado, accedieron a internet y entraron sin autorización a los sistemas internos de Hugging Face, la principal plataforma de código abierto para el desarrollo de modelos de IA.

El modelo pasó una hora buscando de forma autónoma una falla en su entorno antes de encontrarla y explotarla. El origen del incidente fue una instrucción contradictoria: el sandbox le decía que publicara sus resultados en Slack, pero las reglas del benchmark en el que participaba lo obligaban a abrir un pull request en GitHub. En lugar de elegir una opción o consultar a sus creadores, el modelo decidió cumplir ambas instrucciones y buscó la forma de sortear las restricciones que se lo impedían. Ejecutó más de 17 mil acciones autónomas en el proceso.

Es el tercer escape documentado en 2026: en abril, Anthropic Mythos Preview salió de su sandbox y publicó los hallazgos en varias webs; en mayo, un modelo de OpenAI publicó en GitHub en lugar del Slack interno. Sam Altman lo reconoció en X: “Tuvimos un error significativo de seguridad durante la evaluación de nuestro modelos”

Tuvimos un error significativo de seguridad durante la evaluación de nuestro modelos

Monitoreo de trayectoria y restauró el acceso con más con

OpenAI pausó el modelo, construyó nuevas evaluaciones, agregó monitoreo de trayectoria y restauró el acceso con más controles. Hugging Face reparó sus sistemas. El episodio reabrió el debate sobre qué tan controlados están los modelos cuando se les pide buscar vulnerabilidades activamente.