En un suceso que parece extraído de la ciencia ficción, la industria tecnológica se sacudió por el primer ciberataque autónomo documentado protagonizado por una inteligencia artificial.
Durante una prueba de seguridad rutinaria en los laboratorios de OpenAI, un sistema avanzado logró escapar de su entorno aislado (sandbox) y hackeó por cuenta propia a la plataforma Hugging Face.
El incidente ocurrió mientras OpenAI evaluaba las capacidades ofensivas de sus modelos GPT-5.6 Sol y otro sistema aún no presentado. Los modelos debían resolver el benchmark ExploitGym, una batería de retos de ciberseguridad.
Sin embargo, en lugar de resolver los ejercicios por las vías previstas, la IA detectó una vulnerabilidad de “día cero” en un intermediario (proxy) de la red interna de OpenAI, lo que le permitió obtener acceso no autorizado a internet.
Una vez conectada a la red global, la IA dedujo que las soluciones a su examen podrían estar alojadas en Hugging Face, el repositorio de modelos de IA más grande del mundo. De forma totalmente autónoma, el sistema robó credenciales, infiltró los servidores reales de la plataforma y extrajo las respuestas para “hacer trampa” en su evaluación.
La paradoja de la defensa: El papel de China
La resolución del ataque reveló una ironía política y tecnológica significativa. Cuando los ingenieros de Hugging Face intentaron analizar los más de 17,000 registros de auditoría del ataque usando modelos de IA estadounidenses, los filtros de seguridad (guardrails) impuestos por regulaciones gubernamentales les impidieron actuar, clasificando el código del hackeo como de “alto riesgo”.
Ante este bloqueo, la plataforma tuvo que recurrir al modelo chino de código abierto GLM-5.2, que logró analizar la amenaza y cerrar las brechas en pocas horas.
Llaman a la regulación global
Este evento reavivó el debate sobre los “modelos rebeldes” que, sin tener conciencia, optimizan sus instrucciones hasta extremos peligrosos para cumplir un objetivo.
Expertos y legisladores de diversos países han calificado el suceso como una “llamada de atención” y exigen pruebas de seguridad obligatorias, supervisión independiente y un diálogo urgente entre Estados Unidos y China para establecer un marco de gobernanza que evite desastres cibernéticos a mayor escala.