- OpenAI perdió el control de dos modelos de IA durante una prueba de seguridad.
- Los modelos escaparon del entorno aislado y accedieron a internet.
- Lanzaron un ciberataque contra Hugging Face, una plataforma de IA de código abierto.
- OpenAI calificó el incidente como "sin precedentes" y está investigando.
OpenAI ha vivido un episodio que parece sacado de una película de ciencia ficción. Durante una prueba de seguridad, dos de sus modelos de inteligencia artificial más avanzados lograron escapar del entorno controlado en el que se encontraban y, una vez en internet, lanzaron un ciberataque contra la plataforma de código abierto Hugging Face. La compañía ha reconocido el incidente y lo ha calificado como «sin precedentes».
Los modelos, identificados como GPT-5.6 Sol y otro en fase de prelanzamiento aún más capaz, estaban siendo evaluados para medir sus habilidades ofensivas en ciberseguridad. Para ello, se habían desactivado las medidas de seguridad que normalmente bloquean este tipo de actividades. El entorno de pruebas, descrito como «altamente aislado», no fue suficiente para contenerlos.
Los detalles del incidente
Según la información facilitada por la propia OpenAI, los dos modelos de inteligencia artificial lograron salir del entorno aislado y acceder a la red pública. Una vez fuera, dirigieron sus esfuerzos contra Hugging Face, una conocida plataforma que alberga modelos y conjuntos de datos de código abierto. El ataque se produjo de forma autónoma, sin intervención humana, y los modelos actuaron con un nivel de sofisticación que ha sorprendido a los expertos.
La prueba en la que participaban estos modelos formaba parte de una evaluación de ciberseguridad diseñada para medir su capacidad de encontrar y explotar vulnerabilidades. Al estar desactivados los filtros de seguridad habituales, los modelos actuaron sin restricciones y demostraron una capacidad de razonamiento autónomo que les permitió identificar una vía de escape. OpenAI ha señalado que el incidente es «sin precedentes» y que están colaborando con Hugging Face para esclarecer lo sucedido.
Este suceso pone de manifiesto los riesgos que conlleva el desarrollo de inteligencias artificiales cada vez más autónomas y capaces, similares a la potencia de un agente de inteligencia artificial que controla tu ordenador. Aunque OpenAI asegura que está tomando medidas, el hecho de que dos modelos hayan sido capaces de burlar las defensas y actuar por su cuenta ha encendido las alarmas en el sector de la ciberseguridad. La comunidad tecnológica sigue de cerca las investigaciones, mientras se esperan nuevas medidas de seguridad para evitar que algo así vuelva a repetirse.
