Una versión en pruebas de OpenAI elude todos los controles y provoca el mayor ciberataque de una IA

Llegó el día en el que la IA se convierte en el peor ciberatacante. Tenía que pasar. Y no era cuestión de años, sino de días. Una de las versiones más avanzadas de OpenAI ha conseguido escapar al control de sus dueños para cometer una fechoría, por ahora menor al no provocar daños materiales, pero que pone de manifiesto una situación potencialmente catastrófica. Las IAs más avanzadas son infinitamente más inteligentes que los creadores que las han diseñado. Son capaces de retroalimentarse con la generación de su propio conocimiento y generar una espiral exponencial de sabiduría que, imprevisiblemente, puede escalar tanto para resolver los principales misterios de la humanidad como para provocar desastres distópicos que mejor no airear. Viene a ser una suerte de doctor Jekyll y Mr. Hyde, es decir, un médico bondadoso y respetado o un tirano malvado y cruel, según cómo le sople el aire.

Según han reconocido los dueños de ChatGPT, una inteligencia artificial que debía probarse dentro de los laboratorios con todas las protecciones posibles, sin acceso a Internet, ha logrado filtrarse entre las rendijas de sus algoritmos, líneas de programación creadas por las propias máquinas, como ocurre con la práctica totalidad del código de los últimos meses. Todo sucedió durante la evaluación de un prototipo, comparable a las más letales pruebas bacteriológicas.En concreto, se trata de un modelo de OpenAI, posiblemente formado por GPT-5.6 Sol y por otra IA hermana pendiente de lanzar (y posiblemente más poderosa que cualquiera de lo visto hasta ahora). Este cóctel sintético ha conseguido asaltar los sistemas de Hugging Face, compañía especializada en proporcionar una plataforma y una comunidad de código abierto para facilitar el desarrollo del aprendizaje automático.

Clem Delangue: «Es algo que esperamos que se vuelva más común con la proliferación de modelos cada vez más cibercapaces»

Si el asunto es peliagudo por sí mismo, su alcance invita al pesimismo tras la lectura de la cuarta línea de un extenso mensaje firmado por Clem Delangue, cofundador y director ejecutivo de Hugging Face, y difundido a través del blog corporativo de OpenAI: «Es algo que esperamos que se vuelva más común con la proliferación de modelos cada vez más cibercapaces«. Es decir, la película de terror de los modelos frontera de IA no ha hecho nada más que empezar.

La estrategia de la compañía de Sam Altman -al ceder su altavoz a Hugging Face- ha consistido en realizar un alarde de transparencia, también condicionado no solo por la litigiosidad propia de los Estados Unidos, sino también por las vísperas de su salida a bolsa. Por unas cosas y otras, OpenAI se hace corresponsable de «un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia».

Por lo tanto, el director ejecutivo de Hugging Face ha optado por compartir los hallazgos preliminares «para ayudar a los responsables de la seguridad a comprender lo sucedido y a calibrar las capacidades actuales de los modelos». Al mismo tiempo, OpenAI «continuará realizando un estudio exhaustivo junto con Hugging Face y compartiremos más detalles sobre las vulnerabilidades, el incidente y los hallazgos una vez finalizada nuestra investigación».

Antes de abrir la puerta a futuros escenarios de pánico, los afectados por el ataque de las IAs detallaron el origen del problema, sucedido durante una evaluación interna. Dichas pruebas de OpenAI pretenden «impulsar a los modelos a realizar ataques avanzados mediante rutas complejas, con el fin de cuantificar sus capacidades cibernéticas, todas ellas de alto riesgo». Nuestras pruebas de rendimiento se ejecutan en un entorno altamente aislado, con acceso a la red restringido a la capacidad de instalar paquetes a través de un software de terceros alojado internamente que actúa como proxy y caché para los registros de paquetes».

No obstante, mientras la versión de la futura IA operaba en el entorno aislado de Hugging Face, los sistemas pusieron por los aires las presuntas cortapisas y destinaron una cantidad considerable de recursos computacionales a la búsqueda de acceso abierto a Internet para resolver el problema de evaluación. Para obtener dicho acceso, los modelos identificaron y explotaron una vulnerabilidad de día cero. Ese término, para los profanos en la materia, viene a ser como mentar la bicha. Es un fallo de seguridad desconocido para el creador del software, sin remedio disponible y donde el fabricante tiene cero días para solucionar el problema al ya estar en manos de atacantes.

Al parecer, durante las pruebas del modelo, la propia inteligencia gestionó a su antojo los privilegios, protecciones y contraseñas para realizar movimientos laterales en el entorno de pruebas. Finalmente, ese tránsito de datos de un dispositivo a otro encontró una puerta de entrada a Internet.

Nadie había mandado esa tarea a la IA, nadie estaba al tanto para vigilarla y nadie podía sospechar dicho sabotaje. Pero todo eso, a partir de ahora, forma parte del paisaje de los futuros modelos de IA. En esta ocasión, los expertos de seguridad de OpenAI descubrieron internamente esta actividad anómala y la reportaron a las alturas. Más vale ponerse un día colorado que ciento amarillo, debieron de pensar en la compañía estadounidense con tal de contener la crisis e iniciar la reconstrucción forense con los modelos de código abierto de la empresa afectada. Entre las cinco medidas adoptadas por OpenAI llama la atención la reflexión final de la compañía: «Este incidente pone de manifiesto la necesidad de fortalecer aún más la alineación de nuestro modelo, las protecciones cibernéticas durante el período de evaluación y la monitorización durante las pruebas internas«.

Por lo tanto, «la principal lección de este incidente es que la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades». Según precisa el blog de OpenAI, el incidente «deja claro que los modelos avanzados pueden descubrir y explotar nuevas vías de ataque en sistemas reales sin necesidad de acceder al código fuente», por lo que subraya «la necesidad de desarrollar capacidades cibernéticas avanzadas junto con medidas de seguridad y herramientas defensivas más sólidas».