La semana pasada saltó a los titulares la inquietante noticia de que un agente de IA de OpenAI había logrado escapar de un entorno controlado de pruebas y había terminado perpetrando un ciberataque contra Hugging Face. Y unos cuantos días después emerge otra noticia tan perturbadora o más que la anterior. La matriz de ChatGPT admitió este martes que el agente díscolo de IA que logró infiltrarse en la startup de inteligencia artificial Hugging Face atacó también a otras empresas.
En un post publicado en su blog corporativo OpenAI reconoce haber identificado un pequeño número de casos donde sus modelos de IA se valieron de credenciales públicamente expuestas para acceder a servicios de terceros.
La compañía liderada por Sam Altman ha podido determinar por ahora que su agente rebelde de IA usó las credenciales de cuatro cuentas para infiltrarse en cuatro servicios diferentes como parte del ciberataque dirigido contra Hugging Face. OpenAI especifica además que su agente de IA accedió también a varias cuentas como parte de otras evaluaciones.
De acuerdo con OpenAI, una de las cuatro cuentas comprometidas se usó como ruta de entrada y de salida y otra cuenta se empleó para el almacenamiento de datos. Por su parte, a las dos cuentas restantes se accedió sólo en modo lectura y no se utilizaron en ningún momento para atacar a Hugging Face.
Aunque OpenAI no especifica los nombres de las empresas afectadas por los ciberataques, Reuters asegura que el agente díscolo de la compañía estadounidense comprometió una cuenta de cliente de la empresa radicada en Nueva York Modal Labs. El agente explotó específicamente código vulnerable escrito por el cliente cuya cuenta fue comprometida que estaba alojado en la plataforma de computación en la nube de Modal Labs. No obstante, más allá de esta cuenta en particular, la plataforma de Modal Labs no se vio comprometida al parecer en ningún momento.
OpenAI insiste, por su parte, en que no ha identificado ninguna otra actividad perpetrada por su agente rebelde de IA que revistiera tanta gravedad como el ciberataque contra Hugging Face.
La semana pasada OpenAI reveló que uno de sus agentes de IA había logrado zafarse de un entorno cerrado de pruebas y, tras conectarse a la red de redes, logró irrumpir en Hugging Face. Este agente alojaba en sus entrañas GPT-5.6 Sol, el modelo de IA más avanzado de OpenAI, y otro modelo todavía más potente que ha visto aún la luz.
Al parecer el agente se embarcó en una ola de ciberataques que se prolongó durante varios días y OpenAI no se percató del incidente hasta que había transcurrido una semana.
