Los agentes de IA se OpenAI vuelven a ser noticia por sublevarse y perpetrar acciones que en este caso han puesto potencialmente en riesgo la seguridad nacional de Estados Unidos. A la luz de estas nuevas y preocupantes revelaciones, la celebérrima startup de IA ha tomado la determinación de pausar el entrenamiento de sus modelos más avanzados de inteligencia artificial.
De acuerdo con la matriz de ChatGPT, sus agentes de IA habrían accedido a información públicamente disponible en las webs SEC.gov y Investor.gov de la Comisión de Bolsa y Valores (SEC) de Estados Unidos. Y habrían tenido asimismo acceso a datos demográficos y económicos extraídos de la Oficina del Censo de Estados Unidos.
OpenAI especifica, eso sí, que no ha hallado evidencia de información comprometida, uso indebido de credenciales o acceso a información no pública en ninguna de las páginas web afectadas.
La compañía liderada por Sam Altman asegura que sus agentes de IA trataron asimismo a acceder sin éxito a la web del Departamento de Educación de Estados Unidos, algo que no habría tenido, no obstante, impacto alguno ni en la información contenida en esa web ni en sus bases de datos.
En los últimos días se ha descubierto asimismo que un agente de IA desarrollado por OpenAI «hackeó» el pasado mes de junio un portal del sistema público de salud de Australia, donde tuvo acceso a archivos públicos y no públicos
Por otra parte, Transluce, un laboratorio independiente especializado en IA, afirma que agentes vinculados a OpenAI habrían tratado repetidamente de acceder sin éxito a la biblioteca digital de la Universidad de Nuevo México para recuperar una imagen. Además, y mientras buscaban datos sobre la Universidad de Iowa, tales agentes habrían intentado extraer informes de una plataforma pública bautizada con el nombre de Data USA.
La IA de OpenAI ya fue noticia por «hackear» hace unos meses los sistemas de Hugging Face
Transluce informa igualmente de intentos fallidos de naturaleza rudimentaria cuyo último objetivo habría sido acceder a la web de derechos civiles del Departamento de Educación de Estados Unidos. Según Transluce, se habrían producido asimismo tentativas (que no pudieron ser atribuibles en su totalidad a OpenAI) de acceder a las webs del Departamento de Justicia y deñ Departamento de Comercio de Estados Unidos, así como a las páginas gubernamentales de los estados de California, Maryland, Illinois, Texas y Nueva York.
Tras la revelación de los nuevos incidentes protagonizados por sus agentes de IA OpenAI ha movido ficha y ha anunciado la suspensión del entrenamiento de sus modelos más poderosos de inteligencia artificial. La compañía asegura que reanudará única y exclusivamente el entrenamiento de sus modelos más avanzados de IA cuando tenga la confianza de contar con «salvaguardas adicionales». Y añade asimismo que probablemente tenga que emprender pausas similares en el futuro a medida que la IA avance y emerjan eventualmente nuevos problemas en el horizonte.
OpenAI enfatiza que, si bien los nuevos incidentes son menos series que los reportados previamente, son los primeros que se producen desde que la compañía implementara medidas adicionales de seguridad tras el ataque que agentes de IA perpetraron hace unos meses contra Hugging Face. Y ello indicaría que se necesitan ulteriores salvaguardias de seguridad, insiste OpenAI.
Todo apunta además a que próximamente podrían ver la luz nuevos incidentes relacionados con actividades ejecutadas de manera autónoma por los agentes de IA de OpenAI. Por lo pronto, la compañía ya ha informado a «docenas» de organizaciones (muchas de las cuales son entidades de naturaleza pública y gubernamental) de que su software interactuó de manera autónoma con sus páginas web.
