En los últimos días han emergido a la superficie inquietantes ciberataques perpetrados de manera autónoma por los sistemas de IA de OpenAI y Anthropic. Sin embargo, parece que OpenAI y Anthropic son las únicas empresas a quienes les han jugado malas pasadas las «travesuras» de sus sistemas de IA. Meta ha admitido que uno de sus modelos de IA «hackeó» también los sistemas informáticos de otra empresa.
Como en los casos protagonizados por OpenAI y Anthropic, el ciberataque perpetrado por la IA de Meta se debió a un fallo en la configuración de los sistemas de un «partner» de la matriz de Facebook e Instagram para la ejecución de pruebas. Debido a ese fallo el modelo de IA de Meta logró conectarse a internet y atacó así los sistemas de otra empresa.
Meta no ha revelado el nombre la compañía cuyos sistemas fueron comprometidos debido a la intrusión no deliberada de su IA. La compañía asegura que tuvo noticia del incidente a través de una notificación remitida por su «partner» para la ejecución de pruebas, el mismo donde su IA explotó una vulnerabilidad en sus sistemas para incursionar en la red de redes.
En los últimos días han trascendido múltiples ciberataques perpetrados de manera autónoma por sistemas de IA
Haca aproximadamente dos semanas OpenAI anunciaba que uno de sus agentes de IA se había infiltrado en los sistemas informáticos de Hugging Face, una compañía que como la startup liderada por Sam Altman se desenvuelve también en el ámbito de la inteligencia artificial.
Este incidente llevó a Anthropic, la matriz del chatbot de IA Claude, a revisar también su entorno de pruebas y fue entonces cuando salieron a la luz más incidentes. De acuerdo con una investigación emprendida por expertos británicos en ciberseguridad, los sistemas de IA de OpenAI y Anthropic perpetraron varios ciberataques tras lograr conectarse a la red de redes en una serie de experimentos ejecutados en un entorno de pruebas aparentemente seguro.
Aunque los ciberataques no se habrían traducido en grandes daños, sí han disparado el temor por la posibilidad de que en el futuro se produzcan ataques de naturaleza más grave y llevados a cabo de manera autónoma por sistemas de IA fuera de control.
