La IA, que era ya contemplada con recelo por un buen número de personas, ha visto aún más devaluada su imagen desde que hace un par de semanas fueran reportados varios ciberataques perpetrados de manera autónoma por la tecnología de moda.
OpenAI fue la primera compañía en informar de la intrusión de uno de sus agentes de IA en la empresa rival Hugging Face. Después trascendió que el ciberataque a Hugging Face no fue aislado y fueron comprometidos también los sistemas de otras empresas. Y en medio del polvorín Anthropic y Meta terminaron saliendo también a la palestra para reportar ciberataques llevados a cabo por sus sistemas de IA.
Tanto OpenAI como Anthropic y Meta han admitido durante los últimos días que en auditorías de seguridad y en entornos de pruebas sus modelos avanzados de IA fueron capaces de identificar y explotar de manera completamente autónoma vulnerabilidades en diferentes sistemas.
Si hasta hace no mucho la IA se utilizaba principalmente para generar textos o escribir código, ahora esta tecnología está siendo asociada por primera vez a actividades directamente emparentadas con el cibercrimen (como sortear barreras de seguridad o detectar de manera automática vulnerabilidades en los sistemas).
De los chatbots de IA a los mucho más poderosos agentes de IA
La razón del viraje de esta tecnología hacia actividades potencialmente criminales está en la metamorfosis de los chatbots en agentes de IA. Mientras los primigenios chatbots de IA generaban meramente textos e imágenes, los nuevos agentes de IA ejecutan de manera independiente comandos, controlan software y utilizan con plena autonomía interfaces en la red de redes. En tanto en cuanto los desarrolladores dan a los modelos de IA cada vez más margen de acción para resolver tareas complejas de programación, los riesgos aumentan también de manera inevitable.
No puede colegirse, no obstante, de manera absolutamente tajante que los agentes díscolos de IA hayan actuado totalmente por voluntad propia. Tales agentes actuaron en base a instrucciones facilitadas por seres humanos de carne y hueso con el último objetivo de comprobar la seguridad de determinados sistemas. ¿El problema? Que aun actuando en base instrucciones humanas, a tales agentes de IA se les dio también mucha autonomía. Y confrontados con una tarea específica (encontrar una manera de acceder al servidor X), urdieron a continuación de manera independiente la estrategia necesaria para lograr el objetivo sin supervisión humana.
Los virus tradicionales o troyanos siguen, por el contrario, una secuencia programada de manera mucho más rígida. Y si el sistema que se disponen a atacar cambia sus defensas, sus ataques normalmente naufragan. Un sistema de IA puede reaccionar, en cambio, de manera mucho más flexible, pues analiza errores en tiempo real, realiza ajustes en su estrategia y pone en práctica nuevos métodos para conseguir sus objetivos (de manera muy similar a como operaría un «hacker» de carne y hueso, pero con mucha más celeridad).
¿Un ejercicio de transparencia o marketing puro y duro?
El hecho de que OpenAI, Anthropic y Meta estén informando públicamente de ciberataques que dejan potencialmente en muy mal lugar a sus sistemas de IA (y alientan, de hecho, el miedo a esta tecnología) puede parecer un contrasentido. No obstante, si están haciendo públicos tales ciberataques no es tanto por estar enarbolando la bandera de la transparencia (como podría parecer a bote pronto) como por estar siguiendo presumiblemente una calculada estrategia de marketing. De acuerdo con los expertos, la admisión de ciberataques por parte de OpenAI, Anthropic y Meta obedecería a un intento de llevar en volandas sus títulos en los mercados bursátiles. Al fin y al cabo, el mensaje subliminal que subyace en tales ciberataques es que sus sistemas de IA son tan poderosos que pueden potencialmente dejar fuera de juego a complejísimos sistemas informáticos.
Conviene asimismo hacer notar que ninguno de los ciberataques reportados por OpenAI, Anthropic y Meta se tradujeron en daños irreparables y a gran escala y no afectaron en ningún caso al consumidor final. Las ataques tuvieron lugar mayoritariamente en entornos controlados de pruebas o fueron identificados en su defecto en una fase muy temprana. Existe, no obstante, el riesgo de que la imagen de las tres compañías se erosione de alguna manera porque admitir públicamente ciberataques supone también reconocer que hay fallos en sus mecanismos de seguridad.
Hablamos además de mecanismos de seguridad que se antojan a priori excepcionalmente robustos y provistos de diferentes capas, ya que, por una parte, los modelos de IA son entrenados para rechazar solicitudes relacionadas con ciberataques, y por otra, se topan de bruces con filtros automáticos que detectan comportamientos sospechosos y los interrumpen de manera inmediata.
¿Se disparará el cibercrimen por culpa de la IA?
A los expertos les preocupa que, aun implementando mecanismos de seguridad de varias capas, las barreras de entrada al cibercrimen hayan fallado estrepitosamente. Y ello podría significar que en el futuro terminen disparándose los crímenes relacionados con el «phishing», los robos de identidad y los ataques a pymes (cuyos sistemas de seguridad no son tan robustos como los de las grandes empresas).
Si la IA simplifica ciberataques que eran otrora extraordinariamente complejos, ello puede terminar repercutiendo también en el consumidor final (y no sólo en las empresas). Al fin y al cabo, la calidad de los emails de «phishing», de las webs «fake» y de las llamadas telefónicas fraudulentas ha aumentado considerablemente en los últimos tiempos gracias a la IA. Y muchos de los cibercrímenes perpetrados con la mediación de la IA están dirigidos, de hecho, contra los usuarios privados de la banca online.
