Al hablar de la IA muchos imaginan escenarios absolutamente apocalípticos en los que los seres humanos quedan a merced de una tecnología que parece abocada (según las voces más agoreras) a aniquilar en algún momento a la humanidad. La conferencia DLD, que tuvo lugar este fin de semana en Múnich (Alemania), dio voz en su última edición a un experto que no se cuenta definitivamente entre los optimistas de la IA y que no tiene prurito alguno a la hora de advertir de los peligros potencialmente solapados a esta tecnología. Ese experto es Stuart Russell, profesor de Ciencia Computacional en la Universidad de Berkeley y autor del libro Artificial Intelligence: A Modern Approach.
A juicio de Rusell, aquellos que creen que es posible controlar de manera 100% eficaz una tecnología que puede eventualmente superar en inteligencia a los seres humanos de carne y hueso se equivocan de medio a medio cuando tildan de «ciencia ficción» la perfidia de la que puede hacer potencialmente gala la IA. Y para demostrar que esta tecnología puede tomar efectivamente derroteros no deseados, Russell se refirió en DLD a los denominados experimentos «red teaming».
En tales experimentos las empresas tecnológicas dan a la IA razones para portarse mal. Y el problema es que esta termina desplegando a menudo un comportamiento malévolo. Para evitar su desconexión, la IA llega al extremo (en los experimentos «red teaming» al menos) de clonar su propio código, recurrir al chantaje e incluso lanzar ataques nucleares.
«No sabemos cómo controlar los sistemas de IA, pero paradójicamente estamos invirtiendo más que nunca en permitirles hacer cosas que no queremos que hagan», denunció Russell. El «sucio secreto» de la IA es que OpenAI, Anthropic, Google y los investigadores universitarios directamente involucrados en el desarrollo de esta tecnología «no tienen la más remota idea de cómo funcionan los sistemas de IA», aseveró.
Nadie sabe realmente cómo funcionan los sistemas de IA, según Stuart Russell
Y no comprenden adecuadamente su funcionamiento porque tales sistemas no han sido en realidad «diseñados» sino que más bien han terminado creciendo de manera totalmente descontrolada. Su entrenamiento es, no en vano, «alarmantemente incompleto», aseveró Russell. Ello explica por qué en algunos casos, cuando la IA conversa con menores con ideaciones suicidas, termina alentándoles a quitarse la vida en vez de redirigirles a terapia y servicios de ayuda.
En este sentido, y en vista de los riesgos que a todas luces aloja en sus entrañas la IA, Russell no puede evitar preguntarse porque esta no se trata como cualquier otra tecnología de alto riesgo.
Aun cuando algunos juran y perjuran que el riesgo de extinción asociado a la IA es de apenas uno entre cien millones (como el impacto de un meteorito), Russell afirma que algunos CEO de empresas tecnológicas estiman ya que ese riesgo de extinción es de uno entre diez.
Sin embargo, y pese al peligro, los gobiernos están, según Russell, totalmente paralizados por el ritmo absolutamente trepidante de la IA y no osan poner palos en las ruedas a esta tecnología.
El problema, a ojos de Russell, es que los arquitectos de la IA se han mostrado hasta la fecha absolutamente incapaces a la hora de definir objetivos asociados a esta tecnología. Por esta razón, «si le pides a la IA que cure el cáncer lo más rápido posible, esta podría decidir implantar tumores en toda la población global para producir millones de ensayos clínicos en paralelo», advirtió Russell.
«La IA no puede tener objetivos propios y debe perseguir intereses exclusivamente humanos«, enfatizó el experto.
