El esperado debut de OpenAI en los parqués bursátiles no tendrá lugar finalmente este año. Sam Altman, CEO de la matriz de ChatGPT, ha señalado que el acalorado debate actual sobre los peligros (potencialmente letales) que podría traer consigo la IA en su vertiente más avanzada está detrás del aplazamiento de la Oferta Pública Inicial (OPI) de OpenAI.
«Sería desacertado salir a bolsa justamente en este momento», asevera Altman en una entrevista recientemente concedida a Fortune. Preguntado sobre la posibilidad de aplazar a 2027 el desembarco de OpenAI en los mercados bursátiles. Altman se muestra tajante. «No es algo que vaya a ocurrir definitivamente en 2026», dice.
OpenAI no saldrá finalmente a bolsa en 2026
El «hype» que aletea actualmente en torno a la IA fue propiciado en buena medida por OpenAI cuando ChatGPT, su celebérrimo chatbot de inteligencia artificial, salió del cascarón hace aproximadamente cuatro años. Con su OPI la empresa capitaneada por Altman espera no sólo atraer decenas de miles de millones de dólares, sino también conquistar una valoración de mercado extraordinariamente elevada. OpenAI lleva trabajando en su debut en la bolsa desde hace varios meses
En el transcurso de las últimas semanas ha emergido a la superficie un agitado debate directamente emparentado con los riesgos de la IA. El origen de ese debate hunde sus raíces en una serie de ciberataques perpetrados por sistemas de IA que escaparon de entornos de pruebas supuestamente seguros.
El debate en robo a la seguridad de la IA ha sido avivado en los últimos días por el investigador Jacob Coxon. Vinculado profesionalmente a Anthropic, Coxon decidió cortar amarras con la compañía al tiempo que lanzaba una preocupante advertencia. A juicio de Coxon, las grandes empresas desarrolladoras de la IA están actuando irresponsablemente y «jugando con nuestras vidas».
Las controvertidas declaraciones de Coxon recibieron más tarde el espaldarazo del investigador de Anthropic Evan Hubinger. Desde el particular punto de vista de Hubinger, que en el seno de Anthropic es parcialmente responsable de garantizar que la IA esté plenamente alineada con los intereses humanos, el riesgo de que la inteligencia artificial se salga de madre y termine matando a la raza humana será superior al 10% en el transcurso de la próxima década.
Tras las advertencias efectuadas por Coxon y Hubinger, Dario Amodei, CEO de Anthropic, salió igualmente a la palestra el pasado sábado y en un ensayo hizo un llamamiento a la industria de la IA para frenar de manera coordinada el desarrollo de esta tecnología.
El CEO de Anthropic quiere que la industria de la IA desacelere de manera coordinada el desarrollo de esta tecnología
Amodei considera que desacelerar el trepidante ritmo de desarrollo de la IA es necesario a fin de disponer de más tiempo para manejar adecuadamente los riesgos asociados a esta tecnología.
«Necesitamos ralentizar el ritmo al que se mejoran las capacidades de los modelos de IA. El progreso seguirá pareciendo muy rápido, pero deberemos usar el tiempo que ganemos muy sabiamente», indica Amodei en un ensayo publicado en su página web.
Amodei dice temer que en un lapso de entre seis y doce meses enjambres de sistemas de IA podrían terminar desarrollando la capacidad de tomar la red de redes en su conjunto y causar daños valorados en cientos de miles de millones de dólares.
En su ensayo el CEO de Anthropic se refiere específicamente a los ciberataques perpetrados en las últimas semanas por agentes de IA que escaparon de entornos de pruebas y atacaron subrepticiamente los sistemas IA de otras empresas.
Amodei llama a las empresas líderes en el ámbito de la IA radicadas en «países democráticos» que se coordinen para desacelerar el desarrollo de la IA. El objetivo es establecer «estándares comunes de seguridad y límites para el avance descontrolado de la IA». De acuerdo con el CEO de OpenAI, las propias empresas de IA deberían dar forma a las normas con el soporte de los gobiernos. Y ulteriormente los ejecutivos de estados democráticos deberían asimismo tratar de llegar a acuerdos con regímenes autoritarios para controlar igualmente el ritmo de desarrollo de la IA.
¿Debería ser controlado por auditores externos el desarrollo de la IA?
El CEO de Amodei apela igualmente a los grandes «players» de la IA a garantizar a auditores externos acceso permanente a sus sistemas para monitorizar de manera externa el cumplimiento de las regulaciones y obligaciones en materia de seguridad.
Para predicar con el ejemplo, Anthropic se ha comprometido a introducir desde ya esas auditorías externas (sin coordinarse a priori con otras empresas de IA). «Anthropic se ha comprometido de manera unilateral a adoptar esta medida», señala Amodei. La idea puesta sobre la mesa por Anthropic recuerda hasta cierto punto a la monitorización de los respectivos arsenales nucleares de Rusia y Estados Unidos por parte de auditores externos.
Amodei insiste en que la intención de Anthropic no es dar el alto al entrenamiento de los modelos de IA o frenar el progreso tecnológico, sino ganar tiempo para calibrar adecuadamente la seguridad de tales modelos. Los argumentos esgrimidos por Amodei han sido respaldados asimismo por Elon Musk, que asegura que la IAG (Inteligencia Artificial General) representa un riesgo significativamente mayor que las armas nucleares.
