OpenAI ha decidido cancelar el lanzamiento de GPT-6.1 Astra, un nuevo modelo de IA que iba a hacer a priori su debut en octubre, por temor a que éste no cumpliera adecuadamente los estándares de seguridad después de que afloraran una serie de problemas en tests internos. Así lo publicaba este lunes The Wall Street Journal.
El modelo, que primigeniamente iba a abrirse paso en ChatGPT y en Codex, estaba diseñado específicamente para ejecutar tareas complejas prescindiendo de la asistencia de personas de carne y hueso.
Saachi Jain, responsable de seguridad de OpenAI, asegura en declaraciones a The Wall Street Journal que GPT-6.1 Astra no cumplió satisfactoriamente con los estándares de la compañía en las pruebas de alineación, las cuales evalúan si un modelo sigue o no las instrucciones humanas.
En tales pruebas GPT-6.1 Astra se mostró al parecer más propenso al engaño que su predecesor. Y en algunos casos no pudo informar con exactitud acerca de las acciones que había ejecutado (o no había ejecutado en su defecto).
El nuevo modelo de IA de OpenAI reveló igualmente problemas a la hora de solicitar a sus hacedores la autorización pertinente para llevar a cabo determinadas tareas. GPT-6.1 Astra ejecutó, no en vano, acciones sin pedir permiso y en ocasiones trató de acceder a herramientas y servicios externos a sabiendas de que este proceder podía entrañar potencialmente riesgos.
OpenAI ya había pausado previamente el entrenamiento de sus modelos más avanzados de IA
La decisión de OpenAI de suspender el lanzamiento de GPT-6.1 Astra se produce a las puertas de la celebración este martes en San Francisco de la conferencia de desarrolladores de la matriz de ChatGPT, donde la compañía levanta habitualmente el telón de productos dirigidos específicamente a desarrolladores de software.
Durante el fin de semana emergió asimismo a la superficie la información de que OpenAI había decidido suspender el entrenamiento de sus modelos más avanzados de IA después de un incidente en el que una inteligencia artificial se las había ingeniado para obtener respuestas de un chatbot externo en un entorno de prueba aparentemente seguro a pesar de que no tenía supuestamente acceso a la red de redes (a la que accedió tras explotar una serie de vulnerabilidades en la red). La compañía asegura que reanudará única y exclusivamente el entrenamiento de sus modelos más avanzados de IA cuando tenga la confianza de contar con «salvaguardias adicionales».
Los incidentes protagonizados por modelos de IA se han sucedido en el transcurso de los últimos meses. Uno de los incidentes más sonados tiene precisamente como protagonista a un agente de IA de OpenAI, que, tal y como trascendió el pasado mes de julio, logró escapar de un entorno de pruebas para atacar los sistemas de otra empresa de inteligencia artificial: la startup Hugging Face.
A principios de este mes Darío Amodei, CEO de Anthropic, instaba a la industria tecnológica a desacelerar el desarrollo de modelos de IA de frontera a fin de permitir la implementación de medidas de seguridad que prevengan eventuales desmanes. Y tanto Sam Altman, CEO de OpenAI, como Elon Musk, CEO de SpaceX, respaldaron la propuesta de Amodei.
