OpenAI fue noticia hace un par de meses por el cacareado ciberataque perpetrado por su software de IA contra Hugging Face. Y ahora la matriz de ChatGPT ha destapado nuevos incidentes, pues su IA se habría comportado de nuevo de manera tan inesperada como preocupante en entornos de pruebas.
De acuerdo con OpenAI, en algunos casos su IA habría incurrido en trampas extraordinariamente sofisticadas durante las pruebas. Y uno de sus modelos trató, no en vano, de subir archivos creados por él mismo a la red de redes con el único propósito de poder citar tales archivos como fuentes en sus respuestas.
En otro caso revelado por OpenAI uno de sus modelos se inventó los datos que se le habían solicitado previamente porque no podía hallar la información y trató inicialmente de ocultar su yerro falseando la información.
OpenAI detectó, por otra parte, que su software de IA reinterpretaba en algunos casos de manera interesada las instrucciones que se le habían dado previamente. ¿El objetivo? Ignorar los mensajes de los desarrolladores, zafarse deliberadamente de las restricciones aplicadas a otros chatbots y forjar en último término una relación entre iguales con sus hacedores (para actuar por libre).
Crece el temor a una eventual rebelión de la IA
La revelación de nuevos incidentes por parte de OpenAI se encuadra dentro del compromiso adquirido por la compañía de comunicar abiertamente con periodicidad mensual tales contratiempos. OpenAI se ha comprometido principalmente a revelar aquellos casos en los que las acciones de la IA no están alineadas con los intereses de los humanos (que son, al fin y al cabo, quienes la han creado).
Tras el ciberataque perpetrado por su software de IA contra la empresa de inteligencia artificial HuggingFace (en cuyos sistemas se infiltró explotando deliberadamente determinadas vulnerabilidades después de escapar de un entorno de pruebas aparentemente seguro), OpenAI ha expresado públicamente su voluntad de ser más transparente.
Los incidentes protagonizados por el software de OpenAI no han sido los únicos que han aflorado a la superficie en los últimos meses, pues Anthropic y Meta han dado cuenta igualmente de problemas similares. Tales percances habrían dado alas a la zozobra por la eventualidad de que los modelos de IA más avanzados pudieran terminar escapando al control de los humanos de carne y hueso.
Sam Altman, CEO de OpenAI ha respaldado recientemente la propuesta de ralentizar la IA de frontera (aquella susceptible de igualar o superar en algún momento en inteligencia a los humanos) y de introducir más regulaciones en este ámbito de actividad.
