OpenAI ha perdido a uno de los líderes más destacados de su equipo de seguridad, David Robinson, que tras cortar amarras con su antiguo empleador, ha publicado un artículo en The Atlantic donde lanza graves acusaciones contra la matriz de ChatGPT por su manejo (al parecer de naturaleza deficitaria) de la seguridad de la IA.
Robinson, que se refiere a la cultura empresarial de OpenAI como una «cultura rota», acusa a la compañía de acelerar en exceso el desarrollo de la denominada IA de frontera (a la que están adscritos los modelos más potentes y avanzados). «El momento del ensayo y el error se ha acabado», asevera Robinson en el artículo.
A juicio de Robinson, los sistemas más avanzados de IA requiere medidas de seguridad comparables con aquellas que ya se aplican en sectores como la energía nuclear y la aviación.
Robinson, que antes de hacer efectiva su dimisión llevaba trabajando tres años y medio en el seno de OpenAI, estuvo involucrado dentro de la compañía en el desarrollo del denominado «Preparedness Framework» de la startup de IA, que es un sistema enfocado específicamente a la evaluación de riesgos para rastrear, medir y mitigar los riesgos asociados a la IA. Robinson supervisó asimismo los informes de seguridad del lanzamiento de doce modelos de IA de frontera.
David Robinson acusa a OpenAI de no hacer lo suficiente para contener los peligros asociados a la IA
A la hora de desarrollar tales modelos, OpenAI hace uso de un enfoque al que la compañía se refiere como «despliegue iterativo» y que implica lanzar sistemas de IA e implementar medidas de seguridad una vez emergen a la superficie problemas en el uso práctico de tales sistemas.
Robinson critica con dureza este enfoque, pues se trata, en su opinión, de un planteamiento a todas luces insuficiente en vista de la extraordinaria celeridad que está tomando el desarrollo de la IA. Al fin y al cabo, las capacidades de los sistemas de IA están evolucionando más rápido que la capacidad de comprensión de los investigadores sobre cómo alinear adecuadamente tales sistemas con los objetivos y los valores de los seres humanos de carne y hueso.
OpenAI se ha pronunciado ya sobre las críticas de David Robinson y un portavoz ha recalcado que la compañía se asegura en todo momento de que sus modelos de IA no se vuelvan tan poderosos como para no poder ser controlados apropiadamente. Y si es necesario, la compañía pausa el entrenamiento de sus modelos de IA y cancela asimismo su lanzamiento.
Las críticas lanzadas por Robinson contra OpenAI se enmarca dentro un debate mucho más amplio sobre el ritmo del desarrollo de la IA. Otras compañías están igualmente bajo la lupa debido a los problemas de seguridad que entrañan sus modelos de IA, que se comportan en ocasiones de manera totalmente inesperada y ajena a los controles.
Imagen cedida por DepositPhotos.com
