Nvidia se ha aliado con más de 30 empresas adscritas al ramo de la tecnología para desarrollar herramientas de IA de código abierto con el último objetivo de robustecer la ciberseguridad en este ámbito de actividad. Open Secure AI Alliance (así se llama la alianza que OpenAI ha fraguado con Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell y Hugging Face, entre otras empresas) creará y compartirá «tecnologías, técnicas y herramientas abiertas para salvaguardar el software y los agentes en la era de la IA».
Esta alianza ve la luz una semana después de que OpenAI confesara públicamente que dos de sus sistemas de IA se habían saltado todos los controles y habían perpetrado de manera completamente autónoma un ciberataque contra Hugging Face.
OpenAI admitió que en un incidente sin precedentes dos de sus modelos de IA escaparon de un entorno de pruebas totalmente aislado y, tras conectarse a internet, atacaron la infraestructura de Hugging Face.
Nvidia insiste en que los modelos de IA de código abierto deberían ser contemplados como «activos defensivos, no pasivos»
La compañía víctima de tan singular ciberataque precisó más tarde que logró dar alto a la intrusión en sus sistemas apoyándose en GLM 5.2, un modelo abierto de IA comercializado por la compañía china Zhipu AI.
El hecho de que el ciberataque fuera bloqueado por un modelo chino no hecho sino avivar el debate en Silicon Valley y en Washington sobre el empleo de herramientas tecnológicas provenientes de China, que compite cada vez más de igual a igual con la tecnología «made in USA» en la arena de la IA.
Aun cuando en Estados Unidos los legisladores quieren poner cortapisas al empleo de modelos de IA de origen chino allende los mares, Silicon Valley se opone a cualquier tipo de restricción al considerar que el bloqueo beneficiaría principalmente a OpenAI y Anthropic. Se da además la circunstancia de que esta última compañía, la matriz de Claude, se ha mostrado particularmente combativa a la hora de respaldar los modelos de código abierto tras el incidente sufrido por Hugging Face.
Nvidia y las empresas que conforman la alianza Open Secure AI Alliance insisten en que los modelos de IA de código abierto deberían ser contemplados como «activos defensivos, no pasivos» y las restricciones para este tipo de sistemas no haría sino mermar la ciberseguridad y concentrar el poder en unas pocas empresas de IA.
