Después de afrontar feroces críticas a escala global, xAI, la empresa de inteligencia artificial (IA) de Elon Musk, ha tomado la determinación de introducir restricciones para la generación de imágenes de desnudos (que habrían afectado incluso a menores de edad) a través de Grok, el chatbot de la compañía.
xAI dice haber introducido «medidas técnicas» para prevenir el procesamiento de imágenes de personas reales portando prendas escuetas como bikinis. Las nuevas restricciones se aplicarán tanto a quienes acceden a Grok de manera gratuita como a los usuarios que usan el chatbot mediante cuentas de pago.
Además, en las regiones donde los «deepfakes» de desnudos son de naturaleza ilegal, habrá una función de «geoblocking» que impedirá a Grok generar imágenes de personas reales luciendo bikinis, lencería u otras prendas sugerentes.
Conviene asimismo hacer notar que en el futuro solo los usuarios de pago podrán generar o editar imágenes con Grok en la red social X.
Grok, el chatbot de IA de Elon Musk, aspira a competir de manera directa con herramientas como ChatGPT (OpenAI) o Gemini (Google). Aunque el chatbot está directamente vinculado X, Grok funciona apoyándose también en una app completamente independiente. Tanto Grok como X están bajo el paraguas de idéntica empresa: xAI.
Las autoridades han colocado a xAI en la mirilla a cuenta de los «deepfakes» de desnudos
En los últimos días Musk y su empresa xAI se han visto en el ojo del huracán por el controvertido uso de Grok para generar «deepfakes» de desnudos. Y las autoridades de algunos países han llegado incluso al extremo de iniciar investigaciones contra la empresa de Elon Musk. De hecho, pocas horas antes de que xAI decidiera poner límites a la función de Grok para generar imágenes de desnudos, el estado de California puso en marcha una investigación dirigida específicamente contra la empresa liderada por Musk.
Las acusaciones más serias dirigidas contra xAI están directamente emparentadas con el uso de Grok para sexualizar imágenes de menores. No obstante, Musk aseguró este miércoles en X que no tenía constancia de que Grok hubiera generado imágenes de menores desnudos. Las palabras de Musk no lograron, no obstante, aplacar la polémica, pues el CEO de xAI evitó referirse a los «deepfakes» de desnudos con personas adultas como protagonistas (que sí parecen haber circulado profusamente en X).
Por su parte, la Comisión Europea ha señalado que tomaría nota de las medidas introducidas por xAI para analizarlas pormenorizadamente. Y si de su análisis terminara coligiéndose que tales medidas son insuficientes, el Ejecutivo comunitario se ha comprometido a utilizar todo el arsenal legislativo previsto en la Ley de Servicios Digital (DSA) para parar los pies a la compañía capitaneada por Elon Musk.
No es la primera vez que la Comisión Europea emprende medidas contra las empresas de Elon Musk. A principios del pasado mes de diciembre Bruselas impuso a X, la red social de Musk, una multa de 120 millones de euros por falta de transparencia.
