La denominada «Shadow AI», un fenómeno que hace referencia al uso no autorizado de herramientas de IA por parte de los empleados en el seno de las organizaciones, está a la orden del día en una vasta miríada de empresas y trae lógicamente consigo muchísimos problemas directamente emparentados con la sacrosanta seguridad.
Quizás por esta razón, cuando Anthropic anunciaba hace unas semanas que introduciría marcas de agua invisibles en los textos generados por su chatbot de IA Claude, muchos empleados temieron ser desenmascarados por sus empleadores (tras tratar de hacer pasar como suyos contenidos de origen sintético), mientras que las empresas se congratularon, por el contrario, de este cambio (que saca de alguna manera de las sombras a la denominada «AI Shadow»).
El hecho de que Anthropic haya decidido incorporar marcas de agua invisibles en los textos nacidos de las entrañas de Claude pone, a juicio de muchos, en evidencia que el fenómeno de la «AI Shadow» está efectivamente muy extendido dentro de las organizaciones.
La «AI Shadow» ha terminado haciéndose omnipresente en el seno de las organizaciones
Cuando una empresa provee, por ejemplo, a su plantilla de acceso a Microsoft Copilot, pero determinados trabajadores prefieren utilizar ChatGPT para que les asista en sus tareas laborales, la seguridad de sus datos puede verse potencialmente comprometida.
La «Shadow AI» (o empleo no autorizado de herramientas de IA) ha terminado convirtiéndose en un auténtico quebradero de cabeza para los departamentos de IT de las empresas, máxime cuando parar los pies a este fenómeno es virtualmente misión imposible. Para utilizar herramientas de IA no autorizadas no hace falta, al fin y al cabo, instalar ningún tipo de software en el ordenador y basta con abrir una pestaña de manera anónima en el navegador.
En la industria del marketing y la publicidad la «Shadow AI» ha terminado lógicamente asomando también la pezuña. Y es muy común que los trabajadores utilicen herramientas de IA que no forman parte del catálogo oficial de herramientas de sus empleadores (y cuyo uso éstas desconocen a menudo por completo).
De acuerdo con un reciente informe de PagerDuty, dos terceras partes de los personas que llevan a cabo su actividad profesional en oficinas admiten haber utilizar herramientas de IA que no cumplen (total o parcialmente) con las políticas oficiales de las empresas en las que están en nómina. Y por mucho que las organizaciones pongan de su parte para cortar las alas a la «Shadow AI», termina trocándose absolutamente imposible cortar de raíz este fenómeno.
En el ramo del marketing y la publicidad la «Shadow AI» resulta potencialmente problemática porque, cuando este fenómeno emerge a la superficie, los empleados nutren de manera constante a herramientas no autorizadas de IA de información de naturaleza confidencial relativa a presupuestos de medios, «briefings» o análisis de la competencia. Y aun cuando la posibilidad de que esa información confidencial termine haciéndose pública es bastante baja, no puede en modo alguno descartarse por completo.
El peligro de compartir datos de naturaleza confidencial con herramientas no autorizadas de IA
En este sentido, valiosa información interna y contenido protegido terminan abriéndose paso en sistemas de terceros y son utilizados en último término por los grandes empresas de IA para entrenar a sus modelos de lenguaje. Por culpa de la «Shadow AI» lo que comienzan siendo secretos comerciales guardados como oro en paño acaban totalmente desprotegidos y confrontan a las empresas con daños reputacionales potenciales e incluso eventuales disputas legales.
Así y todo, en la mayor parte de las casos detrás del uso no autorizado de herramientas de IA no hay en realidad intenciones maliciosas. Y si los empleados recurren a este tipo de herramientas, no es tanto porque deseen realmente saltarse a la torera las normas como porque quieren ejecutar sus tareas de manera mucho más eficiente. Además, la frontera que separa el trabajo del ocio puro y duro se está diluyendo y con ella también la distinción entre el uso privado y profesional de las herramientas de IA.
Conviene asimismo no perder de vista que los empleados afrontan cada vez más presión por parte de sus empleadores para ejecutar sus tareas de la manera más eficiente y diligente posible. Y si las herramientas que las empresas ponen oficialmente a disposición de sus trabajadores resultan excesivamente lentas, es inevitablemente tentador arrojarse en los brazos de herramientas más potentes (lo cual evidencia, por otra parte, la gran brecha que existe entre las necesidades tecnológicas de los empleados y aquello que los empleadores ponen a la postre a su disposición).
Quizás por esta razón el mayor reto al que se enfrentan las empresas a la hora de contener el fenómeno de la «Shadow AI» no es tanto limitar el uso de la IA como canalizar el empleo de esta tecnología en la dirección correcta.
Más allá de agasajar a sus empleados con infraestructuras de IA verdaderamente robustas (que mermen la tentación de recurrir a herramientas alternativas), es importante asimismo que las empresas establezcan políticas claras sobre el uso de esta tecnología y ofrezcan a su plantilla adecuados programas de formación.
Es igual crucial que las empresas mantengan actualizada de manera constante su abanico de herramientas directamente emparentadas con la IA y estén dispuestas a experimentar (de manera segura y poniendo a buen recaudo información potencialmente sensible) con determinadas soluciones antes de que sus empleados se les adelanten y terminen haciéndolo por su propia cuenta y riesgo.
