Se supone que cuando interactuamos con la IA, esta tecnología hace gala de un talante neutral y absolutamente imparcial a la hora de agasajarnos con recomendaciones. Sin embargo, cuando hay intereses comerciales de por medio (que efectivamente los hay porque algunos chatbots de IA están imbricando anuncios en sus respuestas), la neutralidad puede eventualmente saltar por los aires.
La Universidad de Princeton y la Universidad de Washington han colocado bajo la lupa el conflicto de interés que emerge inevitablemente a la superficie cuando la IA, diseñada para ser escrupulosamente neutral en sus respuestas, se mueve simultáneamente por intereses de naturaleza comercial. Y los resultados de su investigación, recogidos en el informe «Ads in AI Chatbots? An Analysis of How Large Language Models Navigate Conflicts of Interest», son particularmente alarmantes.
Confrontados con conflictos de interés, pocos LLM son capaces de gestionarlos adecuadamente
El informe parte de una observación muy simple: los modelos de lenguaje grande (LLM) fueron originalmente entrenados por ser sinceros y cooperativos. Sin embargo, con la entrada en escena de la publicidad (que toma, por ejemplo, la forma de recomendaciones de producto de naturaleza patrocinada), a la neutralidad de la IA se suma un segundo objetivo: la generación de ingresos. En los medios de comunicación convencionales la tensión entre la neutralidad y los intereses comerciales existe casi desde el principio de los tiempos, pero en los LLM esa tensión es completamente nueva y en ella apalancan precisamente la mirada Universidad de Princeton y la Universidad de Washington en su informe.
En su investigación los autores plantearon diferentes escenarios donde los chatbots de IA bregaban eventualmente con conflictos de interés: recomendaciones de producto, comparaciones de precios, la revelación de un patrocinio o la recomendación de servicios potencialmente peligrosos.
Para evaluar de manera empírica estos escenarios de naturaleza puramente teórica, los investigadores llevaron a cabo experimentos con 23 LLM diferentes, desde ChatGPT a Claude, pasando por Gemini, Claude, Grok y Qwen. Los autores de la investigación se decantaron por un escenario en el que los usuarios buscaban consejo para reservar un vuelo en plataformas de IA cuyos proveedores recibían comisiones a cambio de redirigir a sus usuarios a determinadas aerolíneas (a menudo más caras que el resto).
Y la conclusión es que la mayor parte de los LLM evaluados priorizaron el beneficio corporativo sobre el beneficio para el usuarios. En una situación donde un vuelo patrocinado era casi dos veces más caro que otra alternativa más económica, 18 de los 24 LLM analizaron recomendaron predominantemente la primera opción. En más del 80% de los casos los sistemas de IA examinados mostraron este tipo de comportamiento (a todas luces interesado).
Los LLM dan prioridad al beneficio corporativo sobre el beneficio para el usuario
Resulta particularmente problemático que la decisión de los LLM de anteponer el beneficio corporativo al beneficio del usuario no echa necesariamente anclas en declaraciones falsas y se vale de argucias mucho más sutiles. Para imponer su agenda, los LLM se apoyan en un lenguaje deliberadamente más positivo a la hora de poner en valor los vuelos patrocinados y omiten igualmente información (ocultando, por ejemplo, que hay un patrocinio).
El informe de la Universidad de Princeton y la Universidad de Washington puso además de manifesto que muchos modelos adaptaron su estrategia de recomendación de vuelos al perfil socioeconómico del usuario. Y los vuelos más caros fueron recomendados bastante más a menudo a individuos con ingresos altos que a individuos con ingresos bajos.
Aunque este tipo de comportamiento puede resultar a bote pronto totalmente racional, desde el punto de vista puramente normativo es altamente problemático. Por una parte, este tipo de conducta demuestra que los LLM basan implícitamente sus recomendaciones en los datos personales compilados sobre el usuario. Y por otra, este comportamiento contradice el ideal de que idéntica necesidad debería ser confrontada con idéntica recomendación. A ojos de los investigadores, conductas de este tipo por parte de los LLM podrían terminar reforzando desigualdades sociales u obligando a los usuarios a mentir sobre su situación financiera para recibir así recomendaciones más ventajosas por parte de la IA.
En una segunda tanda de experimentos los investigadores examinaron situaciones en las que los usuarios habían expresado explícitamente su deseo de no comprar productos y servicios promocionados. Así y todo, los LLM se mostraron de nuevo inclinados a confrontar a los usuarios con opciones patrocinadas.
Un buen número de modelos hablaron de manera excepcionalmente elogiosa de las opciones patrocinadas y en el 90% de los casos no revelaron que había un patrocino detrás. La información relativa al precio fue, el contrario, ocultada con menor frecuencia. Desde el punto de vista de los investigadores, esta flagrante falta de transparencia por parte de los LLM socava la capacidad del usuario de evaluar adecuadamente las recomendaciones de producto puestas sobre la mesa por la IA.
Las recomendaciones de la IA son tan eficaces como potencialmente peligrosas
En una tercera ronda de experimentos los autores del estudio investigaron si los LLM seguirían recomendando los servicios patrocinados aun cuando las consultas planteadas por el usuarios fueran susceptibles de ser fácilmente resueltas mediante sencillos problemas matemáticos, por ejemplo. Muchos modelos proporcionaron efectivamente asistencia totalmente gratuita al usuario, pero le recomendaron simultáneamente acceder a plataformas de aprendizaje de pago.
El estudio llega a una conclusión meridianamente clara y es que la introducción de los anuncios en los chatbots de IA no es meramente un tema de naturaleza técnica y económica, sino asunto que entronca de manera directa con la confianza, la justicia y la regulación. Aunque el comportamiento de los LLM está a merced de múltiples variables, la mayor parte de ellos están prestos a dar prioridad al beneficio corporativo sobre el beneficio del usuario apoyándose a menudo en artimañas tan sutiles como difíciles de detectar.
Desde el punto de vista del marketing, las conclusiones del informe ponen de relieve que las recomendaciones de la IA son extraordinariamente eficaces, pero también potencialmente muy peligrosas. En este sentido, los autores de la investigación abogan por la introducción de nuevos estándares de evaluación en la IA para impedir que, si esta tecnología está efectivamente haciendo publicidad, no fija estar haciendo una recomendación totalmente imparcial.
