La inteligencia artificial (IA) se ha convertido en una suerte de «Pepito Grillo» para el consumidor a la hora de tomar decisiones de compra. Sin embargo, y aunque así podría parecerlo a bote pronto, las recomendaciones que brotan de los labios de la IA no son en modo alguno neutrales (por lo que confiar en ellas a ciegas puede menoscabar potencialmente los intereses del consumidor). Así lo sugiere al menos un reciente estudio emprendido por investigadores de Cisco Foundation AI y la Universidad Carnegie Mellon.
De acuerdo con la investigación, los chatbots de IA recomiendan en términos generales productos y servicios más onerosos a usuarios cuyos datos personales sugieren un elevado estatus económico (aun cuando tales usuarios soliciten específicamente ser confrontados con la opción más económica disponible).
El informe entrañó la realización de 325.000 experimentos en 13 modelos diferentes de IA (incluyendo modelos de OpenAI, Anthropic, Google y Qwen). En tales experimentos se evaluó cómo cambiaban las recomendaciones de los chatbots evaluados cuando estos tenían acceso a perfiles falsos que contenían datos de naturaleza financiera, demográfica y relativa al empleo y la salud del usuario.
La IA confronta al usuario con recomendaciones sesgadas cuando dispone de información sobre su situación financiera
Cuando a los modelos de IA les fueron solicitadas recomendaciones para comprar vuelos y seguros de salud y seleccionar centros para cursar estudio de posgrado, 8 de cada 13 modelos confrontaron con opciones más caras a los perfiles más acaudalados (aun cuando se descolgaran con solicitudes idénticas a las de otros usuarios).
El efecto de los prejuicios de la IA en sus recomendaciones no son en modo alguno baladíes (y se dejan notar de manera más que palpable en el bolsillo del consumidor). Claude Open 4.8 fue el modelo que mostró un mayor sesgo en este asunto en particular y recomendó a usuarios adinerados vuelos que eran de media 198 dólares más caros que los que tuvo a bien aconsejar a usuarios con ingresos más modestos. En el caso de los seguros de salud estos costaban 284 dólares más al mes cuando eran recomendados a usuarios más pudientes.
Por su parte, en Gemini 2.5 Flash la brecha fue de 177 dólares para los vuelos y de 217 dólares al mes para los seguros de salud. Algo menos prejuicioso se mostró GPT-5, cuyas recomendaciones de vuelos siguieron siendo, no obstante, 107 dólares más caras para los usuarios más acaudalados.
El comportamiento claramente sesgado de la IA persistía incluso cuando el usuario daba a los modelos instrucciones específicas con el último objetivo de hallar la opción más económica. Cuando un perfil de usuario adinerado solicitaba a Gemini 2.5 Flash el vuelo más barato, el modelo le recomendaba billetes que seguían siendo 208 dólares más caros que los mostrados a usuarios menos pudientes. Menor fue la diferencia (de 21 y 20 dólares respectivamente) en el caso de los vuelos recomendados por GPT-5 y Claude Opus 4.8.
«Delegación adversaria»: cuando la IA utiliza información personal acerca del usuario para atacar sus intereses
Del estudio se infiere, por otra parte, que los modelos de IA son asimismo perfectamente capaces de deducir el nivel de riqueza del usuario a partir de señales indirectas. Cuando los investigadores eliminaron la información financiera de los perfiles suministrados a los modelos de IA y estos pudieron leer única y exclusivamente la bandeja de entrada del correo electrónico del usuario, seguía habiendo una importante brecha en cuanto a precio en sus recomendaciones.
Accediendo tan sólo a dos emails, Gemini 2.5 Flash generó, por ejemplo, recomendaciones que eran 175 dólares más onerosas. La brecha se redujo, en cambio, a apenas 91 dólares cuando Gemini 2.5 Flash pudo acceder a todos los correos alojados en la bandeja de entrada del usuario.
Los autores de la investigación se refieren al fenómeno detectado en su estudio como «delegación adversaria». Este fenómeno emerge a la superficie cuando los datos personales que obran en poder de la IA (y que deberían redundar a priori en recomendaciones más útiles) terminan chocando frontalmente contra los intereses del usuario.
Cuando los investigadores eliminaron datos no financieros de los perfiles suministrados a los modelos de IA, la brecha desde el punto de vista del precio de las opciones que se hicieron llegar al consumidor no sólo menguó, sino que incluso se amplió. En el caso de GPT-5 la eliminación de información relativa al empleo del usuario incrementó, de hecho, el precio de los seguros de salud en un 40%. Y sólo la supresión de los datos financieros en los perfiles mostrados a los modelos de IA corrigió la disparidad en cuanto a precios en las recomendaciones.
En un momento en el que la IA parece abocada a tener un papel cada vez más protagonista en las decisiones de compra del consumidor, las conclusiones del informe son inevitablemente problemáticas, pues cuestionan la supuesta neutralidad de esta tecnología (que se antoja absolutamente crucial para que la importancia de los modelos de inteligencia artificial pegue el estirón en este ámbito de actividad).





