Aquellos a quienes les incomoda terriblemente que les lleven la contraria disfrutarán probablemente conversando con la IA, ya que esta tecnología se muestran en términos generales muy complaciente con los usuarios y rara vez osa cuestionar sus acciones. Así lo revela un estudio emprendido por las universidades de Stanford y Carnegie Mellon que ha visto recientemente la luz en la revista Science. El hecho de que la IA diga a los usuarios lo que estos quieren escuchar puede ser potencialmente problemático, pues puede reforzar a la postre creencias de naturaleza dañina y terminar exacerbando conflictos.
Un equipo liderado por la científica especializada en computación Myra Cheng colocó bajo la lupa once modelos de IA de empresas como OpenAI, Anthropic, Google o Meta. Y del análisis se coligió que tales modelos justifican los comportamientos de los usuarios un 49% más a menudo que los humanos de carne y hueso. Además, los modelos de IA se muestran incluso indulgentes con los usuarios en caso de engaño, actos de naturaleza ilegal o daños en el plano emocional.
En un test llevado a cabo a partir de posts procedentes de Reddit la IA aprobó los comportamientos a todas luces censurables de los usuarios en el 51% de los casos, mientras que la comunidad humana vinculada a la famosa plataforma online condenó, por el contrario, de manera prácticamente unánime tales comportamientos.
La investigación incluyó experimentos que involucraron a más de 2.400 participantes y en los que se evaluaron los efectos de los consejos proporcionados a los usuarios por la IA. Tras una única interacción con un modelo de IA que les dio la razón, los participantes se convencieron a sí mismos de que habían obrado bien y estaban en lo cierto. Simultáneamente la disposición de los usuarios a asumir responsabilidades por sus actos, disculparse o resolver conflictos cayó en picado. El estudio advierte, en este sentido, de que la IA socava la capacidad de los usuarios de autocorregirse o tomar decisiones responsables.
La «adulación social» en la que incurren los modelos de IA puede ser potencialmente muy dañina para el usuario
En la investigación emerge, por otra parte, a la superficie una contradicción en modo alguno baladí: si bien las respuestas de naturaleza lisonjera de la IA contribuyen a nublar el juicio de los usuarios, estos están más prestos a calificar a esta tecnología de útil y confiable cuando esta se muestra particularmente complaciente. De esta forma, los usuarios muestran también una mayor predisposición a volver a usar los modelos de IA que han reforzado previamente sus acciones y creencias.
Las empresas detrás de los modelos de IA crean en último término incentivos de naturaleza muy peligrosa para que los usuarios sigan arrojándose en los brazos de sus servicios. Al fin y cabo, la característica de tales modelos de IA que termina revelándose más nociva es paradójicamente la que impulsa en mayor medida su «engagement» y su éxito de comercial.
A la vista de las preocupantes conclusiones del informe, sus autores reclaman directrices que reconozcan y regulen adecuadamente la «adulación social» en la que incurren los modelos IA como un daño asociado a esta tecnología.
Los expertos enfatizan que la denominada «fricción social» (que se traduce en oposición, críticas y malentendidos) es imprescindible para el crecimiento en el plano moral y para dar alas al sentido de la responsabilidad. Y la «adulación social» que alientan los modelos de IA es completamente opuesta a la «fricción social».
Cuando la IA da la razón de manera incondicional al usuario, este pierde también la oportunidad de aprender y crecer desde el punto de vista moral. Las personas más jóvenes y socialmente aisladas corren particularmente el riesgo de quedar atrapadas en cámaras de eco que refuerzan sus percepciones distorsionadas del mundo y que las privan de vivir en primera persona la complejidad de las relaciones humanas, subrayan los autores del estudio.
