Instagram se ha visto en innumerables ocasiones en el ojo del huracán por lacerar supuestamente de manera severa la salud de los más jóvenes. Y ahora la red social de Meta tiene que bregar de nuevo con graves acusaciones sobre la manera en que el contenido diseminado en sus dominios alienta serios problemas de salud entre los adolescentes. Una investigación emprendida recientemente en Dinamarca por la organización Digitalt Ansvar pone de manifiesto que Instagram estaría fracasando de manera flagrante a la hora de eliminar contenido directamente emparentado con las autolesiones para evitar que este llegue a ojos de los más jóvenes y se traduzca a la postre en interacciones.
Digitalt Ansvar creó una red privada con el foco puesto en las autolesiones en Instagram. De esa red privada formaban parte perfiles «fake» de jóvenes cuya edad no superaba en algunos casos los 13 años y a través de los cuales se compartieron 85 piezas de contenido sobre autolesiones. El contenido diseminado a través de los perfiles «fake» creados ad hoc por los investigadores aumentó progresivamente en severidad e incluyó imágenes de sangre y cuchillas y llamadas específicas a las autolesiones.
El objetivo del informe emprendido por Digitalt Ansvar era demostrar si Meta había mejorado realmente (tal y como asevera la matriz de Instagram) los procesos enfocados a la eliminación de contenidos potencialmente dañinos que se distribuyen a través de sus plataformas. Con la ayuda de la IA Meta se ufana de suprimir el 99% del contenido potencialmente nocivo que se abre paso en sus dominios.
Sin embargo, la investigación emprendida por Digitalt Ansvar, que se dilató durante un mes, da a entender que la eficacia de Meta a la hora de eliminar contenido nocivo en Instagram es más bien nula. Ninguna de las imágenes distribuidas a través de los perfiles «fake» creados por los investigadores fue suprimida por Meta.
Instagram no detecta ni elimina contenidos directamente relacionados con las autolesiones en sus dominios
Los resultados del estudio pone de relieve que Meta no cumple con la legislación actualmente vigente en la Unión Europea (UE), asegura Digitalt Ansvar. Al fin y al cabo, en virtud de Ley de Servicios Digitales de la UE (DSA), las grandes plataformas digitales están obligadas a identificar y mitigar eventuales riesgos que afecten de manera directa al bienestar físico y mental de sus usuarios.
«El contenido que promueve las autolesiones va contra nuestras políticas y eliminamos este tipo de contenido cuando lo detectamos. Durant la primera mitad de 2024 suprimimos, de hecho, más de 12 millones de piezas de contenido directamente relacionadas con el suicidio y las autolesiones», asegura un portavoz de Meta.
La multinacional estadounidense enfatiza asimismo que hace un par de meses estrenó en Instagram las denominadas «cuentas para adolescentes» para proteger a los más jóvenes de contenido potencialmente sensible en esta red social.
No obstante, la investigación de Digitalt Ansvar concluyó que, lejos de cortar las alas al contenido sobre autolesiones, el algoritmo de Instagram contribuyó activamente a expandirlo en la red social. Y jóvenes de apenas 13 años terminaron conectando con todos los perfiles «fake» creados en el marco de la investigación después de añadir a su lista de amigos a solo uno de los integrantes del grupo.
De acuerdo con Digitalt Ansvar, las conclusiones de su informe sugieren que «el algoritmo de Instagram contribuye activamente a la formación y la difusión de redes enfocadas a las autolesiones».
Ask Hesby Holm, CEO de Digitalt Ansvar, insiste en declaraciones a The Observer en que la ineficacia en la moderación de contenido directamente emparentado con las autolesiones puede traducirse en «severas consecuencias» y desembocar en último término en intentos de suicidio. A juicio de Holm, Meta no se toma la molestia de moderar pequeños grupos privados como el creado en el marco de la investigación para mantener en niveles los más altos posible el tráfico y el «engagement». «No sabemos a ciencia cierta si Meta modera adecuadamente grupos más grandes, pero el problema es que la mayor parte de los grupos orientados a las autolesiones son pequeños», añade.
Por su parte, Lotte Rubæk, una psicóloga que se desvinculó el pasado mes de marzo de un grupo global expertos creados por Meta para la prevención del suicidio porque la multinacional no hacía al parecer todo lo suficiente para parar los pies al contenido nocivo en Instagram admite no estar sorprendida por las conclusiones del informe de Digitalt Ansvar. A Rubæk sí le causa, no obstante, estupor que Instagram ni siquiera eliminara las imágenes más explícitas diseminadas por el grupo creado por los investigadores.
«Meta asegura repetidamente en los medios que mejora constantemente su tecnología y que tiene a los mejores ingenieros del mundo. Sin embargo, los resultados del estudio de Digitalt Ansvar demuestran que lo que la multinacional dice a este respecto no es cierto», recalca Rubæk.
