Digital

WeCounterHate, iniciativa de IA para acabar con el discurso del odio

¿Puede la inteligencia artificial acabar con el discurso del odio?

discurso del odioSiempre ha habido personas que se han dedicado a sembrar el odio y la confusión en sus convecinos, no es nada nuevo. Pero en la era de las redes sociales, el daño que pueden causar este tipo de personas se ve incrementado exponencialmente. La agencia Possible y sus socios de la compañía Spredfast, dedicada al software de social media marketing quieren hacer algo, con la ayuda de la inteligencia artificial, para evitar la proliferación del discurso del odio.

Para ello han lanzado WeCounterHate, una campaña que contrarresta los mensajes de este tipo que aparecen en Twitter con una donación a una organización no gubernametal que lucha contra el odio por cada retuit. La campaña se centra e influencers con un largo número de retuits.

Shawn Herron, creative technologist, fue quien inspiró la idea con un mensaje a Ray Page, executive creative director, sobre cómo los residentes de la ciudad alemana de Wunsiedel organizaron un grupo para convertir la marcha anual neo nazi en una recogida de fondos de la organización anti extremista EXIT Deutschland. La cuestión era cómo podía Possible intentar algo similar a una escala mayor, y la agencia se centró en Twitter como plataforma. Jim Rudden, CMO de Spredfast, describe Twitter como “la herramienta del momento para alcanzar a la audiencia y dejar mensajes. Toda plataforma digital construida en ese contexto puede ser utilizada para el bien o para el mal”.

“Junto a las reglas que establecen las propias plataformas, hay algunas normas sociales… dependen de las personas que utilizan las plataformas y queremos estar en la vanguardia en ese sentido”, señaló Jason Carmel, global chief data officer de Possible.

Según Page, fue entonces cuando dirigieron sus acciones a Life After Hate, una organización sin ánimo de lucro fundada en el año 2011 que ofrece educación a la comunidad y ayuda a los individuos a abandonar grupos extremistas, además de ofrecer apoyo a sus familiares y amigos. El grupo recibió una subvención de la administración Obama de 400.000 dólares, rescindida por la adminisitración de Trump. Y no es la única organización contra el odio que ha dejado de recibir fondos con la llegada del nuevo gobierno a la Casa Blanca.

Según ha declarado Sammy Rangel a AdWeek.com, desde lo ocurrido el pasado agosto en Charlottesville, la demanda de los servicios de la organización se ha incrementado diez veces y el apoyo a lo comunidad ha aumentado. Además, ha señalado que WeCounterHate ha emergido a la sombra del incremento del discurso del odio tras la elección de Trump. “El discurso del odio se ha vuelto mucho más franco… envalentonado, visible e impertinente”.

Uno de los grandes retos era poder identificar estos discursos del odio. El equipo utilizó Spredfast para encontrar los diferentes tipos de discursos, enseñándoselos al sistema de IA y clasificando los tuits en base a su nivel de odio. Los primeros intentos fueron fracasos, la mayoría porque definieron el discurso del odio centrándose en las “peores palabras que se pueden decir alguien que pertenece a diferentes grupos”, según Carmel.

Pero el discurso del odio había evolucionado y, aunque la gente seguía diciendo cosas odiosas, usaban un lenguaje diferente. Life After Hate ofreció su ayuda, y los dos grupos trabajaron para mejorar el motor de WeCounterHate. “La máquina se volvió más inteligente de lo que nunca había sido”. La respuesta, además, excedió sus propias expectativas. WeCounterHate estima que alrededor del 20% de los influencers terminaron borrando sus tuits con discursos del odio, con una reducción de los retuits de más del 50%. “Creo que lo que hemos descubierto es una forma de insertar una narrativa en una plataforma que ha estado tradicionalmente sin gobernar”, dijo Rangel. “Hemos causado un momento de pausa, de reflexión”.

 

Te recomendamos

#Highway2Sales

NH

Atresmedia

ADN by DAN

Compartir