La moderación de contenidos necesita recursos humanos para identificar y prevenir lo inhumano, algo que la IA no puede hacer

Hoy en día encontramos el término IA (Inteligencia Artificial) en cualquier resumen ejecutivo de una empresa o en el «Sobre nosotros» de las páginas web de las compañías. Sin embargo, es bastante poco común encontrarse con IA de verdad, ya que es algo realmente difícil de hacer. Y hay una gran diferencia entre el Aprendizaje automático (Machine Learning), el Aprendizaje profundo (Deep learning) o, como decimos en inglés, el BS (Bullshit o tonterías).

Dicho esto, es cierto que la verdadera IA también puede fallar. Recientemente, ha habido una moda en TikTok donde la gente usaba la expresión «He comido pasta esta noche», no para hablar de su cena, sino como un código para pedir ayuda por intento de suicidio.

No fue culpa de TikTok que su algoritmo no identificara esta tendencia lo suficientemente rápido para parar de promocionar estas publicaciones. Porque la IA requiere de un histórico de datos muy completos para poder funcionar bien. En informática a esto se le conoce como Gigo (garbage in, garbage out o basura dentro, basura fuera). Y es algo que permite que la IA le pueda ganar a las personas jugando al ajedrez o al Mahjong, pero que no posibilita haber creado esos juegos.

Este tema lo comenté el año pasado con el Profesor de Harvard Steven Pinker cuando se refirió al «arte de hacer preguntas», algo que es exclusivo de los seres humanos. La IA irá mejorando cada vez más, pero nunca podrá hacer cosas como enamorarse o simplemente hacer preguntas.

La IA es muy importante y a día de hoy juega un gran papel en la moderación de contenidos en el entorno digital. Y decide lo que para nosotros está bien que veamos y lo que no. Así como aquello que es dañino para el usuario, falso u odioso. Del mismo modo, decide lo que conviene impulsar, lo que se va hacer viral o lo que es mejor esconder. Pero como hemos visto en los últimos años en las grandes plataformas tecnológicas, o en los ejemplos que he comentado, la IA acarrea consigo problemas y plantea una cuestión fundamental que va más allá: ¿Basta con la IA para moderar el contenido que hay en la web, así como los anuncios en el entorno digital? ¿O necesitamos personas para desempeñar estas tareas?

Máquinas

La IA es una revolución increíble, probablemente comparable a la invención de la electricidad o de internet. Y formará parte para siempre de nuestras vidas. Pero hay dos puntos clave a tener en cuenta sobre la IA:

El primero es que la IA solo funciona cuando hay datos suficientes para entrenar al modelo. Así, por ejemplo, la IA no fue capaz de predecir la propagación y el impacto del COVID-19, porque el modelo no contaba con datos para ejemplificar la magnitud de su impacto de forma efectiva. O también cuando se lanzó el «Face ID» para desbloquear teléfonos, que no funcionó con las caras de personas recién levantadas y la consecuencia fue que los iPhones no se desbloquearon. Sucedió lo mismo. No había suficientes datos que sugirieran que las personas tienen un aspecto diferente cuando están recién levantadas.

Por otro lado, hay algunos errores que son demasiado graves. Por ejemplo, si Alexa cometiera un error y nos sugiriera, basándose en nuestro comportamiento previo, que compráramos granos de café que realmente no queremos comprar, no habría un problema. Es molesto, pero no pasaría nada. O si YouTube etiquetara un vídeo como «vídeo de mascotas» porque considera que aparecen perros, pero no los hay, tampoco habría un problema. Y así otros muchos ejemplos más. Pero si decidimos utilizar la IA en asuntos más serios, como si hay que tomarse en serio el inicio de la propagación de un virus, o en cuestiones relacionadas con la democracia, la depresión, el racismo o los derechos humanos, nos tenemos que hacer otra pregunta, ¿es la IA suficiente?

Personas

Cuando se trata de temas serios, como moderar contenidos en Internet, debemos reconocer también las limitaciones de la acción humana, como por ejemplo que las personas se fatigan. Mientras que un ordenador tiene la resistencia suficiente para revisar 100 artículos ó 1000. Además, las personas tienen predisposiciones y prejuicios, días buenos y malos, etc. Por eso, si queremos considerar un enfoque más humano en la moderación de contenidos, es importante que esos equipos de revisión de contenidos sean muy heterogéneos y cuenten con el suficiente apoyo.

Volviendo a lo que comentaba de la tendendia de Tik Tok, fueron personas las que identificaron que «he comido pasta» no se refería literalmente a eso, sino que era un código para hablar del suicidio. O cuando el COVID-19 se expandió, fueron también las personas quienes lo detectaron, no máquinas. Y lo mismo en el caso de la clasificación de imágenes que hizo la IA en las que se etiquetó a personas de color como gorilas.

Personas + Máquinas

En el futuro todo estará indexado por máquinas que nos ayudarán a vivir una vida mejor a través de nuestras numerosas interacciones diarias. Pero estoy convencido de que en asuntos serios, hay problemas humanos que requieren de personas para solucionarlos y de la IA como un gran complemento.

Después del boicot a Facebook, sugerí que contrataran a 50.000 revisores de contenido, además de implementar IA para poder así revisar el contenido manualmente. Y pienso que esto es importante para cualquier plataforma que tenga una distribución relevante, porque además se ha de responsabilizar del contenido que hay en su plataforma.

Las limitaciones de la revisión hecha por personas no son mayores que los riesgos que asumimos si no contamos con personas para realizar estas tareas. Yo voto por las personas (con IA).

Adam Singolda, Fundador y CEO de Taboola

Compartir

Anticipación y escalabilidad: la receta del éxito para un Black Friday digitalAnteriorSigueinteDNA3: equilibrando la balanza entre creatividad y tecnología