Digital

El 39% de los erróneamente identificados eran de raza negra y solo el 5% blancos

El sistema de reconocimiento facial de Amazon confunde políticos con criminales

Un estudio llevado a cabo por ACLU revela errores en el sistema de reconocimiento facial de Amazon al confundir congresistas estadounidenses con criminales.

Aunque las promesas de la inteligencia artificial son muchas y de dimensiones insospechadas, parece que todavía queda un largo camino por recorrer hasta convertirla en una herramienta verdaderamente útil.

Los errores de precisión de los sistemas impulsados por esta tecnología son todavía demasiado frecuentes, incluso en las compañías más punteras y mejor preparadas. Y si no, que se lo digan a Amazon.

Ni siquiera el gigante digital ha conseguido dominar el arte del reconocimiento facial automatizado y así parece demostrarlo un experimento llevado a cabo por Unión Estadounidense por las Libertades Civiles (ACLU, por sus siglas en inglés).

Según el informe de los resultados, el sistema Rekognition de Amazon, confundió a 28 de los 435 congresistas estadounidenses con criminales. Además, llama la atención que el 39% de los erróneamente identificados eran de raza negra, en comparación con el 5% de blancos.

Estas revelaciones no han dejado indiferente a nadie, tampoco a Amazon que ha salido al paso puntualizando algunos de los fallos que la organización había cometido durante el estudio. Lo ha hecho a través del diario The New York Times que recoge las palabras de un portavoz de la compañía en las que destaca que ACLU ha utilizado de manera incorrecta el software.

Así, mientras Amazon recomienda establecer la tolerancia de error en un 95%, la organización la fijó en un 80% y la empresa de Bezos establece la necesidad de que sean los humanos los que revisen los resultados recordando que es el usuario final el que debe asegurar una utilización responsable del software.

Te recomendamos

A3

ADN

Navidad

Recopilatorio

Enamorando

Compartir