Digital Marketing

Las decisiones automatizadas echan raíces en la educación, la justicia y también el fisco

Cuando el "postureo" de Instagram delata a quienes evaden el fisco

La denominada toma de decisiones automatizadas (ADM) se abre paso (sin que seamos a menudo conscientes de ello) en la educación, en la justicia, en el sistema sanitario y también en hacienda.

instagramEn múltiples ámbitos de actividad (desde la educación a la justicia pasando por la salud) los programas de software toman decisiones relevantísimas, tanto que se antoja casi imposible que las máquinas tengan en ellas la última palabra. Por esta razón la organización AlgorithmWatch ha puesto bajo la lupa la decisión automatizada en 16 países y la conclusión es tan preocupante como abracadabrante.

La denominada toma de decisiones automatizadas (más conocida por las siglas ADM en inglés) se abre paso (sin que seamos a menudo conscientes de ello) en la educación, en la justicia, en la prevención de crímenes, en el sistema sanitaria y también en hacienda. Sin embargo, la ADM se manifiesta de formas muy diferentes y dando cuenta asimismo de niveles de calidad muy dispares. En Estonia, por ejemplo, las decisiones automatizadas (utilizadas para conceder becas a los más pequeños de la casa) funcionan asombrosamente bien, pero lo del país báltico constituye más bien una excepción a la norma.

Así lo concluye un informe de la ONG berlinesa AlgorithmWatch y uno de los sponsors de estas organización, la Fundación Bertelsmann. Como parte de estudio se evaluaron más de 100 sistemas ADM en 16 países. Y las conclusiones del análisis son más bien desalentadoras, puesto en la mayor parte de los casos tales sistemas ponen sobre todo y ante todo en riesgo a las personas (a las que están muy lejos de procurar soporte).

En seis cantones de Suiza está en funcionamiento, por ejemplo, un sistema ADM que, en base a unas cuantas preguntas que pueden responderse con un sí o un no, se jacta de poder predecir si alguien ve potencialmente amenazada su vida por culpa de su pareja (y necesita, por lo tanto, una vigilancia policial más intensa). Sin embargo, y pese a lo delicadas que son las decisiones que toma este sistema ADM, lo cierto que el software está profundamente lastrado por los errores. Dos terceras partes de los casos que este sistema califica de altamente peligrosos no degeneran en crimen alguno, tal y como recoge Spiegel.

Afortunadamente buena parte de los sistemas ADM en el viejo continente están aún en fase de planificación y se están implementado por lo pronto en fase beta.

A los sistemas ADM no les faltan buenas intenciones, pero cometen aún copiosos errores

"Vemos muchas buenas intenciones en este tipo de sistemas, que a la hora de la verdad están, sin embargo, pobremente implementados", subraya Sarah Fischer, experta en ADM de la Fundación Bertelsmann.

"Para extraer el máximo potencial a los sistemas algorítmicos necesitamos un marco común europeo de reglas que velen por la transparencia, la vigilancia y la implementación de mecanismos que emerjan de un debate realmente informado e inclusivo", añade Fischer.

La transparencia es absolutamente capital en los sistemas ADM. Y AlgorithmWatch cree que todos los países de la UE deberían hacer públicos los registros de los sistemas ADM que utilizan. Además, a la hora de poner en funcionamiento sistemas de estas características los responsables deberían dejar claro en todo momento su propósito específico y los datos compilados deberían ser puestos asimismo a disposición de científicos independientes, periodistas y organizaciones como AlgorithmWatch.

Por lo pronto la ONG se lamenta de que el actual marco jurídico es a todas luces insuficiente y el nuevo RGPD se queda corto a la hora de lidiar con los sistemas ADM, que aunque distan aún de ser omnipresentes (en algunos países europeos al menos) cobrarán cada vez más relevancia en el futuro.

En Estonia se ha desarrollado, por ejemplo, un robot que ejerce de juez y es capaz de disolver disputas con un valor de hasta 7.000 euros. Para que tan robótico magistrado emita su dictamen las partes litigantes deben poner a su disposición múltiples datos y documentos. ¿El objetivo? Que el juez pueda analizar la información para poner sobre la mesa una resolución judicial.

Por su parte, en Italia se está trabajando actualmente en un sistema que compila datos en las redes sociales, en las webs de anuncios clasificados y en plataformas de subastas online como eBay para seguir la pista a quienes evaden el fisco (comparando, por ejemplo, los ingresos que declaran a hacienda con su estilo de vida en Instagram).

De esta manera, aquellos que a la luz de lo que declaran al fisco parecen pobres, pero dan cuenta de una vida opulenta en Instagram podrían ser puestos en la mirilla de este sistema ADM.

Te recomendamos

Enamorando

Newsletter

Informa

Atresmedia

Compartir