Digital

Así lo ha expresado el jefe de IA de Google, John Giannandrea

La transparencia será lo más importante para evitar sesgos en los sistemas de IA

Los sistemas de inteligencia artificial siguen preocupando a mucha gente. Ahora, se ha unido a estas preocupaciones el jefe de la división de IA de Google, John Giannandrea. Pero, según ha expuesto en una conferencia que versaba sobre las relaciones entre los humanos y las IA, su principal preocupación son los datos sesgados.

No es la primera vez que se pone de relieve la posibilidad de que las máquinas tomen decisiones injustas. Ya existen grupos de personas que protestas precisamente por ello, y por lo que supone delegar en algortimos. Además, hay que tener en cuenta el secretismo que las empresas tienen respecto a dichos algoritmos.

El propio John Giannandrea ha destacado la importancia de la transparencia. "Es importante que seamos transparentes acerca de los datos de entrenamiento que estamos utilizando, y buscar prejuicios ocultos. De lo contrario, estamos construyendo sistemas sesgados". Pero la compañía de la que forma parte Giannandrea no es precisamente un ejemplo de transparencia. Google lleva años ocultando sus algoritmos y apenas ofrece datos sobre qué parámetros se utilizan para ofrecer antes un resultado que otro en su buscador.

Por otro lado, no son los únicos. Como recuerda xataka.com, la mayoría de empresas líderes en tecnología ocultan sus algoritmos, con una conducta que podría calificarse de todo menos transparente. Con ello, las empresas intentarían obtener una ventaja competitiva sobre el resto de compañías. Pero, en contraprestación, los usuarios no pueden saber hasta qué punto la información que se ofrece está sesgada. "Si les damos a estos sistemas datos sesgados, ellos mismos estarán sesgados", según expuso el propio Giannandrea

Te recomendamos

Eficacia

Atresmedia

ADN by DAN

EL OJO

Compartir