líderes en noticias de marketing, publicidad y marcas

El reverso más tenebroso de la IA son los

Digital Marketing"Deepfake" del Papa Francisco generado con IA

El mayor peligro de la IA son los "deepfakes", asegura Microsoft

El reverso más tenebroso de la IA son los "deepfakes", según Microsoft

Esther Lastra

Escrito por Esther Lastra

Brad Smith, presidente de Microsoft, considera que el mayor riesgo solapado a la IA son los "deepfakes", aquellos contenidos tan inquietamente realistas como desvergonzadamente falsos.

La cada vez más ubicua inteligencia artificial (IA) concita tanta algarabía como desasosiego. El frenético desarrollo de esta tecnología hace temer a muchos que los argumentos distópicos de toda una plétora de películas de ciencia ficción se troquen en funestamente reales. Pero, ¿cuál es el mayor peligro agazapado en las entrañas de la IA? Brad Smith, presidente de Microsoft, considera que el mayor riesgo solapado a esta tecnología son los «deepfakes», aquellos contenidos tan inquietamente realistas como desvergozadamente falsos.

En una comparecencia en Washington ante los legisladores estadounidenses con el último objetivo de debatir sobre la regulación de la IA, Smith hizo hincapié en la necesidad de tomar las medidas oportunas para garantizar que la gente sepa con claridad cuándo una foto o un vídeo son reales o han sido generados en su defecto por la inteligencia artificial para prevenir un uso eventualmente torticero de esta tecnología.

«Vamos a tener que abordar los problemas que plantean los ‘deepfakes’, en particular cuando tales «deepfakes’ echan anclas en operaciones cibernéticas de fuerzas extranjeras. Es el tipo de actividades que están implementando ya los gobiernos de Rusia, China e Irán», advirtió Smith.

«Necesitamos tomar medidas para protegernos contra la alteración de contenido legítimo con la intención de engañar o defraudar a las personas mediante el uso de IA», aseveró el presidente de Microsoft.

Smith instó asimismo a los legisladores a crear nuevas normas para salvaguardar la seguridad nacional. «Es necesario crear una nueva generación de controles de exportación para garantizar que los modelos de IA no sean robados o sean empleados de maneras que violen los requisitos que impone el control de exportaciones en Estados Unidos», aseveró.

Hay que garantizar que la IA permanezca bajo control humano

Los legisladores de Washington llevan varias semanas debatiendo sobre las leyes más adecuadas para atar en corto a la IA en un contexto que ha permitido simultáneamente el florecimiento de un buen número de empresas al calor de esta tecnología (muchas de las cuales están radicadas precisamente en Estados Unidos).

La semana pasada Sam Altman, CEO de OpenaAI, la matriz de ChatGPT, aseguró en el Senado de Estados Unidos que la IA podía interferir potencialmente en la integridad de los procesos electorales, por lo que era absolutamente perentorio regular esta tecnología.

Altman abogó asimismo por la cooperación a escala global y la introducción de incentivos para garantizar el cumplimiento de las normas de seguridad directamente emparentadas con la IA.

En su comparecencia ayer en Washington Smith instó además a las personas a hacerse responsables del caos potencialmente provocado por la IA y a proteger de esta tecnología a las infraestructuras críticas. «Es fundamental garantizar que las máquinas estén siempre sujetas a la supervisión efectiva de las personas, y que aquellos que las diseñan y manejan sean responsables ante los demás. En resumen, debemos asegurar que la IA permanezca bajo control humano«, dijo Smith.

Smith urgió también a los desarrolladores de potentes modelos de IA a controlar el uso de su tecnología y proporcionar informes públicos sobre el contenido alumbrado por las máquinas. Ello permitiría en último término identificar contenido falso y promover la transparencia, señaló.

El Congreso de Estados Unidos tiene sobre la mesa diversas propuestas centradas en la regulación de la IA que pueda poner en peligro la vida o el sustento de las personas (en el ámbito de la medicina y las finanzas, por ejemplo). Además, los legisladores están barajando la introducción de normas para garantizar que la IA no se utilice en pro de la discriminación o la violación de los derechos civiles.

Newsletter ¡Suscríbete a nuestra newsletter! WhatsApp Sigue a MarketingDirecto.com en WhatsApp

 

Arnold Schwarzenegger es el nuevo Chief Action Officer de Netflix en un spot lleno de adrenalinaAnteriorSigueinte"El caso Vinicius": adidas, Santander y Mahou respaldan al jugador del Real Madrid

Contenido patrocinado