líderes en noticias de marketing, publicidad y marcas

La aplicación Lensa AI: bajo polémica por la protección de datos

La IA de la app Lensa AI puede crear imágenes NSFW con tu cara a partir de tus selfies (y sin tu consentimiento)

Cynthia Reina

Escrito por Cynthia Reina Actualizado el

TechCrunch confirma que la inteligencia artificial de Lensa AI es fácil de engañar para crear imágenes NSFW (no safe for work).

¿Te imaginas tener un avatar virtual como de un videojuego creado por Inteligencia Artificial idéntico a ti a partir de una imagen? Lensa AI, la aplicación móvil de edición de imágenes, tiene un sistema de IA que ofrece a sus usuarios avatares basados en un gran número de fotografías (selfie).

TechCrunch confirmó que la inteligencia artificial de Lensa AI es fácil de engañar para crear imágenes NSFW (no safe for work). Resulta que es posible, y demasiado fácil, usar la plataforma para generar pornografía blanda no consensuada a partir de los selfies de los usuarios.

¿Qué es Lensa AI: la aplicación por la que han saltado las alarmas?

Lensa AI es una aplicación que convierte las caras de los usuarios en pinturas y avatares virtuales. Para ello, deben subir de 10 a 20 fotografías de sí mismos en las que se les vea claramente. No es gratuita aunque tiene un periodo de prueba de 6 días e ingresas con tu correo electrónico.

Existen numerosas aplicaciones de fotografía en la que el usuario se hace un selfie y la app crea una imagen con un avatar parecido al de un videojuego.

Cuantas más fotografías, el sistema de IA de Lensa AI ofrece mejores resultados, ya que para elaborar esos avatares de sus usuarios necesita cantidades muy elevadas de «datos faciales» que se quedan guardados en internet.

Es probable que hayas conocido esta aplicación porque está en todas las redes sociales estas últimas semanas. Los usuarios se han vuelto locos por estos selfies y han subido sus creaciones a sus perfiles, comenzó en Estados Unidos y ahora se ha extendido a todo el mundo. Es la número uno en descargas de Android en España.

Según se puede leer en su política de privacidad, las imágenes del usuario solo salen del teléfono para ser procesadas por la IA de la empresa en la nube y se borran en 24 horas.

El lado oscuro de la Inteligencia Artificial y su arte

¿Interesante, verdad? Sin embargo, Lensa AI genera muchas dudas acerca del tratamiento de los datos que recoge de los selfies de los usuarios. Muchos críticos han hecho saltar la alarma por la protección de datos y los derechos de autor.

Este debate existe desde la época de Faceapp. El problema del que alertan los profesionales es que los usuarios renuncian a la soberanía de sus propias caras. Porque según la normativa de protección de datos de la app, Lensa AI puede utilizar las imágenes generadas como desee e incluso revenderlas. 

Por este motivo, existe el riesgo de que se generen imágenes en contra de la voluntad de la persona retratada.

TechCrunch afirma que «El equipo de Prisma Labs respondió a nuestras inquietudes. La compañía destaca que si provoca específicamente que la IA genere imágenes NSFW, podría hacerlo, pero está implementando filtros para evitar que esto suceda accidentalmente. El jurado aún no sabe si esto realmente ayudará a las personas que son víctimas de este tipo de cosas sin su consentimiento».

Además, los usuarios se han dado cuenta de que estos retratos están creados a partir de arte robado de artistas reales. En muchas de las imágenes se puede apreciar una especie de firma de un artista, por lo que han saltado las alarmas en Twitter de que pueden estar robando arte.

La aplicación está disponible en iOS y Android. Esta tecnología se ha vuelto muy popular en redes sociales ya que todo el mundo puede ver un selfie tuyo convertido en arte. Eso sí, como alertó Techcrunch, cuidado con este tipo de aplicaciones móviles que pueden crear fotografías ilegales NSFW con imágenes de otra persona.

 

"Masterchef Celebrity" (La1) es el programa más visto en diferido y Antena 3 lidera el ranking de cadenasAnteriorSigueinteElon Musk convierte las oficinas de Twitter en San Francisco en un dormitorio para los empleados

Contenido patrocinado