La de rubricar como propios textos que han sido alumbrados en realidad por la IA generativa es una práctica tan poco ética como extraordinariamente común en los tiempos que corren. Sin embargo, de ahora en adelante quienes incurran en esta práctica se toparán de bruces con un importante obstáculo que les disuadirá (necesariamente a la fuerza) de hacer trampas. Anthropic anunciaba ayer que sus futuros modelos de IA añadirán marcas de agua invisibles a todos los textos que generen para identificarlos como de origen sintético.
La empresa estadounidense introduce este cambio en respuesta a las nuevas normas relativas a la transparencia de la IA que han entrado recientemente en vigor en la Unión Europea (UE), si bien Anthropic insiste en que la medida se aplicará en realidad en todos los países donde se utilizan los modelos Claude de la compañía.
En Estados Unidos, la patria chica de Anthropic, no existe ninguna ley que exija el etiquetado o la introducción de marcas de agua en el contenido generado con IA, si bien algunos estados (California) sí han aprobado normas que exigen en determinados casos medidas similares a las vigentes en suelo europeo en aras de una mayor transparencia.
A la hora de introducir marcas de aguas en los textos de origen sintético, Anthropic dice haberse guiado por lo previsto en el artículo 50 de la Ley de IA de la UE, que exige medidas encaminadas a la transparencia en el uso de la inteligencia artificial en determinados supuestos (cuando sea, por ejemplo, imposible distinguir el contenido de origen sintético del contenido real).
Las marcas de agua se abrirán paso en los textos alumbrados por Claude en todos los países donde se utiliza este modelo
Los modelos de Claude que vean la luz después del 2 de agosto de 2026 (que es cuando entró en vigor el artículo 50 de la Ley de IA de la UE) generarán de manera automática marcas de agua en los textos de origen sintético.
Anthropic no aporta, eso sí, demasiada información sobre cómo se añadirán exactamente las marcas de agua a los textos generados con IA, pero insiste en que tales marcas de agua se mantendrán cuando los textos se copien y se peguen en otra parte. La matriz de Claude señala que aportará más detalles al respecto en documentos técnicos que verán la luz próximamente.
Los modelos de IA de Anthropic añadirán asimismo datos de procedencia de naturaleza estándar a las imágenes, los vídeos y los archivos de audio generados de forma sintética. La compañía desea cumplir así con lo previsto en la ley de transparencia en materia de IA del estado de California. A la hora de marcar imágenes, vídeos y archivos de audio de origen sintético Anthropic utilizará el estándar C2PA (Coalition for Content Provenance and Authenticity).
De acuerdo con la Comisión Europea, alrededor de 190 empresas y organizaciones habían rubricado a finales de julio su código de buenas prácticas sobre transparencia de la Ley de IA de la UE. Entre las empresas firmantes están Anthropic, Google, Microsoft, Amazon, Mistral y Cohere. Llama, por el contrario, la ausencia de Meta y de xAI, la empresa de Elon Musk.
