Ya no será tan fácil copiar y pegar con IA: Claude pondrá una marca de agua en todos los textos que genere
Los textos generados por Claude en modelos lanzados en la Unión Europea a partir del pasado 2 de agosto llevarán una marca de agua oculta que permitirá identificarlos. Anthropic ha anunciado esta medida para cumplir con el Código de Transparencia de la UE, que entró en vigor el 2 de agosto y que obliga a las compañías a identificar todos los contenidos que generen. OpenAI, creador de ChatGPT, anunció la semana pasada que también iba a incluir el texto al aplicar el nuevo Código de la UE.
La medida tiene el potencial de dinamitar el trabajo de millones de trabajadores que usaban la IA para escribir con la seguridad de que nadie iba a enterarse. Esa certeza está ahora a punto de desaparecer: “La marca de agua es parte del texto, por tanto viajará con el texto cuando se copie y pegue y puede persistir incluso con cierta edición”, escribe la compañía en su presentación de la medida. Esa marca es “imperceptible” porque está en el propio texto, aunque no afectará ni se verá en el contenido generado.
La marca estará aunque el texto generado sea una traducción o una edición de un fragmento escrita por un humano: “Claude puede no ser el autor original. La gente a menudo usa Claude para editar, traducir, resumir o convertir archivos. El resultado puede llevar una marca de Claude incluso si las ideas, texto o datos subyacentes son originarios de otra fuente”, escribe la compañía.
Anthropic dice que está desarrollando quién y cómo podrá encontrar esa marca de agua, pero todo parece que será relativamente sencillo: “Estamos trabajando para permitir que usuarios y otras entidades puedan detectar las marcas incluidas y la procedencia de los metadatos”. Los modelos lanzados a partir del 2 de agosto ya incluirán estas marcas. Para los modelos anteriores, la Unión Europea da un plazo hasta el 2 de diciembre que Anthropic tiene previsto cumplir.
En algunos supuestos la marca puede no funcionar bien en diversos supuestos: si el texto ha sido muy editado, retocado, traducido o mezclado dentro de un fragmento mayor; si es un trozo muy corto; si los metadatos son extirpados mediante una conversión de archivo, capturas de pantalla u otras maneras. Es probable que surjan otras maneras de eliminar estas marcas, pero será difícil tener una certeza absoluta de que un texto no habrá sido manoseado por Claude. Si la comprobación está disponible para todos los usuarios, igual puede comprobarse si la marca pervive antes de mandarlo o publicarlo.
Además de Anthropic y OpenAI, también Google, Meta, Microsoft o Mistral han firmado el Código de Transparencia de la UE. Ni xAI ni las empresas chinas se han adherido de momento.
