En 2023 ya hablábamos del problema de los deepfakes y la solución que planteaba la Unión Europea era que todo este contenido artificial estuviera marcado con una etiqueta de forma obligatoria. Ese día ha llegado y desde ayer, 2 de agosto, la obligación ha entrado en vigor. El problema es que a estas alturas ya nadie va a hacerle caso.
En qué consiste la norma. El etiquetado de contenido generado con IA forma parte de la Ley de IA de la Unión Europea, concretamente el artículo 50 que recoge las obligaciones de transparencia para los proveedores. La ley dice que todo aquel contenido (imagen, vídeo, audio o texto) que haya sido generado o manipulado por IA y esté diseñado para parecer auténtico, tiene que dejarlo claro. Eso implica dos cosas a la vez: una etiqueta visible que cualquier persona pueda ver a simple vista, y una marca técnica incrustada en el propio archivo para que se pueda verificar su origen artificial aunque alguien borre la etiqueta visible.
La Comisión ha diseñado unos iconos en blanco y negro de uso libre, aunque las empresas pueden crear los suyos propios siempre que cumplan la misma función. También afecta a los chatbots: si estás hablando con una IA, tienen que decírtelo antes de que sigas la conversación pensando que hay una persona al otro lado. En declaraciones a The Guardian, el eurodiputado Sergey Lagodinsky ha afirmado que «No se trata solo de proteger al consumidor, sino también de proteger la democracia. Hacer transparente esta información es fundamental para preservar nuestra democracia y la veracidad de los hechos en internet».
Quién debe cumplirla. La obligación recae sobre cualquier empresa que despliegue sistemas de IA generativa en el mercado europeo, sin importar dónde tenga su sede. A partir del 2 de agosto, todos los nuevos sistemas de IA que se comercialicen en la Unión Europea deben integrar este etiquetado visible en su contenido. ¿Y qué pasa con los sistemas que ya se comercializan? En este caso tienen cuatro meses de margen para cumplir con la obligación, por lo que si no ves la etiqueta en algunos contenidos puede ser debido a esta prórroga.
Las multas. Las empresas que no etiqueten el contenido generado por IA se enfrentan a multas de hasta 15 millones de euros o, en su defecto, el 3% de la facturación mundial de la empresa, lo que resulte más alto (es una norma pensada para que a las grandes tecnológicas no les compense mirar hacia otro lado). Hay empresas como Google y Meta que se han adelantado y han firmado el código de buenas prácticas voluntario.
Las excepciones. Aquí es donde la ley empieza a hacer aguas. En el caso de imágenes, audios o vídeos, la normativa no aplica «Cuando el contenido forme parte de una obra o programa manifiestamente artístico, creativo, satírico, de ficción o análogo» ni tampoco al contenido personal de los usuarios. Para los textos, tampoco aplica si ha tenido supervisión humana. El problema es dónde empieza la sátira o cuánta supervisión humana es necesaria. En la práctica, esto puede convertirse en un coladero: la mayoría de memes y deepfakes seguirán circulando sin etiqueta ninguna porque «son satíricos».
Nadie va a hacerles caso. El responsable de políticas IA de la Computer & Communication Industry Association (CCIA) ha criticado la norma afirmando que «La etiqueta tenía como objetivo señalar el contenido engañoso. Esa distinción se ha eliminado, por lo que ahora casi todo se etiqueta: un paisaje en un anuncio se considera lo mismo que un discurso político manipulado». También hace una comparación muy acertada con los avisos de cookies: «una vez que las etiquetas estén por todas partes, los usuarios dejarán de fijarse en ellas. Esto no protege a nadie, solo perjudica la actividad comercial en general».
Etiquetar la IA cuando todo es IA. Cuando la ley de IA se estaba cocinando puede que las etiquetas tuvieran sentido, pero en el tiempo en el que ha tardado en aplicarse las cosas han cambiado mucho. No sólo hay muchísimo más contenido IA, es que ese contenido ya es indistinguible de la realidad. Esto ha provocado una especie de escepticismo colectivo, hasta el punto de que hoy son los artistas los que tienen que explicar que su arte es manual. Cuando dejamos de discernir lo que es real de lo que es falso, todo nos parece falso. Va a hacer falta algo más que una etiqueta que diga ‘generado con IA’, sobre todo cuando aplican tantas excepciones.
Imagen | Xataka con Magnific
Fuente: www.xataka.com
