Deepfake y AI Act: cómo etiquetar un deepfake

En español, el AI Act (Reglamento (UE) 2024/1689) no usa la palabra deepfake, sino ultrasuplantación. Su artículo 3, punto 60, la define como «un contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos». Dicho de forma sencilla: una imagen creada o cambiada con IA que parece real y que alguien podría tomar por real.

Las Directrices sobre el artículo 50 de la Comisión (en inglés, punto 113) dividen la definición en cuatro criterios. Deben cumplirse los cuatro:

1. Parecido: un alto grado de similitud con el sujeto, juzgado por sus rasgos distintivos. No tiene que ser idéntico.
2. Real: el sujeto existe, o podría existir o haber existido de forma verosímil. Una persona fotorrealista que nunca vivió puede cumplirlo; un dragón o un elefante al volante, no.
3. Personas, objetos, lugares, entidades o sucesos: incluidos avatares de IA realistas, edificios, obras de arte, productos, animales y escenas realistas.
4. Apariencia falsa: el contenido podría parecerle a alguien falsamente auténtico o verídico.

Las Directrices dan ejemplos a ambos lados de la línea. Algunos son vídeos, pero el razonamiento es el mismo para una imagen.

• No hace falta intención: el criterio es objetivo (punto 114). Una imagen puede ser un deepfake aunque nunca quisieras engañar a nadie.
• Cuentan el contexto y el público: dónde se muestra la imagen y qué esperan quienes probablemente la verán, incluidos los niños o las personas menos familiarizadas con la IA (punto 115). Si una parte de ese público pudiera llevarse a engaño, eso puede bastar.
• El fotorrealismo hace más probable un deepfake, pero no es decisivo por sí solo.
• Los retoques menores no suelen contar (punto 116): eliminar transeúntes, corregir la luz y el color, reducir el ruido, ajustes cosméticos o un cambio de fondo con fines estéticos en un anuncio de producto. Una edición sustancial con IA del fondo de una foto de prensa sí puede contar.

El artículo 50.4 impone la obligación a los responsables del despliegue: personas y organizaciones que usan la IA de forma profesional. Cuentan la actividad empresarial, comercial y como autónomo, y también obtener un beneficio económico de forma regular (Directrices, punto 19). Los empleados actúan por cuenta de su empleador: la responsable del despliegue es la empresa (punto 14).

El uso puramente personal queda excluido (artículo 2.10), como los deepfakes de tu familia o los que publicas en redes sociales a título personal. Aun así, las plataformas pueden pedirte que etiquetes: consulta Etiqueta IA Instagram.

• Desde el 2 de agosto de 2026, sin periodo de gracia para los responsables del despliegue. El Ómnibus digital solo retrasó el marcado legible por máquina de los proveedores, hasta el 2 de diciembre de 2026, para los sistemas de IA generativa introducidos en el mercado antes del 2 de agosto de 2026.
• Sin obligación retroactiva para los deepfakes creados antes del 2 de agosto de 2026, aunque se recomienda etiquetarlos (punto 154).

Las multas y quién las impone están en nuestra guía Obligación de etiquetar contenido IA.

El artículo 50.4 pide a los responsables del despliegue que hagan público que el contenido ha sido generado o manipulado de manera artificial. El artículo 50.5 añade que la información se facilitará «de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición», y de forma accesible. Para una imagen, eso significa:

• Clara y distinguible: perceptible y fácil de distinguir de lo que la rodea, no enterrada en un menú ni en las condiciones de uso (Directrices, punto 142).
• Desde la primera exposición: para cada persona que la vea, por ejemplo al deslizar por un feed (punto 143).
• Visible para las personas: la marca de agua oculta o los metadatos del proveedor de IA no cumplen la obligación del responsable del despliegue (punto 117). Nuestra guía Cómo saber si una imagen es IA explica para qué sirven esas marcas.
• Integrada en la imagen, visible sobre cualquier fondo, donde ninguna otra superposición estorbe, por ejemplo «en la esquina superior derecha» (Código de buenas prácticas, en inglés, medida 1.2).
• Accesible: alto contraste y texto alternativo para los lectores de pantalla.

El Código admite el icono de la UE o una etiqueta equivalente. El icono es opcional, y usarlo no establece por sí solo el cumplimiento legal.

Elige el icono de la Comisión Europea que dice lo que le ha pasado a la imagen:

Para un intercambio de caras en una foto real, usa AI MODIFIED (Modificado parcialmente por IA): una cara de una foto auténtica sustituida por la de un político es el propio ejemplo de la Comisión. El Código también anima a decir qué ha cambiado, como «se ha alterado una cara». Los colores, los tamaños y las descargas están en nuestra guía Iconos IA UE.

Para un deepfake en una obra manifiestamente artística, creativa, satírica, de ficción o análoga, el artículo 50.4 sigue exigiendo un aviso, pero uno que no dificulte la exhibición o el disfrute de la obra. Las Directrices interpretan «manifiestamente» de forma estricta (punto 122): la naturaleza de la obra debe ser evidente por su estilo, su contexto o lo que espera el público. El contenido ambiguo lleva la etiqueta normal, igual que el contenido puramente informativo o comercial, como las noticias. Cuando se mezclan lo informativo y lo creativo, prevalece lo informativo.

El Código (compromiso 3) sugiere indicarlo en las notas, la descripción o los créditos, o junto al marco de la imagen en una web, siempre que la gente lo vea sin hacer clic. En la propia imagen, una etiqueta más pequeña o una esquina más discreta pueden encajar con la obra, si sigue siendo fácil de ver.

Una etiqueta cumple una obligación del AI Act y nada más: cumplir las normas de transparencia no hace lícito un uso de la IA ni sus resultados (considerando 137). Sigues necesitando el consentimiento de las personas que aparecen, o de los titulares de derechos, cuando la ley lo exige (Código, compromiso 1). La protección de datos, los derechos de autor, las marcas, los derechos sobre la propia imagen y la voz, las normas sobre publicidad engañosa y el derecho penal siguen aplicándose (Directrices, puntos 127 a 129).

La herramienta añade el icono; si etiquetar y cómo sigue siendo decisión y responsabilidad tuya.