Deepfake e AI Act: come etichettare un deepfake

L'AI Act (regolamento (UE) 2024/1689) lo scrive in due parole, deep fake, anche nella versione italiana. L'articolo 3, punto 60, lo definisce come “un'immagine o un contenuto audio o video generato o manipolato dall'IA che assomiglia a persone, oggetti, luoghi, entità o eventi esistenti e che apparirebbe falsamente autentico o veritiero a una persona”. In parole semplici: un'immagine creata o modificata con l'IA che sembra reale, e che qualcuno potrebbe prendere per vera.

Le linee guida della Commissione sull'articolo 50 (in inglese, punto 113) scompongono la definizione in quattro criteri. Devono valere tutti e quattro:

1. Somiglianza: un alto grado di somiglianza con il soggetto, valutato sui suoi tratti distintivi. Non serve che sia identico.
2. Esistente: il soggetto esiste, o potrebbe plausibilmente esistere o essere esistito. Una persona fotorealistica mai vissuta può rientrare; un drago o un elefante alla guida di un'auto no.
3. Persone, oggetti, luoghi, entità o eventi: compresi avatar IA realistici, edifici, opere d'arte, prodotti, animali e scene realistiche.
4. Falsa apparenza: il contenuto sembrerebbe falsamente autentico o veritiero a qualcuno.

Le linee guida danno esempi da una parte e dall'altra del confine. Alcuni sono video, ma il ragionamento vale allo stesso modo per un'immagine.

• Non serve l'intenzione: il criterio è oggettivo (punto 114). Un'immagine può essere un deep fake anche se non hai mai voluto ingannare nessuno.
• Contano contesto e pubblico: dove viene mostrata l'immagine e cosa si aspettano le persone che probabilmente la vedranno, compresi i bambini o chi ha meno familiarità con l'IA (punto 115). Se una parte di quel pubblico potrebbe essere tratta in inganno, può bastare.
• Il fotorealismo rende più probabile un deep fake, ma da solo non è decisivo.
• Di solito le modifiche minori non contano (punto 116): rimuovere i passanti, correggere luce e colori, ridurre il rumore, ritocchi estetici, o un cambio di sfondo puramente estetico nella pubblicità di un prodotto. Una modifica IA sostanziale dello sfondo di una foto di cronaca invece può contare.

L'articolo 50, paragrafo 4, mette l'obbligo in capo ai deployer: persone e organizzazioni che usano l'IA a titolo professionale. Contano le attività d'impresa, commerciali e da libero professionista, e anche ottenere un beneficio economico in modo regolare (linee guida, punto 19). I dipendenti agiscono per il datore di lavoro: il deployer è l'azienda (punto 14).

L'uso puramente personale è escluso (articolo 2, paragrafo 10), come i deep fake dei tuoi familiari o quelli che pubblichi sui social a titolo personale. Le piattaforme possono comunque chiederti di etichettare: vedi la guida Etichetta IA Instagram.

• Dal 2 agosto 2026, senza periodo di tolleranza per i deployer. L'Omnibus digitale ha rinviato solo la marcatura leggibile dalle macchine a carico dei fornitori, al 2 dicembre 2026, per i sistemi di IA generativa immessi sul mercato prima del 2 agosto 2026.
• Nessun obbligo retroattivo per i deep fake creati prima del 2 agosto 2026, anche se etichettarli è incoraggiato (punto 154).

Sanzioni e controlli sono nella nostra guida AI Act etichettatura IA.

L'articolo 50, paragrafo 4, chiede ai deployer di rendere noto che il contenuto è stato generato o manipolato artificialmente. Il paragrafo 5 aggiunge: “in maniera chiara e distinguibile al più tardi al momento della prima interazione o esposizione”, e in modo accessibile. Per un'immagine significa:

• Chiara e distinguibile: ben visibile e facile da distinguere da ciò che la circonda, non sepolta in un menu o nelle condizioni d'uso (linee guida, punto 142).
• Alla prima esposizione: per ogni persona che la vede, per esempio mentre scorre un feed (punto 143).
• Visibile alle persone: la filigrana nascosta o i metadati del fornitore di IA non soddisfano l'obbligo del deployer (punto 117). La nostra guida Riconoscere immagini IA spiega a cosa servono queste marcature.
• Integrata nell'immagine, visibile su qualsiasi sfondo, dove nessun'altra sovrapposizione si mette in mezzo, “ad esempio nell'angolo in alto a destra” (Codice di buone pratiche, in inglese, misura 1.2).
• Accessibile: contrasto elevato, e testo alternativo per gli screen reader.

Il Codice accetta l'icona UE o un'etichetta equivalente. L'icona è facoltativa, e usarla non stabilisce di per sé la conformità.

Scegli l'icona della Commissione europea che dice cosa è successo all'immagine:

Per uno scambio di volto (face swap) in una foto reale, usa AI MODIFIED: un volto in una foto autentica sostituito con quello di un politico è proprio l'esempio della Commissione. Il Codice incoraggia anche a dire cosa è cambiato, per esempio “un volto è stato modificato”. Colori, dimensioni e download sono nella nostra guida Icone IA UE.

Per un deep fake in un'opera manifestamente artistica, creativa, satirica, fittizia o analoga, l'articolo 50, paragrafo 4, richiede comunque un'indicazione, ma tale da non ostacolare l'esposizione o il godimento dell'opera. Le linee guida leggono “manifestamente” in senso stretto (punto 122): la natura dell'opera deve risultare evidente dallo stile, dal contesto o da ciò che il pubblico si aspetta. I contenuti ambigui richiedono l'etichetta standard, come quelli puramente informativi o commerciali, per esempio le notizie. Dove l'aspetto informativo e quello creativo si mescolano, prevale quello informativo.

Il Codice (impegno 3) suggerisce di inserire l'indicazione nelle note, nella descrizione o nei titoli di coda, o accanto alla cornice dell'immagine su un sito, purché le persone lo notino senza fare clic. Sull'immagine stessa, un'etichetta più piccola o un angolo più discreto possono adattarsi meglio all'opera, se resta facile da vedere.

Un'etichetta soddisfa un obbligo dell'AI Act e niente di più: rispettare gli obblighi di trasparenza non rende lecito un uso dell'IA né il suo output (considerando 137). Ti serve comunque il consenso delle persone ritratte, o dei titolari dei diritti, dove la legge lo richiede (Codice, impegno 1). Protezione dei dati, diritto d'autore, marchi, diritti della personalità sull'immagine e sulla voce di una persona, norme sulla pubblicità ingannevole e diritto penale restano tutti validi (linee guida, punti da 127 a 129).

Lo strumento aggiunge l'icona; se e come etichettare resta una tua decisione e una tua responsabilità.