4 novembre 2026 · 7 min di lettura

Il futuro del rilevamento IA: watermark, C2PA e limiti dei rilevatori

I rilevatori di IA danno probabilità, non prove. Come differiscono watermark e provenienza C2PA, cosa chiede ora l'UE ai generatori e cosa fare già da oggi.

Il rilevamento dell'IA sembra passare dall'indovinare all'etichettare. I rilevatori che esaminano testo o pixel danno una stima, e possono sbagliare in entrambe le direzioni. Per questo si lavora sempre di più sulla provenienza, che registra da dove viene un file, e sui watermark, incorporati nel contenuto al momento della generazione. Anche le regole dell'UE ora spingono i fornitori di IA verso una marcatura leggibile dalle macchine. Niente di tutto questo risolverà ogni caso, dato che molti file non portano alcun segnale, quindi per ora l'approccio sensato è combinare più controlli e trattare ogni risultato come un indizio, non come un verdetto.

Perché i rilevatori di IA non possono dare una risposta definitiva?

Un rilevatore cerca schemi statistici che tendono a comparire nei risultati dell'IA. Niente in una frase o in un pixel dimostra di per sé come è stato creato. La scrittura umana può sembrare schematica, quella dell'IA può essere modificata e la compressione delle immagini può cancellare gli schemi. Per questo il risultato è una probabilità, e un punteggio alto non è l'accertamento di un fatto.

Un articolo del 2023 mostra cosa c'è in gioco: «GPT detectors are biased against non-native English writers», di Weixin Liang e colleghi, ha rilevato che diversi rilevatori molto usati classificavano sistematicamente come generati dall'IA i testi di chi non è madrelingua inglese, e che semplici prompt potevano anche aiutare un testo a sfuggire al rilevamento. Da allora gli strumenti sono cambiati e i risultati variano, ma la cautela degli autori sull'uso dei rilevatori in contesti valutativi o educativi merita ancora attenzione.

Che differenza c'è tra rilevamento, watermark e provenienza?

Come funzionano le Content Credentials C2PA, e cosa non possono dimostrare?

Le Content Credentials sono il modo in cui lo standard C2PA registra la provenienza. La C2PA le descrive come un modo crittograficamente sicuro di acquisire ed esprimere da dove viene un contenuto. Possono mostrare che un'immagine è stata generata da un certo strumento, o che una foto non è stata modificata dallo scatto. Sono più simili a un'etichetta firmata che a un rilevatore.

• Riportano l'origine, non la verità. Una vera fotocamera può fotografare una scena ingannevole, e un file firmato può comunque trarre in inganno per il contesto in cui compare.
• Possono andare perse. La stessa FAQ della C2PA riconosce che i metadati possono essere rimossi, per caso o di proposito. Spesso basta uno screenshot o un nuovo salvataggio.
• Hanno bisogno di supporto. Il loro valore cresce se fotocamere, editor, generatori e piattaforme le conservano e le mostrano tutti, e il supporto è disomogeneo.

La FAQ della C2PA descrive anche i «soft binding», come watermark invisibili o impronte digitali, che possono aiutare a ritrovare una credenziale dopo che è stata separata da un file. Per questo metadati e watermark sono spesso trattati insieme, invece che come rivali.

I watermark risolveranno il problema?

Da soli, probabilmente no. SynthID di Google è un esempio noto: Google dice che incorpora watermark invisibili in immagini, video e audio generati con l'IA, e che regola le probabilità delle parole per marcare il testo. Offre anche dei modi per verificare la presenza di quel watermark. Ma un controllo del genere può trovare solo il proprio segnale. Un esito negativo non significa che un file sia fatto da una persona: può venire da un generatore che non usa quel watermark. I modelli aperti che le persone fanno girare per conto proprio potrebbero non aggiungerne affatto.

Quindi i watermark potrebbero rendere più facile identificare una quota crescente di contenuti, soprattutto dei grandi fornitori, lasciando però un vuoto che non è detto si colmi. Quanto reggeranno a chi vuole rimuoverli con determinazione è una questione aperta, e conviene leggere con attenzione ciò che dichiarano i produttori.

Cosa chiede l'UE sulla marcatura dei contenuti IA?

L'articolo 50, paragrafo 2, dell'AI Act dell'UE impone ai fornitori di sistemi di IA generativa di marcare gli output in un formato leggibile dalle macchine, così che siano riconoscibili come generati o manipolati artificialmente. La Commissione dice che gli obblighi di trasparenza si applicano dal 2 agosto 2026. In seguito alle modifiche dell'AI Omnibus, il suo AI Act Service Desk indica una transizione per i sistemi immessi sul mercato prima di quella data: i loro fornitori hanno tempo fino al 2 dicembre 2026 per conformarsi all'articolo 50, paragrafo 2.

• Il 10 giugno 2026 la Commissione ha pubblicato un Codice di buone pratiche definitivo sulla marcatura e l'etichettatura dei contenuti generati con l'IA. È volontario, e la Commissione riporta circa 190 firmatari entro la fine di luglio.
• Questo obbligo ricade sui fornitori dei sistemi di IA. Regole di dichiarazione separate si applicano a chi pubblica deepfake in ambito professionale.
• Quanto funzionerà in pratica è ancora da vedere, compreso come risponderanno i fornitori fuori dall'UE, come sopravviveranno i marcatori sulle piattaforme e come si svilupperà l'applicazione delle regole.
• Questo è un riassunto, non una consulenza legale. Controlla le pagine della Commissione per la situazione aggiornata.

Dove può andare il rilevamento dell'IA?

Queste sono direzioni da tenere d'occhio, non previsioni:

• Marcatura più a strati, con metadati, watermark e impronte digitali usati insieme, così che un segnale perso non interrompa la traccia.
• Provenienza anche per le foto reali, così che gli scatti autentici possano portare una prova della loro origine, invece di etichettare solo i contenuti IA.
• Più etichette sulle piattaforme, che dipendono dal fatto che i segnali sopravvivano al caricamento e che le piattaforme scelgano di mostrarli.
• Controlli che combinano i segnali, riportando ciò che è stato trovato invece di un unico punteggio «IA o umano».
• Un onere della prova che si sposta: «mostrami la tua fonte» potrebbe contare più di «cosa dice il rilevatore?»

Cosa fare già da oggi?

I due strumenti di verifica di Skrubly fanno di proposito lavori diversi. Il Rilevatore di contenuti IA fa una stima a partire dagli schemi del testo, quindi può sbagliare. Il Verificatore di immagini IA non giudica i pixel: riporta i tag C2PA e del generatore incorporati nel file, quindi può esprimersi solo quando quei tag ci sono. Nessuno dei due è una risposta definitiva, e lo stesso vale per qualsiasi strumento.

Risposte rapide

• I rilevatori di IA diventeranno obsoleti? Non lo sappiamo. Potrebbero restare utili come un segnale tra gli altri, soprattutto per i contenuti senza alcuna marcatura.
• Se un'immagine ha le Content Credentials, è affidabile? Ti dicono la sua origine e le modifiche registrate. Il contesto e la fonte devi comunque valutarli tu.
• Un watermark può dimostrare che qualcosa è fatto da una persona? No. Un watermark assente significa solo che il controllo non ha trovato quel watermark.