La regolamentazione europea sulle tecnologie emergenti continua a ridefinire le strategie delle grandi aziende informatiche. OpenAI ha annunciato l’introduzione di un sistema di filigrana invisibile (watermarking) per tutti i testi generati da ChatGPT e dal sistema di codifica Codex all’interno dell’Unione Europea. La decisione rappresenta una risposta diretta agli obblighi di trasparenza previsti dal Regolamento Europeo sull’Intelligenza Artificiale (EU AI Act) e dal relativo Codice di Condotta, dimostrando come le norme comunitarie stiano spingendo i colossi della Silicon Valley verso una maggiore tracciabilità dei contenuti sintetici.

Come funziona la filigrana statistica: la tecnologia textGrain

A differenza delle tecniche di watermarking applicate alle immagini o ai file audio, tracciare il testo senza comprometterne la leggibilità o la fluidità rappresenta una sfida complessa. OpenAI ha adottato una soluzione denominata textGrain, che agisce a livello statistico durante la generazione delle frasi:

Modulazione della casualità: Il sistema non inserisce caratteri invisibili, spazi nascosti o simboli speciali che potrebbero essere facilmente individuati e rimossi con un semplice “copia e incolla”.

Selezione del lessico: L’algoritmo altera in modo impercettibile le probabilità con cui il modello sceglie una determinata parola o combinazione di termini tra quelle disponibili.

Impronta digitale distribuita: L’insieme di queste micro-scelte crea una trama statistica rintracciabile da uno strumento di analisi specifico (detector), in grado di riconoscere l’intervento dell’IA su passaggi di lunghezza adeguata.

A livello aziendale, la funzione sarà attiva di default in Europa sulle interfacce utente di ChatGPT e Codex. Per i clienti che utilizzano le API a livello globale, l’abilitazione della filigrana rimarrà invece un’opzione facoltativa (opt-in), lasciando agli sviluppatori la decisione su come gestire la trasparenza verso i propri utenti finali.

I limiti tecnici: modifiche, brevità e contenuti complessi

Nonostante l’innovazione della tecnologia, la stessa OpenAI ha evidenziato le criticità e i margini di elusione del sistema di rilevamento:

Involuzione con le modifiche manuali: Un’analisi condotta su testi di circa 300 parole (400 token) evidenzia come la sostituzione di appena il 10% dei termini con dei sinonimi riduca la precisione di rilevamento dal 92% al 66%. Se il testo viene modificato per il 25%, la capacità di identificare la filigrana crolla al 17%.

Lunghezza del testo: Su testi inferiori alle 150 parole (200 token), il segnale statistico risulta troppo debole e non garantisce un margine di certezza sufficiente.

Domini tecnici e scientifici: Nei testi matematici, scientifici o di programmazione rigorosa, la libertà di scelta lessicale del modello è estremamente ridotta, rendendo quasi impossibile applicare la filigrana senza alterare la correttezza del contenuto.

Per prevenire una proliferazione di giudizi errati e “falsi positivi”, OpenAI non rilascerà pubblicamente il software di rilevamento. L’accesso al detector sarà inizialmente riservato a ricercatori, enti di verifica e organizzazioni specializzate previa richiesta.

Implicazioni legali e diritti degli utenti

L’implementazione della filigrana sui testi chiarisce un aspetto fondamentale nel rapporto tra intelligenza artificiale, diritto d’autore e responsabilità civile. La presenza di un watermark identifica che un testo è stato generato o elaborato da un modello OpenAI, ma non fornisce alcuna indicazione sulla titolarità dei diritti, sulla paternità dell’opera o sull’accuratezza delle informazioni contenute.

La mossa di OpenAI stabilisce un precedente nell’applicazione dell’EU AI Act: la sovranità normativa europea costringe i provider di intelligenza artificiale a sviluppare strumenti di provenienza dei dati, anche quando tali tecnologie presentano ancora evidenti limiti operativi sul piano della tenuta tecnica e analitica.