I testi di ChatGPT avranno una filigrana invisibile (e cosa cambia per chi li usa in azienda).

Lunedì 5 ottobre OpenAI ha annunciato che nelle prossime settimane i testi scritti da ChatGPT e da Codex nell’Unione europea porteranno una filigrana invisibile. Riguarderà gli utenti di tutti i piani e servirà a rispettare l’AI Act, che da agosto chiede di rendere riconoscibili dalle macchine i contenuti generati dall’intelligenza artificiale.

La cosa curiosa è che OpenAI un sistema per marchiare i testi l’aveva già nel 2024, e aveva deciso di non usarlo, anche per il timore che gli utenti passassero a un concorrente che non marchiava niente. Adesso la legge europea ha deciso per lei.

Se nella tua azienda usate ChatGPT per scrivere mail, offerte, schede prodotto o post, è normale farsi qualche domanda. Il cliente potrà scoprire che quella mail l’ha scritta una macchina? C’è il mio nome da qualche parte? Devo dichiarare qualcosa? Le risposte sono più tranquille di quanto sembri, con due eccezioni che conviene conoscere.

Una filigrana fatta di parole

La filigrana delle banconote si vede in controluce. Questa no, perché non aggiunge al testo nessun carattere nascosto. Sta nella scelta delle parole.

Quando scrive, un modello come ChatGPT sceglie una parola alla volta, e spesso ne ha davanti diverse che andrebbero bene allo stesso modo. Il sistema di OpenAI, che si chiama textGrain, usa una chiave segreta per orientare alcune di quelle scelte. Una sola non dice niente. Centinaia, in un testo, formano uno schema che chi legge non può notare e che un rilevatore, con la chiave giusta, riconosce.

Secondo OpenAI la filigrana resta anche quando copi e incolli il testo, e la qualità delle risposte non cambia in modo apprezzabile.

Diverso il discorso per i programmi che usano i modelli di OpenAI attraverso le API, cioè il collegamento con cui un fornitore costruisce i suoi strumenti. Lì la filigrana si può già accendere per alcuni modelli, in tutto il mondo, ma è spenta di serie e va attivata da chi gestisce l’account. Ci torno più avanti, perché per alcune aziende è il punto che conta davvero.

Che cosa racconta, e a chi

Qui c’è la parte che tranquillizza. La filigrana dice soltanto che un sistema di OpenAI ha scritto o elaborato almeno una parte del testo. Non dice chi l’ha usato, da quale account, con quale richiesta, né che cosa c’era nella conversazione.

Non dice nemmeno quanto ci ha lavorato una persona. OpenAI lo scrive in modo esplicito, la filigrana può indicare che un suo sistema ha generato o elaborato parte di un testo, ma non quanto giudizio, revisione o creatività umana ci siano dentro. Non stabilisce di chi è il testo e non garantisce che sia corretto.

E se un testo non ha la filigrana, questo non prova che l’abbia scritto un essere umano. Potrebbe essere troppo corto, ritoccato, tradotto, o venire dagli strumenti di un’altra azienda.

Poi c’è la domanda pratica: chi può controllare? Oggi, quasi nessuno. OpenAI ha aperto le richieste per il suo rilevatore, ma lo concede solo a ricercatori e organizzazioni esperte approvati caso per caso, e dice che allargherà l’accesso quando i risultati si potranno interpretare in modo responsabile. Il tuo cliente, insomma, non ha un pulsante per verificare la tua mail.

Basta cambiare qualche parola?

Più o meno sì, ed è OpenAI stessa a mostrarlo con i suoi numeri.

Sui testi lunghi la filigrana si trova bene. Nelle prove dell’azienda sulle risposte a domande di psicologia, con un margine di un falso allarme ogni cento testi, il rilevatore l’ha riconosciuta in circa 95 passaggi su 100 tra quelli più lunghi e in circa 80 su 100 tra quelli lunghi la metà. Con le risposte di matematica va peggio, perché lì le parole possibili sono poche e c’è meno spazio per orientare le scelte.

Poi OpenAI ha provato a ritoccare i testi. Cambiando con dei sinonimi una parola su dieci, il rilevatore è sceso dal 92 al 66 per cento. Cambiandone una su quattro, al 17. Anche una traduzione importante può farla sparire, e secondo ActuIA, che ha letto il rapporto tecnico, nelle altre lingue europee i risultati sono già più bassi che in inglese.

Da questi numeri tiro due conclusioni, e nessuna delle due riguarda come «pulire» i testi.

La prima è che chi vuole nascondere di aver usato l’AI ci riuscirà comunque, quindi la filigrana non serve a scovare i furbi. Serve a far circolare i testi generati con un’etichetta che le macchine sanno leggere.

La seconda mi sta più a cuore. Se in azienda qualcuno pensa di usare i rilevatori di testi scritti con l’AI per giudicare le persone, per esempio la lettera di presentazione di un candidato o la relazione di un collaboratore, conviene fermarlo subito. Uno strumento che basta qualche sinonimo a confondere può al massimo far nascere un sospetto, e un sospetto non basta per giudicare una persona.

Le scrivanie dove cambia qualcosa

Per l’uso di tutti i giorni la risposta è semplice. Se scrivi mail, offerte, post o schede prodotto con ChatGPT, la filigrana la mette OpenAI e tu non devi fare niente. L’AI Act chiede di marcare i testi a chi fornisce il sistema che li genera, non a chi lo usa per lavorare.

Ci sono però due situazioni in cui una parte tocca anche a te.

Quando pubblichi per informare il pubblico

Dal 2 agosto chi pubblica testi generati con l’AI per informare il pubblico su temi di interesse pubblico deve dichiararlo. L’obbligo non scatta se il testo è stato rivisto da una persona e qualcuno, una persona o un’azienda, se ne assume la responsabilità editoriale.

Per la maggior parte delle PMI non è un problema, perché una scheda prodotto non è informazione di interesse pubblico. Ma pensa alla newsletter di un’associazione di categoria sulle nuove norme, o al sito di notizie di un consorzio. Lì la soluzione più semplice è anche la più sana: una persona rilegge e ci mette la faccia.

Quando lo strumento porta il tuo nome

Il secondo caso è meno ovvio, e riguarda chi si è fatto costruire uno strumento che genera testi e lo offre con il proprio marchio: l’assistente sul sito che risponde ai clienti, il programma che scrive le descrizioni per l’e-commerce dei rivenditori, il servizio che prepara relazioni per i clienti.

Per l’AI Act, come spiegano ActuIA e altre analisi del regolamento, chi mette sul mercato uno strumento così con il proprio nome è considerato fornitore, anche se sotto c’è il modello di OpenAI. E in quel caso tocca a lui marcare i testi. Abbiamo visto che via API la filigrana di OpenAI è spenta di serie, quindi non si può dare per scontato che ci sia.

Per gli strumenti già in funzione prima del 2 agosto la scadenza è il 2 dicembre 2026. Quelli lanciati dopo dovrebbero essere a posto da subito. Le sanzioni arrivano fino a 15 milioni di euro o al 3 per cento del fatturato mondiale, e per le PMI vale la cifra più bassa delle due: non è il caso di farsi prendere dal panico, ma neanche di aspettare novembre.

La domanda da fare al fornitore è una sola: «I testi che il nostro strumento genera sono marcati come richiede l’articolo 50 dell’AI Act? E se no, chi se ne occupa entro il 2 dicembre?»

Quello che voglio lasciarti

La filigrana di OpenAI è un’etichetta pensata per le macchine. Dice da dove arriva un testo, e niente di chi l’ha pensato o di quanto ci ha lavorato. Anthropic ha annunciato ad agosto una filigrana simile per i testi di Claude, in tutto il mondo e non solo in Europa, e la stessa regola vale per tutti i fornitori di AI che lavorano nell’Unione.

Per questo in azienda conviene smettere di chiedersi se un testo scritto con l’AI si riconosce, e chiedersi piuttosto chi ne risponde quando esce con il tuo nome. Se c’è una persona che rilegge e firma, la filigrana non ti toglie il sonno. E se hai uno strumento che scrive testi per i tuoi clienti, hai poco meno di due mesi per fare una telefonata al fornitore.

Le informazioni sulla filigrana vengono dall’annuncio di OpenAI del 5 ottobre, come l’hanno riportato TechCrunch, BleepingComputer e The Next Web, e dal rapporto tecnico come l’ha letto ActuIA. Quelle sulle regole vengono dalla pagina della Commissione europea sull’articolo 50 dell’AI Act e dalle analisi di studi legali.

E nella tua azienda, chi rilegge i testi scritti con l’AI prima che arrivino a un cliente?

Questo articolo racconta le novità in modo divulgativo e non sostituisce il parere di un legale.