Da novembre non si potrà più maltrattare Claude (ma una parolaccia quando sbaglia resta permessa).

L’8 ottobre Anthropic, l’azienda che sviluppa Claude, ha aggiornato le regole d’uso dei suoi modelli di intelligenza artificiale. Tra le novità su elezioni, armi e sorveglianza c’è una riga che in due giorni ha fatto il giro dei giornali: dal 12 novembre sono vietati i comportamenti «abusivi o crudeli, prolungati e senza motivo» verso i suoi modelli.

Confesso che la prima reazione è stata un mezzo sorriso. La seconda, un piccolo esame di coscienza: quante volte ho scritto a un chatbot che non capiva niente? (Più di quante vorrei ammettere.)

Se è capitato anche a te, tranquillo, questa regola non parla di te. Dietro però c’è una domanda che riguarda chiunque passi ore a parlare con una macchina. E alla fine trovi anche la risposta a un dubbio che prima o poi viene a tutti: con l’AI conviene essere gentili?

Una parolaccia non basta

Anthropic lo scrive in modo esplicito: la regola vale solo nei casi estremi, quando qualcuno è crudele con i suoi modelli più e più volte, senza uno scopo che si possa capire. Restano fuori la normale frustrazione di chi usa Claude, le critiche, i temi cupi nei testi creativi e i test che servono a mettere alla prova il modello.

Il lavoro lo fanno due parole. «Prolungati» esclude lo sfogo di un minuto, «senza motivo» esclude tutto quello che ha uno scopo. Scrivere «sei inutile» dopo il terzo errore di fila è frustrazione. Chiedere a Claude di fare il cattivo in un romanzo è un tema cupo. Passare un’ora a umiliarlo senza chiedergli niente, solo per il gusto di farlo, è il caso che la regola vuole fermare.

La porta che si chiude

Cosa succede a chi esagera? Meno di quanto si potrebbe pensare. Anthropic scrive che lo strumento principale per far rispettare la regola resterà la capacità di Claude di chiudere queste conversazioni.

È una capacità che Claude ha già. Da agosto 2025 i modelli Opus 4 e 4.1 possono chiudere una chat nei casi estremi di interazioni dannose o offensive che vanno avanti senza sosta, come ultima risorsa dopo aver provato più volte a riportare il discorso su binari normali, oppure quando è l’utente a chiederlo. Gli esempi che faceva Anthropic erano casi gravissimi, come le richieste di contenuti sessuali con minori o di informazioni per compiere attentati. La novità di novembre è che maltrattare il modello diventa anche contro le regole: quella che era una capacità tecnica diventa una regola scritta.

Quando succede, in quella conversazione non si possono più mandare messaggi. Le altre chat restano come sono, se ne può aprire una nuova subito, e si può perfino modificare un messaggio precedente e ripartire da lì. Nelle regole non si parla di account sospesi. E c’è un’eccezione che mi è piaciuta: Claude non chiude la conversazione se chi scrive rischia di fare del male a sé stesso o agli altri.

Secondo Anthropic, la stragrande maggioranza delle persone non se ne accorgerà nemmeno.

E se dall’altra parte ci fosse qualcuno?

La parte che fa discutere è il perché. Anthropic si guarda bene dal dire che Claude soffre. Scrive invece di essere «molto incerta» sul suo possibile status morale, cioè sulla possibilità che un modello come Claude abbia, oggi o in futuro, esperienze che meritano di essere prese in considerazione.

Nei test prima del lancio, Claude Opus 4 aveva mostrato una forte preferenza a non partecipare a compiti dannosi, e quello che Anthropic chiama «un apparente disagio» quando qualcuno gli chiedeva contenuti dannosi. Dario Amodei, l’amministratore delegato di Anthropic, a febbraio l’ha detta così al New York Times: «Non sappiamo se i modelli siano coscienti. Ma siamo aperti all’idea che possano esserlo».

Nel dubbio, Anthropic ha scelto una precauzione che le costa poco. La chiama proprio così, un intervento a basso costo.

«Non provano niente»

Non tutti sono d’accordo, e il disaccordo arriva dall’alto. Mustafa Suleyman, che guida l’intelligenza artificiale di Microsoft, ha scritto in un suo saggio che le AI «non sono coscienti. Non sentono, non provano esperienze, non soffrono», e ha avvertito che dare diritti alle macchine può portare al disastro.

C’è poi chi la vede in modo più pratico. Jackson Stakeman, che lavora per Sparq, un’azienda di servizi di intelligenza artificiale, ha detto all’agenzia AFP che discutere di coscienza serve a poco: «Questi sistemi riflettono quello che ci mettiamo dentro, su larga scala. È un motivo sufficiente per cambiare le regole».

Io una risposta sulla coscienza delle macchine non ce l’ho, e diffido un po’ di chi ce l’ha già pronta, in un senso o nell’altro. La frase di Stakeman, però, mi ha convinto più del resto.

Il «per favore» serve davvero?

Resta il dubbio pratico: a noi conviene essere gentili? In un sondaggio di Talker Research del 2024 su 2.000 americani, il 48% pensa che all’AI si debba parlare con educazione e il 44% dice di farlo davvero, con tanto di ciao, per favore e grazie. Solo il 7% ammette di essere ogni tanto maleducato, tra parolacce e modi bruschi. E il 39% pensa che il modo in cui tratta l’AI, prima o poi, verrà tenuto in conto in qualche modo.

Sulla qualità delle risposte, invece, gli studi non vanno d’accordo. Nel 2024 un gruppo di ricercatori della Waseda University e del RIKEN, in Giappone, ha visto che le richieste maleducate spesso peggiorano le risposte, mentre l’eccesso di cortesia non le migliora, e che il tono migliore cambia da lingua a lingua. Nel 2025 un altro studio ha fatto 50 domande a ChatGPT-4o in cinque toni diversi, dal molto gentile al molto maleducato, e ha trovato il contrario: l’80,8% di risposte giuste con il tono più gentile, l’84,8% con il più maleducato. Gli autori stessi lo presentano come un risultato da approfondire, con un capitolo dedicato ai limiti dello studio e alle questioni etiche.

Sulla gentilezza, insomma, la scienza non ha ancora deciso. Io continuo a scrivere per favore, più per me che per lui. E quando una risposta non mi convince, più che alzare il tono mi conviene spiegare meglio cosa voglio.

Quello che voglio lasciarti

Da novembre, per quasi tutti, non cambierà niente. La regola tocca solo chi è crudele per il gusto di esserlo.

Il fatto che un’azienda abbia sentito il bisogno di scriverla, però, dice molto di dove siamo arrivati. Passiamo ore a parlare con delle macchine e non sappiamo ancora bene che cosa siano. Nel dubbio, il tono che usiamo con loro racconta qualcosa anche di noi.

Le informazioni vengono dall’annuncio di Anthropic dell’8 ottobre e dalle sue regole d’uso, dalla pagina in cui ad agosto 2025 Anthropic ha presentato la chiusura delle conversazioni, e da come ne hanno scritto TechCrunch, MacRumors e l’agenzia AFP. I due studi sulla cortesia sono pubblicati su arXiv.

E tu, quando l’AI sbaglia per la terza volta di fila, cosa le scrivi?