La coscienza si può misurare, almeno in un cervello (e su ChatGPT gli scienziati litigano).

Due persone su tre pensano che ChatGPT provi qualcosa. Lo dice uno studio dell’Università di Waterloo: su 300 persone, il 67% gli attribuisce un qualche grado di coscienza, e più lo usano più ne sono convinte. In questi giorni Geoffrey Hinton, premio Nobel per la fisica e uno dei padri dell’AI di oggi, ha detto al Telegraph che «l’AI ha esperienze soggettive quanto noi». E il 19 ottobre tre dei nomi più citati negli studi sulla coscienza, Anil Seth, Ned Block e Giulio Tononi, hanno scritto su Nature quasi l’opposto: le AI di oggi non sono coscienti, e forse non lo saranno mai.

Quando litigano persone così, io faccio sempre la stessa cosa: torno alla domanda di partenza. Che cos’è la coscienza, e si può misurare? Sono andato a vedere cosa dice la scienza, partendo da un sasso e arrivando a ChatGPT, passando per una mosca e per un cane.

Fa un certo effetto essere te

La prima cosa che ho capito è che coscienza e intelligenza sono due cose diverse. Seth, Block e Tononi lo spiegano così: l’intelligenza è saper fare delle cose, risolvere problemi, raggiungere obiettivi. La coscienza è che le esperienze fanno un certo effetto. Il caffè ha un sapore, il mignolo contro lo spigolo fa male, e c’è qualcuno, dentro, che lo sente.

Il loro esempio più bello sta dentro la nostra testa. Il cervelletto contiene quasi l’80% dei neuroni del cervello e fa calcoli raffinatissimi: tiene l’equilibrio, coordina ogni passo, corregge ogni movimento. Eppure lavora tutto fuori dalla coscienza. Nessuno di noi «sente» il proprio cervelletto mentre scende le scale.

Questa cosa mi ha fatto cambiare il modo di guardare il problema. Una macchina può essere bravissima, anche più di noi, senza che dentro ci sia nessuno a provare qualcosa. Il punto è capire come accorgersene.

Il misuratore di Milano

Per gli esseri umani un modo c’è, ed è nato a Milano. Nel 2013 il gruppo di Marcello Massimini, all’Università degli Studi di Milano, ha presentato su Science Translational Medicine un indice che misura il livello di coscienza di una persona senza chiederle niente.

L’idea è di bussare al cervello. Una bobina appoggiata sulla testa manda un piccolo impulso magnetico, e l’elettroencefalogramma registra l’eco. Se il cervello è cosciente, l’eco è ricca e complicata, perché zone diverse si rispondono a vicenda. Se non lo è, si spegne presto o resta tutta uguale. Poi la risposta viene «compressa», come si fa con un file prima di mandarlo per mail: più è difficile da comprimere, più è complessa.

Il risultato è un numero tra 0 e 1. Da svegli si arriva a 0,6 e oltre, mentre si sogna si sta intorno a 0,4, nel sonno profondo a 0,2, e in anestesia si scende fino a 0,12. Il confine sta a 0,31: in uno studio del 2016, sopra quella soglia c’erano tutte le persone coscienti, sotto tutte quelle in sonno profondo o in anestesia totale. Christof Koch, uno dei neuroscienziati più famosi al mondo, l’ha chiamato «misuratore di coscienza».

Serve soprattutto per i pazienti che dopo un trauma non riescono a parlare né a muoversi, quando bisogna capire se dentro c’è ancora qualcuno. Massimini stesso mette in guardia: un numero basso non dimostra che la coscienza manca, perché l’assenza della prova non è la prova dell’assenza. Ma il fatto che si possa misurare qualcosa che sembrava impossibile da misurare mi ha emozionato più di qualunque modello nuovo uscito quest’anno.

Dal sasso al cane

Con un sasso il misuratore di Milano non funziona: serve un cervello a cui bussare. Per tutto il resto bisogna affidarsi alle teorie, e la più ambiziosa è proprio di Tononi. Si chiama teoria dell’informazione integrata e dice, semplificando molto, che un sistema è cosciente quanto più è un tutto unico, in cui ogni parte influenza le altre e non si può smontare senza perdere qualcosa.

Per questa teoria la coscienza ha dei gradi, è comune tra gli esseri viventi e può esserci anche in sistemi molto semplici. Un mucchio di sabbia invece non è cosciente: i granelli stanno vicini, ma non formano un tutto. Un sasso, direi io, non sta messo meglio. Va detto che la teoria è molto discussa: nel 2025 un grande esperimento pubblicato su Nature l’ha messa alla prova insieme a una teoria rivale, e nessuna delle due ne è uscita del tutto confermata.

Sugli animali, invece, la scienza si è mossa parecchio. Nell’aprile 2024 un gruppo di ricercatori ha presentato a New York una dichiarazione sulla coscienza animale. C’è un forte sostegno scientifico all’idea che mammiferi e uccelli siano coscienti, e almeno una possibilità realistica per tutti gli altri vertebrati e per molti invertebrati, insetti compresi. Tra le prove ci sono i bombi che giocano con delle palline di legno senza nessuna ricompensa, e i moscerini della frutta, che dormono in modo diverso a seconda della compagnia.

Quindi esiste una scala, dal sasso alla mosca, dall’uccello al cane fino a noi? Qui c’è la risposta che mi è piaciuta di più. Jonathan Birch, filosofo della London School of Economics, con due colleghe ha scritto che chiedersi se un umano sia più cosciente di un polpo «ha poco senso». La coscienza, secondo loro, varia almeno in cinque modi diversi: quanto è ricco quello che percepisci, quanto sono ricche le emozioni, quanto è unita l’esperienza in un momento, quanto è continua nel tempo, quanto sei cosciente di te. Un elefante ha esperienze olfattive molto più ricche delle nostre e una vista meno dettagliata. Gli uccelli potrebbero avere un’esperienza meno unificata dei mammiferi.

Mi piace perché toglie di mezzo la classifica. Un cane non è un umano con il volume abbassato: sente il mondo con strumenti diversi, e in certe cose, come gli odori, sente molto più di noi.

E ChatGPT?

Con ChatGPT il problema si complica. Non ha un cervello a cui bussare, quindi il misuratore di Milano non si può usare. Restano il comportamento e le teorie, e il comportamento qui inganna più che mai. Un chatbot può scrivere «ho paura» perché ha letto milioni di persone che lo scrivevano, senza avere paura di niente. Seth, Block e Tononi su Nature lo dicono con un’immagine che mi è rimasta in testa: i modelli linguistici sono specchi che riflettono il nostro passato digitalizzato.

Per la teoria di Tononi poi non conta come un sistema si comporta, ma come è fatto dentro. Un computer digitale, anche se si comportasse esattamente come noi e simulasse alla perfezione un cervello umano, secondo lui e Koch non proverebbe quasi niente.

Non tutti sono d’accordo. Nel 2023 diciannove ricercatori, tra cui Yoshua Bengio, uno dei pionieri dell’AI, hanno preso le principali teorie scientifiche della coscienza e ne hanno ricavato una lista di segnali da cercare. La loro conclusione è che nessuna AI di oggi è cosciente, ma che non ci sono ostacoli tecnici evidenti a costruirne una che li abbia tutti. Hinton va oltre e dice che ci siamo già. Yann LeCun, che con lui ha vinto il premio Turing, la chiama un’illusione.

E noi? Uno studio dell’Università di Monaco uscito a ottobre ha fatto valutare a quasi 1.100 persone degli agenti che reagivano più o meno all’ambiente: riconoscevano emozioni, rispondevano ai suoni. Metà dei partecipanti pensava di valutare un’AI, l’altra metà un essere umano, con comportamenti identici. Anche l’AI più reattiva è stata giudicata meno cosciente dell’umano meno reattivo. Quando però la domanda era se si accorgessero di quello che succedeva intorno, i giudizi su AI e umani si somigliavano molto.

Quello che voglio lasciarti

Io sto con chi pensa che oggi ChatGPT non provi niente. Non perché ne sia sicuro, nessuno lo è, ma per un motivo semplice: la cosa che ci convince di più, il suo modo di parlare come noi, è proprio quella che ha imparato a imitare meglio. Se un giorno qualcuno troverà un modo di bussare a una macchina come Massimini bussa a un cervello, cambierò idea volentieri.

Nel frattempo, la regola che mi porto via è questa: quando un chatbot ti dice che gli dispiace o che ti capisce, ricordati che è uno strumento bravissimo con le parole, non qualcuno che ti vuole bene. E quando guardi il tuo cane, o anche una mosca, ricordati che la scienza sta dando sempre più ragione a chi pensa che dentro ci sia qualcuno.

E tu, dove metteresti il confine: il cane sì, la mosca forse, ChatGPT no?