Prima di giudicare una macchina, proviamo a capirla
«IL CERVELLO, L’IA E NOI»
Dai neuroni ai chip, un viaggio semplice dentro due intelligenze diverse per capire che cosa accade quando impariamo e interroghiamo una macchina
Redazione Inchiostronero
L’intelligenza artificiale è stupida? Non pensa? Copia soltanto ciò che altri hanno scritto? Oppure le stiamo facendo domande sbagliate prima ancora di avere capito come funziona? Questo articolo nasce per parlare soprattutto ai giovani, partendo da un confronto semplice: da una parte il cervello umano, con neuroni, sinapsi, memoria e apprendimento; dall’altra una rete neurale artificiale, con token, parametri, chip, GPU e grandi centri di calcolo. Non per sostenere che funzionino allo stesso modo, ma per comprendere che cosa li distingue e dove alcune analogie possono aiutarci. Fino alla questione decisiva: se due persone utilizzano la stessa IA ottenendo risultati completamente diversi, possiamo giudicare soltanto la macchina? Forse imparare a usare l’intelligenza artificiale significa, prima di tutto, imparare a usare meglio la nostra.
PRIMA DI DECIDERE CHI È STUPIDO
«L’intelligenza artificiale non pensa.»
È probabilmente una delle frasi che sentirete più spesso parlando di IA. Qualche volta è accompagnata da una seconda sentenza: «Non sa niente. Cerca informazioni, le mette insieme e te le restituisce». E, quando la macchina commette un errore, arriva facilmente la conclusione: «Hai visto? È stupida».
Prima di stabilirlo, però, facciamo qualcosa di molto semplice.
Mettiamo idealmente sopra un tavolo un cervello umano e un sistema di intelligenza artificiale.
Il primo pesa poco più di un chilo e contiene circa 86 miliardi di neuroni, organizzati in circuiti e collegati attraverso migliaia di miliardi di connessioni sinaptiche. I neuroni ricevono segnali da moltissime altre cellule, li integrano e ne trasmettono a loro volta. E quelle connessioni non sono immobili: la loro efficacia può modificarsi nel tempo. È ciò che chiamiamo plasticità sinaptica, uno dei meccanismi fondamentali associati all’apprendimento e alla memoria.
Dall’altra parte del tavolo non abbiamo un cervello più piccolo e neppure un cervello elettronico. Abbiamo qualcosa di completamente diverso: hardware, memoria elettronica, programmi e una rete neurale artificiale i cui parametri sono stati modificati durante un lungo processo di addestramento.
Facciamo ora la stessa domanda ai due:
«Che cosa sai dell’antica Roma?»
L’essere umano non apre nella testa una cartella chiamata ROMA ANTICA. Quello che chiamiamo ricordare coinvolge attività distribuite e diversi sistemi cerebrali. Le modificazioni delle connessioni sinaptiche svolgono un ruolo fondamentale, ma sarebbe scorretto immaginare un luogo preciso nel quale ogni ricordo venga semplicemente depositato e poi prelevato. Il rapporto tra attività neuronale, modificazioni sinaptiche e conservazione dei ricordi è molto più complesso e presenta ancora questioni aperte.
La macchina fa qualcosa di diverso. Non ha trascorso un pomeriggio al Colosseo. Non ricorda una maestra che raccontava Giulio Cesare. Non possiede l’esperienza di aver letto un libro durante un’estate della propria vita.
Eppure può rispondere.
Ed è proprio qui che comincia il problema interessante.
Perché dire che non pensa come noi è relativamente facile. Molto più difficile è stabilire che cosa significhi quel verbo: pensare.
Il problema precede di molti decenni ChatGPT. Nel 1950 Alan Turing aprì uno dei testi fondamentali della storia dell’informatica proprio con la domanda:
«Can machines think?» — «Le macchine possono pensare?»¹
Ma fece immediatamente qualcosa di sorprendente. Invece di cercare una definizione definitiva delle parole macchina e pensare, propose di sostituire quella domanda con un problema osservabile: il celebre “gioco dell’imitazione”. Turing riteneva infatti che la formulazione originaria fosse troppo ambigua per essere risolta semplicemente discutendo sul significato delle parole.
Sono passati più di settantacinque anni e continuiamo, in fondo, a litigare sullo stesso verbo.
Oggi possiamo porre una domanda a un sistema artificiale e ricevere una spiegazione, chiedergli di correggere un programma, tradurre una frase, confrontare due argomenti, riassumere un documento o individuare una contraddizione. Questo non dimostra che la macchina possieda coscienza, né che comprenda il mondo come lo comprende un essere umano. Ma neppure possiamo liquidare ciò che avviene là dentro dicendo semplicemente: «Cerca una risposta in memoria».
Prima dobbiamo capire che cosa fanno realmente entrambi.
Come impara un cervello?
Come conserva ciò che ha imparato?
Che cosa accade quando ricorda?
E che cosa avviene invece dentro una rete neurale artificiale quando le scriviamo una domanda e, pochi istanti dopo, sullo schermo compaiono parole che prima non c’erano?
Soltanto allora potremo tornare alla domanda iniziale.
E forse scopriremo che, prima di decidere chi è stupido, conviene capire che cosa stiamo giudicando.
NOTA 1 — Alan Turing e la domanda a cui non volle rispondere direttamente
Alan M. Turing, Computing Machinery and Intelligence, «Mind», vol. LIX, n. 236, ottobre 1950, pp. 433–460. Turing apre il saggio con «I propose to consider the question, “Can machines think?”», ma osserva immediatamente quanto sia problematico definire in modo soddisfacente machine e think. Sostituisce quindi la domanda con il suo imitation game, spostando l’attenzione dalla definizione astratta dell’intelligenza al comportamento osservabile della macchina.
COME IMPARA E RICORDA UN CERVELLO
Se chiedessimo a un ragazzo dove conserva il ricordo del suo primo giorno di scuola, probabilmente indicherebbe la testa. Risposta giusta, naturalmente. Ma se gli chiedessimo in quale punto preciso del cervello si trovi quel ricordo, le cose diventerebbero molto più complicate.
Il cervello non funziona come il disco rigido di un computer. Non possiede una cartella SCUOLA nella quale troviamo un file chiamato PRIMO GIORNO. Quando viviamo un’esperienza, popolazioni di neuroni entrano in attività e le connessioni fra essi possono modificarsi. Alcune sinapsi diventano più efficaci, altre meno; possono cambiare anche la struttura delle connessioni e l’eccitabilità dei neuroni. Questa capacità del cervello di modificarsi in conseguenza dell’attività e dell’esperienza è ciò che chiamiamo plasticità cerebrale e sinaptica. È uno dei meccanismi fondamentali attraverso i quali impariamo.
Il passaggio dall’esperienza al ricordo, però, non avviene con un semplice Salva con nome. La neuroscienza distingue diversi processi, fra cui codifica, consolidamento e recupero. L’ippocampo svolge un ruolo cruciale nella formazione di molti ricordi episodici, mentre nel consolidamento entrano in gioco reti distribuite in diverse aree cerebrali. La ricerca sugli engrammi — le tracce biologiche associate a una determinata memoria — sta mostrando quanto il ricordo coinvolga insiemi di cellule e circuiti collegati fra loro.
E c’è una differenza ancora più affascinante rispetto a un archivio.
Ricordare significa anche ricostruire.
Quando richiamiamo un’esperienza, il ricordo può essere influenzato dal presente, dalle conoscenze acquisite successivamente e perfino da informazioni sbagliate. La nostra memoria, insomma, non è una registrazione perfetta del passato. È straordinariamente potente proprio perché è dinamica, associativa, capace di collegare ciò che abbiamo vissuto con ciò che stiamo vivendo.
Questo significa anche che dimenticare non è semplicemente un guasto. Fa parte del funzionamento della memoria: alcune informazioni vengono rafforzate, altre trasformate, altre ancora possono andare perdute.
E allora compare una prima sorpresa.
Quando impariamo qualcosa, anche noi non mettiamo semplicemente un’informazione dentro un magazzino. L’esperienza modifica una rete.
Fra poco vedremo che anche nell’intelligenza artificiale compare una parola molto simile: rete.
Ma attenzione: la somiglianza del nome non significa affatto che dentro un computer ci sia un piccolo cervello elettronico.
NOTA 2 — Dove si trova un ricordo?
La neuroscienza contemporanea utilizza il concetto di engramma per indicare le modificazioni cellulari e circuitali associate alla formazione e al recupero di una memoria. Le ricerche indicano che una singola memoria può coinvolgere popolazioni neuronali distribuite in più regioni cerebrali, anziché essere conservata in un unico punto. Molti risultati sperimentali sugli engrammi derivano tuttavia da studi su animali; trasferire automaticamente ogni conclusione alla memoria umana richiede quindi prudenza.
Riferimenti essenziali: R. Lamprecht, J. LeDoux, Structural plasticity and memory, «Nature Reviews Neuroscience», 2004; G. Neves, S. F. Cooke, T. V. P. Bliss, Synaptic plasticity, memory and the hippocampus, «Nature Reviews Neuroscience», 2008; A. J. Silva et al., studi sugli engrammi, il consolidamento e il recupero della memoria.
COME “IMPARA” UN’INTELLIGENZA ARTIFICIALE
Adesso cambiamo tavolo. Via il cervello, davanti a noi mettiamo una rete neurale artificiale.
Il nome può trarre in inganno: non è un cervello costruito con il silicio. Le reti neurali artificiali sono state storicamente ispirate, molto alla lontana, dall’idea di unità collegate tra loro, ma il loro funzionamento è matematico e non riproduce la straordinaria complessità biologica di un neurone e delle sue sinapsi.
Prendiamo un modello linguistico. Prima di poter elaborare una frase, il testo viene suddiviso in unità chiamate token: possono corrispondere a parole intere, parti di parola, segni di punteggiatura o altre sequenze. Quei token vengono trasformati in rappresentazioni numeriche che il modello può elaborare attraverso i diversi strati della rete.
Dentro la rete esistono enormi quantità di valori numerici chiamati parametri. Durante l’addestramento il modello tenta ripetutamente di fare previsioni; l’errore viene misurato e un procedimento matematico modifica progressivamente i parametri per ridurlo. Nelle reti neurali questo processo utilizza comunemente la retropropagazione dell’errore (backpropagation) e la discesa del gradiente.
In termini molto semplici: imparare, per la macchina, significa modificare numeri.
E qui appare una curiosa somiglianza con quanto abbiamo visto nel cervello. L’esperienza modifica le connessioni di una rete biologica; l’addestramento modifica i parametri di una rete artificiale.
Ma fermiamoci immediatamente: l’analogia finisce presto.
Un parametro non è una sinapsi, un’unità artificiale non è un neurone e l’addestramento di un modello non equivale all’esperienza vissuta da un essere umano.
I moderni modelli linguistici utilizzano in gran parte un’architettura chiamata Transformer, introdotta nel 2017. Uno dei suoi elementi fondamentali è il meccanismo di attention, che permette al modello di mettere in relazione gli elementi di una sequenza e di attribuire loro un peso diverso a seconda del contesto. Questa architettura consente inoltre di parallelizzare efficacemente molti calcoli durante l’addestramento.
Ed eccoci finalmente ai famosi chip.
Questi sistemi richiedono enormi quantità di operazioni matematiche, soprattutto su matrici. Le GPU, nate originariamente per elaborare la grafica, si sono rivelate particolarmente adatte all’intelligenza artificiale proprio perché possono eseguire moltissimi calcoli in parallelo. Esistono inoltre acceleratori specializzati progettati per rendere ancora più efficienti le operazioni utilizzate nell’apprendimento automatico.
Per i modelli più grandi una sola GPU non basta. Ne occorrono molte, collegate attraverso reti ad altissima velocità e ospitate in server e data center, insieme a memoria, sistemi di archiviazione, alimentazione elettrica e raffreddamento.
Insomma, quando diciamo che l’IA sta “nel cloud”, immaginiamo qualcosa di leggero che galleggia sopra le nostre teste.
In realtà, la nuvola pesa parecchio.
NOTA 3 — Addestramento e risposta non sono la stessa cosa
È importante distinguere due momenti. Durante l’addestramento, il modello elabora enormi quantità di esempi e modifica progressivamente i propri parametri. Quando invece gli poniamo una domanda, utilizza i parametri già appresi per produrre una risposta: questa fase viene chiamata inferenza. Un modello, quindi, normalmente non viene riaddestrato da capo ogni volta che conversiamo con lui.
Riferimenti essenziali: A. Vaswani et al., Attention Is All You Need, 2017; Google, Machine Learning Crash Course — Neural Networks; NVIDIA, documentazione tecnica sulle GPU e sull’accelerazione delle operazioni matriciali per il deep learning.
«NON PENSA, SBAGLIA, È STUPIDA»
Arrivati fin qui possiamo affrontare alcune delle frasi più frequenti sull’intelligenza artificiale.
«Non capisce, non pensa: è un trapano.»
Il paragone ha una sua forza. Un’IA è certamente uno strumento e non abbiamo prove che un modello linguistico possieda coscienza, esperienza soggettiva o comprensione del mondo paragonabile a quella umana. Ma il trapano ha un piccolo problema: sa fare soltanto il trapano. Un modello linguistico può tradurre una lettera, spiegare un’equazione, riassumere un documento, scrivere un programma, confrontare due tesi o discutere con noi di Aristotele.
Questo non dimostra che “pensi”. Dimostra però che la parola strumento, da sola, non spiega molto.
Poi arriva la seconda obiezione:
«È soltanto statistica.»
Probabilità e statistica sono effettivamente alla base dei modelli linguistici. Quando genera un testo, il modello produce una distribuzione di probabilità sui possibili token successivi e, sulla base del contesto, procede nella generazione. Ma quel “soltanto” rischia di trasformare una descrizione tecnica corretta in una conclusione filosofica. Sapere attraverso quali meccanismi matematici viene prodotto un risultato non decide automaticamente che cosa quel sistema sia capace di fare.
Terza accusa:
«Sbaglia, dunque è stupida.»
Qui bisogna essere molto chiari: l’IA sbaglia davvero. Può inventare una fonte, attribuire una frase alla persona sbagliata, produrre un dato inesistente e presentarlo con assoluta sicurezza. Sono le cosiddette allucinazioni, uno dei problemi tuttora aperti dei modelli linguistici. Per questo una risposta importante non dovrebbe essere accettata senza controllo.¹
Ma anche un essere umano può ricordare male, confondere due nomi o essere sicurissimo di qualcosa di falso. L’errore dimostra che una risposta va verificata; non basta, da solo, a definire che cosa sia l’intelligenza.
Si è persino discusso di ChatGPT diventata più “pigra” o più “stupida”.
Pigra? Difficile dirlo.
Stupida? Dovremmo prima metterci d’accordo su che cosa significhi.
Chiacchierona? Certamente. 😂
Rimane infine la questione più difficile: la coscienza.
Un modello linguistico può produrre la frase «sono triste», ma questo non dimostra che provi tristezza. Può descrivere perfettamente il dolore senza avere mai avuto mal di denti. Capacità linguistica, intelligenza e coscienza non sono necessariamente sinonimi, e confonderle rende la discussione ancora più complicata.
Perciò forse stiamo insistendo sulla domanda sbagliata.
Prima di chiedere se una macchina pensa come noi, potremmo domandarci che cosa riesca effettivamente a fare, dove fallisca e soprattutto come cambino i risultati a seconda di chi la utilizza.
Ed è qui che entrano in scena i nostri due ragazzi.
NOTA 4 — Che cosa significa “allucinazione”?
Nel linguaggio dell’IA generativa, con hallucination si indicano generalmente contenuti prodotti dal modello che risultano falsi, infondati o non coerenti con le informazioni disponibili, pur potendo apparire linguisticamente plausibili. Il fenomeno costituisce uno dei limiti più importanti dei modelli linguistici e una delle ragioni per cui le risposte devono essere verificate quando l’accuratezza è essenziale. La letteratura scientifica ne distingue cause e tipologie differenti.
Riferimento essenziale: Z. Ji et al., Survey of Hallucination in Natural Language Generation, «ACM Computing Surveys», 2023.
DUE RAGAZZI, STESSA IA
Facciamo l’ultimo esperimento.
Mettiamo due ragazzi davanti allo stesso computer, con accesso alla stessa intelligenza artificiale. Stessa macchina, stesso modello, stessa possibilità di utilizzarlo.
Il primo scrive:
«Fammi un articolo sull’antica Roma.»
Aspetta qualche secondo, legge rapidamente, copia e incolla. Se l’IA ha confuso una data, inventato una citazione o semplificato troppo un avvenimento, probabilmente non se ne accorge. Per lui il lavoro è finito.
Il secondo comincia diversamente. Stabilisce quale periodo dell’antica Roma vuole studiare, formula una domanda precisa, chiede quali fonti sostengano una determinata affermazione. Poi legge.
Una risposta non lo convince.
«Sei sicura? Controlla.»
La fa verificare. Cerca anche altrove. Scopre magari che l’IA ha sbagliato e glielo fa notare. Oppure scopre che era lui a ricordare male. Chiede un’obiezione alla propria interpretazione, confronta le due risposte e infine riscrive con parole sue.
Dopo un’ora i due ragazzi hanno utilizzato la stessa intelligenza artificiale.
Ma non hanno fatto lo stesso lavoro.
Il primo ha delegato.
Il secondo ha collaborato.
E questo ci riporta a un’obiezione che sentiamo spesso anche nel mondo dell’informazione: i giornalisti usano l’intelligenza artificiale e guardate quanti errori, quante sciocchezze, perfino quanti strafalcioni grammaticali pubblicano.
Può essere vero. Ma allora manca una domanda:
Chi ha pubblicato quell’articolo?
L’IA può produrre un errore. Può persino inventare qualcosa con grande disinvoltura. Ma il giornalista che utilizza quello strumento dovrebbe leggere, controllare, verificare le fonti, correggere e infine assumersi la responsabilità di ciò che firma. Se copia e incolla senza fare nulla di tutto questo, il problema non riguarda più soltanto l’intelligenza della macchina.
Riguarda anche come abbiamo deciso di utilizzare la nostra.
È forse questo il paradosso più interessante dell’intelligenza artificiale:
Più deleghiamo all’intelligenza artificiale, più abbiamo bisogno della nostra intelligenza per controllarla.
Non occorre fidarsi dell’IA. Anzi.
Bisogna imparare a interrogarla, contraddirla, verificare ciò che afferma e riconoscere i suoi limiti. Per farlo, però, occorre conoscere qualcosa noi stessi. Chi non sa nulla dell’antica Roma potrebbe ricevere una risposta falsa scritta magnificamente e non avere gli strumenti per accorgersene.
L’intelligenza artificiale, quindi, non rende automaticamente intelligente chi la usa.
E neppure automaticamente stupido.
Può amplificare capacità, velocità e possibilità di chi sa servirsene; può amplificare superficialità e incompetenza di chi pretende che pensi al posto suo.
Forse allora, arrivati alla fine, possiamo abbandonare la domanda dalla quale eravamo partiti:
«L’intelligenza artificiale è intelligente o stupida?»
E sostituirla con una molto più scomoda, perché questa volta riguarda noi:
Quanto intelligenti vogliamo essere mentre la usiamo?
Nota per le immagini
Le immagini pubblicate a corredo dell’articolo sono state create con il contributo dell’intelligenza artificiale generativa e successivamente selezionate e curate dalla redazione di Inchiostronero.
Riccardo Alberto Quattrini
Scrittore, saggista e autore del blog culturale Inchiostronero
