«L’ESTINZIONE È SERVITA»

Quando la paura anticipa il potere che verrà

«L’ESTINZIONE È SERVITA»

Dall’IA che potrebbe sterminarci alla promessa di salvarci controllandola: quando la paura del futuro diventa uno strumento politico

Redazione Inchiostronero

Ricercatori e protagonisti dell’intelligenza artificiale avvertono che i sistemi che stanno costruendo potrebbero un giorno sfuggire al controllo umano. Ma mentre cresce il racconto dell’estinzione possibile, cresce anche la richiesta di regole, moratorie e nuovi poteri di controllo. Il rischio può essere autentico e l’allarme perfettamente sincero. La questione politica nasce dopo: chi stabilirà quale rischio è accettabile, chi controllerà la tecnologia e quanto potere saremo disposti a delegare in cambio della promessa di essere protetti?

• Dall’intelligenza artificiale che dovrebbe sterminarci
• alla promessa di salvarci controllandola:
• quando la paura del futuro diventa uno strumento politico

L’8 settembre Jacob Coxon ha lasciato Anthropic. Ha ventisette anni, ha lavorato per circa tre anni nel pretraining prima a OpenAI e poi ad Anthropic e, andandosene, non ha usato le cautele linguistiche alle quali ci hanno abituato i comunicati aziendali. Ha accusato entrambe le società di correre verso una superintelligenza capace di migliorare se stessa, «giocando d’azzardo con le nostre vite». E ha aggiunto qualcosa di ancora più inquietante: le persone che stanno costruendo quei sistemi crederebbero sinceramente che l’intelligenza artificiale possa arrivare a uccidere tutti gli esseri umani entro la fine del decennio. Coxon ha chiesto una pausa nell’aumento delle capacità dei modelli e un coordinamento tra i grandi laboratori. Poi ha abbandonato il settore.

La notizia possiede tutti gli ingredienti necessari per diventare irresistibile. Un giovane ricercatore. Due delle aziende tecnologiche più potenti del mondo. Una fuga dall’interno. Una data abbastanza vicina da poter essere immaginata: il 2030. E, soprattutto, la parola definitiva: estinzione.

L’apocalisse, del resto, fa un ottimo titolo.

Il problema comincia quando proviamo a capire che cosa significhino davvero quelle parole. Coxon non è un profeta isolato. Evan Hubinger, che in Anthropic guida ricerche sull’allineamento, ha dichiarato di attribuire personalmente una probabilità superiore al 10 per cento alla possibilità che l’IA possa uccidere tutti gli esseri umani nel prossimo decennio. Geoffrey Hinton, uno dei padri delle reti neurali moderne, già nel 2024 stimava tra il 10 e il 20 per cento il rischio che l’intelligenza artificiale conducesse all’estinzione umana nei successivi trent’anni.

Numeri impressionanti. Ma proprio i numeri rischiano di ingannarci.

Non esiste infatti un esperimento capace di stabilire che la probabilità dell’estinzione sia del 10, del 12 o del 20 per cento. Non disponiamo di una serie storica di superintelligenze ribelli dalla quale ricavare statistiche. Sono valutazioni di rischio formulate da persone straordinariamente competenti, e per questo meritano attenzione, ma non sono previsioni meteorologiche. Tra dire che un evento catastrofico è possibile e affermare che accadrà entro il 2030 esiste uno spazio enorme. È precisamente quello spazio che il titolo giornalistico tende a cancellare.

Eppure sarebbe altrettanto superficiale liquidare tutto come terrorismo psicologico. Coxon ha lasciato Anthropic poco prima che maturasse una parte della propria partecipazione azionaria. Altri ricercatori hanno espresso timori analoghi. Hinton lasciò Google proprio per poter parlare più liberamente dei rischi dell’IA. Possiamo contestare le loro conclusioni; è più difficile sostenere che nessuno di loro creda a ciò che dice.

È qui che la questione diventa interessante.

Perché mentre alcuni dei protagonisti della rivoluzione dell’intelligenza artificiale ci avvertono che la macchina potrebbe sfuggire al controllo, le aziende che costruiscono quella macchina chiedono contemporaneamente che venga costruito un sistema politico capace di controllarla.

Anthropic sostiene apertamente che la tecnologia non debba essere governata dalla sola industria e propone che le autorità pubbliche possano arrivare a bloccare o impedire la distribuzione dei modelli che presentino un rischio significativo di danno catastrofico. OpenAI, il 9 settembre, ha chiesto negli Stati Uniti requisiti nazionali obbligatori di sicurezza basati sulle capacità dei sistemi, valutazioni indipendenti, obblighi di segnalazione degli incidenti e, in prospettiva, standard internazionali compatibili.

Non c’è nulla di irragionevole, in sé, nel chiedere regole per una tecnologia potenzialmente pericolosa. Facciamo esattamente questo con farmaci, centrali nucleari, aviazione, sostanze tossiche. Il problema è un altro: chi stabilisce il pericolo, chi stabilisce la soglia e chi riceve il potere di intervenire?

È il passaggio che rischia di scomparire dietro l’apocalisse.

Se una tecnologia può rendere più costoso un prodotto, discutiamo una norma. Se può provocare disoccupazione, discutiamo una politica economica. Se invece può provocare l’estinzione della specie, la scala cambia completamente. Di fronte alla possibilità della fine dell’umanità, quale controllo potrebbe apparire eccessivo? Quale limitazione sarebbe sproporzionata? Quale potere non saremmo disposti a concedere pur di sopravvivere?

La paura non deve essere falsa per poter essere utilizzata. Basta che sia abbastanza grande da rendere ragionevole ciò che, senza quella paura, avremmo considerato inaccettabile.

È questo che rende troppo semplice anche la tesi opposta, quella secondo cui l’apocalisse dell’IA sarebbe soltanto una grande operazione psicologica. Kit Knightly, su OffGuardian, ha ipotizzato che la narrazione dell’intelligenza artificiale fuori controllo possa preparare l’opinione pubblica ad accettare futuri interventi politici o persino eventi attribuiti a una IA ribelle. È una possibilità suggestiva, ma resta un’ipotesi: non abbiamo bisogno di supporre una regia occulta per osservare il meccanismo che si sta formando.

Può accadere qualcosa di molto più banale.

Gli scienziati possono essere sinceramente preoccupati. Le aziende possono temere realmente le conseguenze dei sistemi che stanno sviluppando. I giornali possono trasformare una probabilità incerta in un’apocalisse imminente perché l’apocalisse produce attenzione. I governi possono reagire perché nessun governo può permettersi di ignorare pubblicamente un rischio presentato come esistenziale. E le grandi imprese possono infine trovarsi avvantaggiate da regole che esse stesse hanno contribuito a definire e che soltanto organizzazioni dotate di enormi capitali, infrastrutture e apparati legali sono in grado di rispettare facilmente.

Non occorre che qualcuno abbia progettato l’intera sequenza. Basta che gli interessi finiscano per convergere.

Ed è precisamente qui che la discussione sull’intelligenza artificiale smette di essere soltanto tecnologica e diventa politica. Il problema non è decidere oggi se Coxon abbia ragione o torto. Nessuno può dimostrare che una superintelligenza sterminerà l’umanità nel 2030; nessuno può neppure dimostrare che una futura intelligenza superiore all’uomo sarà necessariamente controllabile.

Possiamo però osservare ciò che sta già accadendo.

Coloro che possiedono le tecnologie più potenti ci avvertono dei loro pericoli e, nello stesso tempo, partecipano alla definizione delle regole destinate a contenerli. Il rischio può essere autentico e la soluzione può essere necessaria. Ma proprio per questo la domanda democratica diventa più importante, non meno.

Perché una società spaventata non delega soltanto responsabilità. Delega potere.

Forse allora la domanda decisiva non è se l’intelligenza artificiale prenderà un giorno il controllo dell’uomo. È quanto controllo l’uomo sarà disposto a consegnare ad altri uomini per impedirglielo.

Note

1. Jacob Coxon ha annunciato le proprie dimissioni da Anthropic l’8 settembre 2026, dopo esperienze nel pretraining presso OpenAI e Anthropic. La sua richiesta comprende una pausa nell’aumento delle capacità e forme di coordinamento tra laboratori.
2. Geoffrey Hinton aveva stimato nel 2024 un rischio del 10–20% di estinzione provocata dall’IA nei successivi trent’anni. La stima non equivale dunque alla previsione di un’estinzione «entro il 2030».
3. Anthropic propone esplicitamente che i governi dispongano dell’autorità legale per bloccare o scoraggiare la distribuzione di modelli che comportino rischi catastrofici significativi, prevedendo al contempo garanzie contro l’abuso di tale potere.
4. OpenAI ha chiesto il 9 settembre 2026 una regolamentazione nazionale obbligatoria basata sulle capacità dei modelli, valutazioni indipendenti e obblighi di segnalazione degli incidenti più gravi.

Riccardo Alberto Quattrini
Scrittore, saggista e autore del blog culturale Inchiostronero

Nota per le immagini Le immagini pubblicate a corredo dell’articolo sono state create con il contributo dell’intelligenza artificiale generativa e successivamente selezionate e curate dalla redazione di Inchiostronero.