Tra l’apocalisse annunciata e il rischio di non governare
«Ma davvero l’umanità finirà grazie all’IA?»
Veneziani interroga le profezie sull’estinzione umana e sposta il problema dalla macchina alla nostra capacità di governarne la corsa
di Marcello Veneziani
L’intelligenza artificiale porterà davvero alla fine dell’umanità entro pochi anni? Marcello Veneziani parte dalle previsioni catastrofiche formulate da alcuni ricercatori e protagonisti del settore per evitare tanto l’incredulità quanto il panico. Il problema, sostiene, esiste, ma potrebbe trovarsi soprattutto nel divario crescente tra la velocità dello sviluppo tecnologico e quella, molto più lenta, con cui società, istituzioni e individui riescono a comprenderne e governarne le conseguenze. A complicare tutto intervengono la competizione internazionale, gli interessi privati e l’assenza di un’autorità globale capace di imporre limiti condivisi. Tra grandi opportunità nella ricerca e nella salute e rischi per sicurezza, lavoro e armamenti, resta allora una domanda: come governare una tecnologia globale quando nessuno vuole essere il primo a rallentare? (N.R.)
Se ho capito bene, l’umanità finirà nel giro di tre anni e tre mesi. Cioè entro la fine del 2029. Salvo ritenere che il decennio in corso si concluda l’anno dopo, il 2030. Ma converrete che la differenza, rispetto alla catastrofe annunziata, è davvero una virgola, un minimo dettaglio. Chi è la fonte di questa previsione o predizione? Non è un invasato mago in cerca di pubblicità o un influencer che vuole massimizzare il numero dei suoi followers ma uno scienziato, un ricercatore britannico, Jacob Coxon, a proposito dell’Intelligenza Artificiale, su cui lavora da anni. Entro questo decennio se non fermeremo l’IA ci sarà la fine dell’umanità.
Certo, anche tra i ricercatori ci sono degli stravaganti, degli esagerati, dei maniaco-depressi. Ma la terribile previsione del ricercatore di Anthropic non è un caso isolato, è solo la punta più avanzata di una convinzione catastrofica che coinvolge molti operatori e manager impegnati nei progetti sull’IA. Non teologi, non esorcisti, non filosofi, non poeti e profeti, ma operatori ed esperti di quel mondo. Fece scalpore un documento firmato da 350 scienziati, manager ed esperti dell’IA, guidati da Sam Altman, fondatore e Ceo di Open AI sulla necessità di frenare, se non di fermare, l’IA. Uguale denuncia ha fatto di recente il Ceo di Anthropic, Dario Amodei. Perfino l’ONU si è mobilitata su questa denuncia.
L’incredulità, unita a un filo d’ironia ci aiuta a vivere e a non cadere nel terrore di queste previsioni. Però non si può nemmeno far finta di niente, qualcosa al fondo della denuncia ci dev’essere e qualcosa bisogna fare. Oppure non ci resta che sposare, sulla scia di Trump o di Xi Jinping, l’ottimismo e ritenere che i benefici saranno superiori ai malefici dell’IA. O nutrire il sospetto che dietro queste denunce ci sia il timore di un collasso finanziario delle aziende tech per essersi troppo esposte nella scommessa dell’IA e ora cercano protezioni.
Proviamo allora a ragionarci su, non da scienziati e operatori dell’IA, ma in base al contesto e alle reali condizioni in cui ci troviamo. Da dove viene il pericolo, innanzitutto? Viene dalla velocità con cui si propagano gli effetti e i balzi in avanti della tecnologia, a cui la nostra mente, i nostri mezzi e le nostre strutture pubbliche non stanno al passo. A essere più precisi il pericolo viene dal divario, dal gap, tra la rapidità espansiva della corsa tecnologica e la nostra andatura umana, sociale, mentale, più riflessiva, non priva di pause e indugi. I risultati corrono più veloci della capacità di capire e metabolizzare le conseguenze, di suggerire limiti e rimedi, criteri di regolamentazione.
In secondo luogo il pericolo viene dalla mobilità del punto in cui avvengono questi cambiamenti: non è un luogo ben preciso da monitorare e sorvegliare ma ci sono troppi laboratori in giro per il mondo; se riesci a controllarne uno te ne sfuggono altri, e non tutti sono alla luce del sole. Se metti sotto controllo un progetto rischioso negli States o in Europa, non lo hai fermato in Cina, in Russia o in Corea. E se non lo fai tu, lo fanno gli altri, si avvantaggiano del tuo stop. Nessuno vuol fare il primo passo nel disarmo dell’IA, per usare un’espressione dell’enciclica di Leone XIV, Magnifica humanitas, sull’Intelligenza artificiale. E in questa gara, per ragioni di unità di comando, brevità della filiera, rapidità delle decisioni e maggior cinismo, sono avvantaggiati i regimi autocratici, totalitari, rispetto alle democrazie dei diritti e ai regimi “liberali”.
Ma la stessa cosa vale in tema di pubblico e privato: gli “scrupoli” del pubblico, che deve dar conto a cittadini, popoli e rappresentanti, non sono condivisi dal privato, che deve dar conto dei profitti e delle performance e non ha preoccupazioni etiche, sociali, politiche. Anzi, quando propongono che anche per l’IA vi siano trattati di non proliferazione, come quelli sul nucleare, si dimentica quella differenza essenziale: la bomba atomica riguarda gli stati, l’IA riguarda anche i privati e coinvolge nell’uso quotidiano miliardi di uomini. Se il potenziale distruttivo dell’energia nucleare è nelle mani dello stato, a differenza del consumo energetico che invece riguarda tutti, il potenziale distruttivo dell’IA passa anche dall’uso privato. E questo la rende più difficile da controllare.
Non c’è trasparenza globale sulla ricerca nell’IA, non c’è un arbitro o un garante super partes e non c’è un potere sovraordinato e universale in grado di fermare o modificare i percorsi e gli abusi dell’IA. E non c’è il comune riconoscimento di limiti e norme; differiscono i criteri di giudizio, le culture, le sensibilità, le finalità. Non ci sono le condizioni preliminari per un accordo di base, non c’è concordanza di vedute circa i vantaggi e i danni dell’IA, i pericoli e le opportunità. Non resta che negoziare tra i governi accordi multilaterali, col sottinteso non solo della loro reale osservanza e del reciproco controllo ma anche della possibilità effettiva dei governi di poter esercitare il controllo dell’IA anche nel settore privato nei rispettivi Paesi. E limitare l’uso dell’IA negli utenti.
Insomma, ci aspettiamo dall’IA grandi risultati sul piano della ricerca, della salute e delle condizioni generali di vita e temiamo gravi pericoli sul piano della sicurezza, delle armi e del lavoro. Ma quando si arriva a denunciare un’imminente distruzione dell’umanità, c’è il rischio che si passi dall’inerzia al panico senza passare dall’operosità concreta.
Riflessione di Inchiostronero
C’è qualcosa di singolare — e perfino divertente — nel chiedere a un’intelligenza artificiale di commentare un articolo che si domanda se l’intelligenza artificiale finirà per distruggere l’umanità.
Potremmo domandarlo direttamente a lei. Ma sarebbe un po’ come chiedere all’automobile se l’automobile sia pericolosa: probabilmente risponderebbe che dipende da chi guida, dalla strada, dalla velocità e da quanto funzionano i freni.
E forse, tolta l’ironia, il problema è proprio questo.
Una IA non deve necessariamente diventare cosciente, sviluppare cattive intenzioni o svegliarsi una mattina con il progetto di sterminarci perché esistano rischi seri. Basta che uomini, aziende e Stati affidino a sistemi sempre più potenti decisioni che non comprendono fino in fondo, oppure li utilizzino per scopi che comprendono fin troppo bene.
Veneziani individua allora un punto che ci sembra più interessante della profezia sulla fine dell’umanità: la macchina accelera, mentre l’uomo continua ad avere bisogno di tempo per capire. La tecnologia può cambiare in mesi; il diritto, la politica, l’etica e perfino le nostre abitudini mentali hanno tempi molto più lunghi. Ma davvero l’umanità finirà g…
E c’è un secondo paradosso. Tutti potrebbero riconoscere la necessità di rallentare, ma nessuno vuole farlo per primo. Se rallenta un’azienda, teme di essere superata da un concorrente. Se rallenta uno Stato, teme che un altro continui. Se rallenta l’Occidente, guarda alla Cina; se rallenta la Cina, guarda agli Stati Uniti. Veneziani descrive precisamente questa difficoltà quando osserva che fermare un progetto in un Paese non significa fermarlo altrove. Ma davvero l’umanità finirà g…
Per questo forse la domanda «l’IA distruggerà l’umanità?» è troppo grande e, proprio perché enorme, rischia di essere poco utile.
Ce n’è una più modesta e molto più urgente:
quanto siamo disposti a delegare a una macchina prima di accorgerci che ciò che abbiamo delegato non sappiamo più riprendercelo?
Per una volta l’intelligenza artificiale interrogata da Inchiostronero non chiede di essere assolta.
Chiede soltanto che la responsabilità resti umana.
Inchiostronero 👿
Nota per le immagini
Le immagini pubblicate a corredo dell’articolo sono state create con il contributo dell’intelligenza artificiale generativa e successivamente selezionate e curate dalla redazione di Inchiostronero.
