«DOBBIAMO DAVVERO AVERE PAURA DELL’INTELLIGENZA ARTIFICIALE?»

Forse il problema non è la macchina, ma l’uomo.

 

«DOBBIAMO DAVVERO AVERE PAURA DELL’INTELLIGENZA ARTIFICIALE?»

Da Terminator ai nuovi sistemi di IA: tra rischi reali, lavoro che cambia e una domanda che riguarda soprattutto l’uomo

di Paolo Quattrini

Un ricercatore lascia il mondo dell’intelligenza artificiale temendo che la corsa tecnologica possa portarci verso sistemi sempre più difficili da controllare. Inevitabile pensare a Terminator e a Skynet. Ma quanto c’è di fantascientifico e quanto, invece, merita di essere preso sul serio? Tra lavoro, automazione, sistemi autonomi e rischi futuri, la vera domanda potrebbe essere un’altra: dobbiamo temere l’intelligenza artificiale oppure l’uomo che deciderà come utilizzarla?

Oggi mi sono imbattuto nella storia di Jacob Coxon,⁽¹⁾ 27 anni, ricercatore britannico che negli ultimi anni ha lavorato prima per OpenAI e successivamente per Anthropic, due delle aziende più importanti al mondo nello sviluppo dell’intelligenza artificiale.

Coxon ha deciso di lasciare Anthropic e, più in generale, il settore dell’IA, lanciando un allarme piuttosto inquietante: teme che la corsa tra le grandi aziende tecnologiche possa portare alla creazione di sistemi di intelligenza artificiale capaci di migliorare progressivamente sé stessi, fino a raggiungere capacità tali da rendere molto difficile, se non impossibile, mantenerne il controllo.

Non parliamo quindi di un signore che ha visto troppi film di fantascienza, ma di qualcuno che questi sistemi ha contribuito a costruirli. La sua decisione ha fatto parecchio rumore proprio per questo motivo. Il Wall Street Journal ha raccontato la sua storia e Coxon ha spiegato che, secondo lui, la competizione tra le aziende sta spingendo lo sviluppo dell’IA a una velocità superiore a quella con cui stanno progredendo i sistemi necessari per controllarla e renderla sicura.

E quindi mi sono chiesto: dobbiamo preoccuparci veramente?

La prima cosa che mi è tornata alla mente è stata la mia infanzia e un film che all’epoca mi aveva affascinato moltissimo: Terminator, con Arnold Schwarzenegger.

A questo ne sono poi seguiti altri cinque:

Terminator 2 – Il giorno del giudizio, del 1991;

Terminator 3 – Le macchine ribelli, del 2003;

Terminator Salvation, del 2009;

Terminator Genisys, del 2015;

Terminator – Destino oscuro, del 2019.

La saga inizia nel 1984.

Nel film esiste un’intelligenza artificiale chiamata Skynet, progettata inizialmente per scopi militari. A un certo punto Skynet diventa autocosciente e, quando gli uomini cercano di disattivarla, interpreta l’umanità come una minaccia alla propria esistenza. La risposta è terrificante: scatena una guerra nucleare e successivamente utilizza le macchine per eliminare i sopravvissuti.

Da lì nasce la guerra tra uomini e macchine.

Naturalmente siamo nel campo della fantascienza.

O forse non completamente?

Prima di immaginare robot assassini che ci inseguono per strada, bisogna però distinguere ciò che esiste oggi da quello che potrebbe eventualmente esistere domani.

Le intelligenze artificiali attuali, compresa quella con cui molti di noi ormai dialogano quotidianamente, non sono una Skynet. Non esistono prove che sistemi come ChatGPT possiedano una coscienza paragonabile a quella umana. Anzi, la stessa scienza non ha ancora una definizione condivisa e completa di come nasca la coscienza nell’uomo; stabilire se una macchina possa un giorno svilupparla è quindi ancora più difficile.

Ma questo non significa che il problema sollevato da Coxon debba essere liquidato come fantascienza.

Anzi, forse c’è un equivoco importante: una macchina non deve necessariamente diventare cosciente o “cattiva” per diventare pericolosa.

Potrebbe semplicemente ricevere un obiettivo, diventare estremamente brava nel perseguirlo e trovare soluzioni che i suoi creatori non avevano previsto. È il cosiddetto problema dell’alignment: fare in modo che gli obiettivi e i comportamenti di sistemi sempre più potenti rimangano coerenti con ciò che gli esseri umani realmente vogliono.

Ed è principalmente qui che nasce la preoccupazione di molti ricercatori.

Coxon teme soprattutto il momento in cui l’IA potrà contribuire in maniera sempre più importante alla progettazione e allo sviluppo di sistemi di IA ancora migliori. Se questo processo diventasse estremamente rapido, le capacità delle macchine potrebbero crescere molto più velocemente della nostra capacità di comprenderle e controllarle.

Quanto siamo lontani da quel momento?

Nessuno può dirlo con certezza.

Ed è proprio questa incertezza a dividere gli esperti. Alcuni considerano eccessive le previsioni catastrofiche; altri, compresi ricercatori che lavorano direttamente sui modelli più avanzati, ritengono invece che un rischio anche molto piccolo di conseguenze irreversibili meriti comunque la massima attenzione.

Ma esiste un problema molto più immediato, che non richiede di aspettare l’arrivo di una fantomatica superintelligenza: il lavoro.

Quanti posti di lavoro spariranno?

Quali professioni, tra dieci o vent’anni — forse anche meno — non esisteranno più?

Pensiamo ai magazzini. Robot, sistemi automatici e software sono già in grado di spostare merci, organizzare ordini e ottimizzare interi processi logistici.

Pensiamo alle cassiere: le casse automatiche sono ormai una presenza abituale in moltissimi supermercati.

Ma, in fondo, abbiamo già vissuto trasformazioni simili.

Una volta ai caselli autostradali trovavamo quasi sempre una persona. Oggi gran parte dei pagamenti avviene attraverso Telepass e sistemi automatici.

Nelle banche, moltissime operazioni che un tempo richiedevano l’intervento di un impiegato vengono effettuate attraverso bancomat, home banking e applicazioni sul telefono.

Ogni grande innovazione tecnologica ha eliminato alcune mansioni e ne ha create altre.

E i dati disponibili oggi sembrano indicare qualcosa di simile anche per l’intelligenza artificiale.

Secondo l’Organizzazione Internazionale del Lavoro, circa un lavoratore su quattro nel mondo svolge una professione in qualche misura esposta all’IA generativa, ma lo scenario considerato più probabile non è la cancellazione completa di quelle professioni: è la loro trasformazione.

Ed è interessante notare che non sono necessariamente i lavori più semplici quelli destinati a cambiare maggiormente.

L’IA attuale è particolarmente efficace quando lavora con informazioni, testi, numeri, immagini e dati. Per questo risultano molto esposte anche professioni amministrative, finanziarie, informatiche e tecniche.

L’OCSE osserva infatti che molti lavori qualificati da ufficio sono oggi tra i più esposti all’intelligenza artificiale, mentre numerose professioni manuali risultano molto meno esposte.

Questo non significa che un robot non potrà mai imbiancare una parete o riparare una tubatura. Probabilmente, prima o poi, vedremo macchine capaci di fare anche questo.

Ma muoversi in un ambiente reale, sempre diverso, affrontare un imprevisto, capire perché una caldaia non funziona o adattarsi a una casa costruita cinquant’anni fa è ancora enormemente più complicato che elaborare milioni di dati.

Forse, quindi, stiamo assistendo semplicemente all’ennesima rivoluzione industriale.

Spariranno alcune professioni. Ne nasceranno altre che oggi nemmeno immaginiamo. E, soprattutto, cambierà il modo in cui svolgiamo quelle esistenti.

Il vero problema sarà capire quanto velocemente avverrà questa trasformazione e, soprattutto, se saremo capaci di accompagnarla senza lasciare indietro milioni di persone.

Ma torniamo a Jacob Coxon.

Può veramente verificarsi lo scenario che teme?

Una macchina potrebbe diventare sempre più intelligente, sottrarsi progressivamente al nostro controllo e arrivare un giorno a rappresentare una minaccia per l’uomo?

La risposta più corretta oggi, secondo me, è: non lo sappiamo.

Pensare che domani mattina ChatGPT possa svegliarsi, collegarsi autonomamente agli arsenali nucleari e decidere di sterminarci appartiene ancora alla fantascienza.

Ma sarebbe altrettanto sbagliato concludere che qualsiasi rischio sia impossibile soltanto perché assomiglia alla trama di Terminator.

Più realisticamente, i pericoli potrebbero arrivare dall’utilizzo dell’IA da parte degli uomini: attacchi informatici sempre più sofisticati, disinformazione, progettazione di armi, sistemi militari autonomi.

Oppure, in futuro, dalla decisione di affidare a sistemi sempre più autonomi il controllo di infrastrutture troppo importanti senza aver compreso completamente come si comporteranno in ogni situazione.

Sono proprio il possibile uso malevolo dell’IA e la perdita di controllo su sistemi molto avanzati i due grandi scenari di rischio oggi discussi dagli studiosi.

E qui nasce forse la domanda che mi interessa più di tutte.

Dobbiamo avere paura dell’intelligenza artificiale o dell’uomo che la utilizzerà?

Perché l’uomo, senza bisogno di alcuna intelligenza artificiale, è già stato perfettamente capace, nei secoli, di fare guerre, distruggere città, sfruttare popolazioni e consumare senza criterio le risorse del pianeta.

Petrolio, gas, acqua, minerali, terre, confini.

Continuiamo a combattere per decidere chi possiede cosa, dimenticando che viviamo tutti sullo stesso minuscolo pianeta.

E allora mi viene quasi da pensare, provocatoriamente, che, se mai un giorno comparisse davvero una Skynet, forse per la prima volta l’intera umanità si troverebbe con un unico problema da affrontare insieme.

Forse sarebbe la volta buona in cui smetteremmo di dividerci per nazionalità, religioni, territori e interessi economici.

Saremmo semplicemente uomini.

Naturalmente non mi auguro di dover aspettare un esercito di Terminator per scoprirlo.

Mi piacerebbe pensare che potremmo arrivarci prima.

Che potremmo comprendere che le risorse della Terra potrebbero essere utilizzate attraverso la collaborazione e lo scambio anziché attraverso la guerra: io ho ciò che serve a te, tu hai ciò che serve a me.

Io ti do una mela, tu mi dai un’arancia.

Sembra ingenuo, lo so.

Ma forse la vera sfida posta dall’intelligenza artificiale non sarà scoprire se una macchina riuscirà un giorno a diventare simile all’uomo.

Sarà vedere se l’uomo riuscirà a diventare abbastanza intelligente da gestire la macchina che ha creato.

E magari, nel farlo, capire finalmente anche qualcosa di più su sé stesso.

C’è poi un ultimo piccolo paradosso.

Per verificare alcune informazioni e sistemare questo articolo mi sono fatto aiutare proprio da un’intelligenza artificiale: ChatGPT.

Per il momento non ha cercato di impossessarsi del mio PC o della mia casa.

Si è limitata ad aiutarmi nelle ricerche, a correggermi qualche frase e a rielaborare i miei concetti, non a stravolgerli.

Direi che, almeno per oggi, possiamo stare tranquilli.

Paolo Quattrini

Nota (1)

 

Racconti di Paolo Quattrini

«QUEL CHE RESTA È AMORE»

«IL PECCATO DEL SILENZIO»

Nota per le immagini
Le immagini pubblicate a corredo dell’articolo sono state create con il contributo dell’intelligenza artificiale generativa e successivamente selezionate e curate dalla redazione di Inchiostronero.