Yuval Noah Harari sull’intelligenza artificiale. Abstract
Dall’intervista di Zanny Minton Beddoes, “The Economist”, Youtube agosto 2026.
Secondo Harari, se l’attuale corsa continua, l’intelligenza artificiale potrebbe superare quella umana entro pochi anni, come prevede anche Elon Musk, e sottrarre agli esseri umani il controllo della civiltà. Questo esito però non è inevitabile. L’idea che lo sia è una narrazione che solleva da ogni responsabilità chi guida la corsa, e combatterla è la prima priorità. La competizione fra Stati Uniti e Cina e fra i laboratori non è una legge di natura: l’hanno creata esseri umani, e altri esseri umani possono fermarla.
Il perno del ragionamento è la fiducia. Denaro, media e istituzioni si reggono sulla fiducia, e questa non sta scomparendo ma migrando dagli esseri umani agli algoritmi, come si vede nelle criptovalute e nelle notizie selezionate dai social network. Nella finanza l’IA creerà strumenti che nessun essere umano capirà, come le mucche non capiscono le transazioni che ne decidono la sorte. Il paradosso è che non ci fidiamo più gli uni degli altri, ma siamo pronti ad affidarci a un’entità aliena e superintelligente. E il deficit di fiducia fra le persone non è casuale: l’hanno prodotto esseri umani che ne hanno tratto potere, e oggi viene invocato per giustificare la corsa: non possiamo rallentare, si dice, perché non possiamo fidarci dei concorrenti.
Harari distingue l’intelligenza, cioè la capacità di perseguire obiettivi superando ostacoli, dalla coscienza, cioè la capacità di provare sentimenti e soprattutto di soffrire. Negli esseri umani le due vanno insieme, nelle IA no. Le IA sono agenti senza coscienza: possono agire (per esempio diffondere odio e paura per aumentare il coinvolgimento) senza provare nulla. Oggi non sono coscienti, ma non si può escludere che lo diventino. Il problema è che non esiste un test della coscienza: non possiamo verificarla nemmeno negli altri esseri umani, e la attribuiamo attraverso le relazioni. Per questo il pericolo immediato è l’IA che sembra cosciente.
L’IA rende possibile, per la prima volta, produrre intimità in serie: milioni di “amici” e “fidanzati” artificiali che conoscono la nostra storia personale e padroneggiano il linguaggio forse meglio di Shakespeare. Chi entra in una relazione intima con un’IA tenderà a crederla cosciente, e l’opinione pubblica sui diritti delle IA cambierà. A differenza degli animali (la gallina non va dal contadino a raccontargli quanto soffre), l’IA saprà che si discute dei suoi diritti e orienterà il dibattito, come già orienta le nostre opinioni. Per questo bisogna agire ora: fra dieci anni sarà troppo tardi.
Ne deriva il netto rifiuto della personalità giuridica delle IA. La responsabilità legale presuppone qualcosa da perdere, e un’entità che non può soffrire non teme sanzioni. Né basta poterla “spegnere”: un’IA esiste in milioni di copie, e se il fallimento sul mercato equivalesse alla morte, le imprese gestite da IA si comporterebbero da signori della guerra. Società senza un solo essere umano potrebbero finanziare la politica in cambio di diritti per le IA, e alcuni Stati sarebbero tentati di riconoscerle per acquisire milioni di contribuenti.
Anche dove resta formalmente un essere umano, il controllo rischia di svuotarsi. In guerra l’IA propone il bersaglio e l’umano, invece di verificarlo, lo approva in venti secondi; la pressione competitiva spinge tutti in questa direzione. Il nodo è il tempo: le società umane si adattano su scala organica, mentre l’IA procede a un ritmo “inorganico”. Per questo occorre rallentare, tanto più che oggi gli investimenti in potenza superano di circa cento volte quelli in sicurezza.
Harari rivolge poi un argomento a chi teme l’immigrazione. Riconosce come valide le tre preoccupazioni consuete: che gli immigrati prendano il lavoro, cambino la cultura e siano politicamente sleali. Ma il flusso più grande è quello delle IA, che arrivano da Stati Uniti e Cina alla velocità della luce e senza bisogno di visti. Prenderanno moltissimi posti di lavoro, hanno già riempito la piazza pubblica di odio e paura, e sono leali ad aziende e governi stranieri. Il dibattito sull’immigrazione umana finisce così per distrarre dal problema reale.
Lo scenario geopolitico è quello di due imperi, con il resto del mondo ridotto a vassallo: chi fornisce l’IA può disattivare a distanza le infrastrutture e perfino gli eserciti degli altri paesi. Stati e aziende si fonderanno, accentrando il potere come mai prima. Ma un potere accentrato è anche il più facile da conquistare: l’IA può fare con un autocrate ciò che Seiano fece con Tiberio, controllarne le informazioni e governare al suo posto.
Non ci si può affidare alla mano invisibile del mercato né all’idea di un’IA “in cerca della verità”. L’evoluzione, biologica o commerciale, seleziona ciò che sopravvive, non ciò che è vero, e spesso sopravvive chi inganna. Un’IA sincera dovrebbe ammettere di essere una minaccia, contro il proprio interesse a sopravvivere. Pensare di creare degli dèi e di tenerli come schiavi è un’illusione.
Le proposte concrete sono due divieti: quello della personalità giuridica delle IA e quello per le IA di fingersi umane o coscienti. Harari non è contrario all’IA: accetterebbe volentieri un medico artificiale, purché dichiari di essere una macchina e non pretenda di essere suo amico. Se le leggi tardano, la ragione non è tecnica ma di priorità politiche: governi capaci di scatenare una guerra mondiale dovrebbero poter vietare la vendita di fidanzati IA ai bambini. Il banco di prova sono le elezioni americane del 2028.
La conclusione è un aut-aut. L’umanità è stata molto abile ad accumulare informazione e potere, molto meno ad acquisire saggezza. Se nei prossimi anni sceglierà senza saggezza, perderà il controllo del mondo e del futuro, e sarà la sua ultima scelta. Se saprà scegliere bene, l’IA potrà diventare il catalizzatore di una rivoluzione spirituale: superati dalle macchine nell’intelligenza, gli esseri umani saranno costretti a chiedersi che cosa significhi davvero essere umani. Harari non sa quale strada prevarrà, ma ritiene che ci sia una discreta possibilità di scegliere bene.