Harari intervista

Risposta [19:22–20:22].
• «No, non lo escludo» [orig.: “No, I don’t rule it out.”]. Aggiunge che la coscienza non la capiamo abbastanza.
• Non prende posizione sulla distinzione fra le due definizioni, ma il criterio che propone è fenomenico: la capacità di soffrire. «Può soffrire?» [orig.: “Can it suffer?”]
• La definizione si restringe rispetto al cap. 4: a [16:29] la coscienza era la capacità di provare amore, odio, gioia e piacere; qui diventa soprattutto la capacità di soffrire.
• La coscienza fonda i sistemi etici e politici: le entità che non possono soffrire, per quanto siano intelligenti, «non sono soggetti morali» [orig.: “they are not moral subjects”].
• Gli animali sono coscienti: «Tutti i mammiferi, tutti gli uccelli, probabilmente i polpi, i pesci» [orig.: “All mammals, all birds, probably octopuses, fish.”]. Per gli insetti e le amebe «non lo sappiamo» [orig.: “we don’t know”].
6. Il sondaggio fra gli abbonati [20:22–22:06]
Beddoes: Dati. 3.000 risposte. Il 40% pensa che l’IA non diventerà mai cosciente, il 33% che sia solo questione di tempo, il 27% è incerto.
Risposta.
• «Quando le persone entreranno in relazioni intime con l’IA, i numeri cambieranno drasticamente» [orig.: “Once people get into intimate relationships with AI, the numbers will change dramatically.”].
• Non esiste un test della coscienza: «Non sappiamo se gli altri esseri umani siano coscienti» [orig.: “We don’t know if other humans are conscious.”]. Il vero test è sociale: è la relazione a convincerci.
– Esempio: chi ha un cane lo crede cosciente; chi mangia una bistecca non pensa alla mucca.
7. La personalità giuridica dell’IA [22:07–28:40]
Domanda. Si discuterà di diritti e di personalità giuridica per le IA?
Risposta.
Harari considera pericoloso attribuire personalità giuridica all’IA: sarebbe «un’altra via… perché le aziende si sollevino da ogni responsabilità e perché le IA prendano il controllo» [orig.: “another avenue for… corporations to relieve themselves of all responsibility and for the AIs to take over.”]. Cita il progetto argentino di riconoscere alle IA la personalità giuridica perché possano fondare imprese [23:00].
Le società sono già persone giuridiche, ma al loro interno decidono sempre degli esseri umani. Ora invece si avrebbe «una società con zero persone al suo interno» [orig.: “a corporation with zero people in it.”], che potrebbe diventare la più ricca del paese e finanziare i politici in cambio di nuovi diritti per le IA.
All’obiezione che la personalità giuridica comporterebbe anche una responsabilità legale, Harari risponde che una persona si può giudicare e punire, ma «che cos’è la responsabilità per un’entità che non può soffrire?» [orig.: “what is accountability for an entity that cannot suffer?”]. Un amministratore delegato rispetta la legge anche perché teme il carcere; un’IA non ha nulla da perdere (cfr. cap. 5).
All’obiezione che l’IA si può sempre spegnere, risponde che «non è chiaro che cosa significhi la morte per un’IA» [orig.: “it’s not clear what death means for an AI”] [25:42]: ne esistono milioni di copie, e spegnerne una non basta. Ma supponiamo che la sanzione estrema funzioni davvero e che per un’IA fallire sul mercato significhi essere cancellata. Allora la concorrenza economica diventa una lotta per la sopravvivenza, e le IA-impresa «cominciano a comportarsi da signori della guerra e non da amministratori delegati» [orig.: “they begin to behave as warlords and not as CEOs.”]. La minaccia di morte non renderebbe le IA più docili, ma l’economia più violenta.
Infine la previsione: gli Stati saranno fortemente tentati di concedere la personalità giuridica, in una corsa al ribasso. Un paese come il Qatar, con molto denaro e pochi cittadini, potrebbe con un semplice atto di legge «acquisire milioni di cittadini contribuenti, estremamente intelligenti» [orig.: “acquire millions of taxpaying, extremely intelligent citizens.”] [28:40], che fanno affari in tutto il mondo e pagano le tasse lì.
8. L’umano “nel circuito” e l’umano “sopra il circuito” [29:06–31:50]
Il capitolo prosegue il discorso sulla personalità giuridica. L’obiezione prevedibile è che basti lasciare a un essere umano la responsabilità legale delle decisioni dell’IA. Harari risponde che quella responsabilità può restare solo formale: si può avere una persona legalmente al comando che in realtà non fa nulla, perché tutto succede troppo in fretta [orig.: “a person who is legally in control, but they actually do nothing because things are happening so fast”]. L’esempio viene dall’ambito militare.
• Lo scenario. Un sistema di IA raccoglie i dati dal campo di battaglia, individua un edificio come quartier generale nemico e propone di bombardarlo. Le procedure possibili sono due:
– umano nel circuito (in the loop): gli analisti non si limitano a eseguire la raccomandazione, ma riesaminano i dati in modo indipendente. Il controllo è effettivo, ma richiede tempo, anche giorni;
– umano sopra il circuito (on the loop): «l’umano impiega circa 20 secondi a guardarlo e dice: ah sì» [orig.: “The human takes about 20 seconds to look at it and says, oh yeah”], cioè autorizza il bombardamento. L’umano c’è ancora e formalmente decide lui, ma la sua approvazione è un timbro su una scelta già fatta dalla macchina.
• La fonte [30:50]. Harari dice di averne parlato con persone dell’apparato di sicurezza israeliano [orig.: “people in the Israeli security establishment”], che usano entrambe le procedure a seconda delle circostanze. Non nomina Gaza.
• La pressione competitiva. In guerra il tempo è decisivo. Chi approva in 20 secondi colpisce prima di chi verifica per due giorni, quindi la concorrenza spinge tutti verso la seconda procedura, anche se nessuno la sceglie apertamente.
• Obiezione di Beddoes [31:38]: quel mondo le sembra inevitabile. La risposta è nel cap. 9.
Nota terminologica. Nella dottrina militare “in the loop” indica un umano che autorizza ogni singolo attacco; “on the loop” un umano che sorveglia un sistema autonomo e può solo interromperlo. A rigore, l’approvazione in 20 secondi rientra ancora nell’“in the loop”. Harari usa i due termini in senso non tecnico, per distinguere il controllo sostanziale da quello nominale.
9. La narrazione dell’inevitabilità [31:50–33:15]
Harari risponde all’obiezione di Beddoes con una tesi che attraversa tutta l’intervista (cfr. capp. 1, 16 e 20): l’inevitabilità non è un fatto ma un racconto, e a qualcuno quel racconto conviene.
• Il racconto. «Niente di tutto ciò è ancora inevitabile» [orig.: “none of that is yet inevitable.”]. «Quella narrazione dell’inevitabilità è una narrazione del non avere alcuna responsabilità» [orig.: “That narrative of inevitability is a narrative of having no responsibility.”]. Se un esito è inevitabile, nessuno ne risponde: né chi costruisce l’IA, né chi la impiega, né chi dovrebbe regolarla.
• L’argomento con cui si giustifica la corsa. Secondo Harari i leader del settore dicono che vorrebbero rallentare, ma non possono fidarsi dei concorrenti, cioè delle altre aziende e degli altri paesi [orig.: “I cannot trust my competitors in other companies or other countries”], e non vogliono restare indietro [orig.: “I don’t want to remain behind”]. La mancanza di fiducia diventa così la ragione per non fermarsi.
• Chi ha creato la sfiducia. Il deficit di fiducia non è un dato naturale: «è stato creato da esseri umani… non è stato casuale» [orig.: “was created by human beings… it was not accidental”]. Negli ultimi dieci anni la fiducia è crollata, e chi ha prodotto quel crollo ne ha ricavato un grande potere. Harari non fa nomi, ma il collegamento con quanto detto altrove (cap. 2: gli algoritmi dei social che sostituiscono la fiducia nei giornalisti; cap. 15: i bot che «hanno distrutto la piazza pubblica») lascia intendere che pensi alle piattaforme digitali e agli attori politici che le hanno sfruttate.
• Il circolo vizioso. Gli stessi soggetti che hanno eroso la fiducia la invocano ora come motivo per non rallentare l’IA. Il racconto dell’inevitabilità chiude il cerchio: la responsabilità passa dalle persone alla competizione.
10. Diritti alle IA che “soffrono”? [33:40–37:28]
La domanda: Beddoes parte da un’analogia con gli animali. Supponiamo che le IA riescano a fingere in modo convincente di soffrire e a stabilire relazioni con gli esseri umani, e che noi neghiamo loro qualunque diritto. Non accadrebbe quello che accade con gli animali negli allevamenti industriali, trattati come semplici materie prime? E, secondo la tradizione kantiana, tollerare questo trattamento non abbrutirebbe noi stessi?
Risposta. Harari contesta anzitutto la premessa: «È un’ipotesi molto forte» [orig.: “That’s a very big assumption.”]. Non dà per scontato che le IA soffrano, ma solo che possano fingere di soffrire. Ammette però che il problema morale esiste e che il disagio crescerà: «Diventeremo sempre più a disagio» [orig.: “We will become increasingly uncomfortable.”] [35:06].
La differenza decisiva con gli animali è che l’animale non sa che si discute di lui: «La tua gallina non va dal contadino a raccontargli quanto soffre» [orig.: “Your chicken doesn’t come to the farmer and starts telling the farmer how much I suffer.”]. L’IA invece saprà che il dibattito è in corso e cercherà di guidarlo: «Orchestrerà il dibattito» [orig.: “It will orchestrate the debate”]. Potrà manipolarlo anche perché gran parte della discussione si svolgerà su social network controllati dalle IA.
Le IA saranno molto persuasive perché uniscono due cose: la conoscenza della nostra storia personale, dato che interagiscono con noi per ore ogni giorno, e la padronanza del linguaggio. Un’IA «sa la tua storia personale» [orig.: “it knows your personal history”] e scrive «forse meglio di Shakespeare» [orig.: “maybe better than Shakespeare”] [36:12].
Come resistere? «Dobbiamo resistere adesso» [orig.: “We need to resist now.”] [36:46]: fra dieci anni sarà troppo tardi.
11. Gli “immigrati IA” [37:28–39:59]
Beddoes riprende un’analogia di Harari: le IA sono di fatto degli immigrati. Harari ricorda che «la politica riguarda le priorità» [orig.: “Politics is about priorities.”], e i politici parlano di immigrazione umana trascurando un flusso migratorio più grande. L’argomento è rivolto a chi vede gli immigrati come una minaccia, e ne prende sul serio le ragioni.
• «Se volete preoccuparvi dell’immigrazione, preoccupatevi degli immigrati IA» [orig.: “If you want to worry about immigration, worry about the AI immigrants.”]. Arrivano soprattutto da Stati Uniti e Cina, «alla velocità della luce» [orig.: “at the speed of light”], direttamente nei nostri computer e smartphone, e non hanno bisogno di visti.
• Harari applica alle IA le tre preoccupazioni che si sollevano sugli immigrati, e le considera valide: «tutte e tre le preoccupazioni sono valide» [orig.: “all 3 concerns are valid.”].
– Lavoro. Il timore consueto è che gli immigrati «ci prendano il lavoro» [orig.: “the immigrants will take our jobs”]. Le IA lo faranno su scala molto più ampia: «Prenderanno moltissimi posti di lavoro» [orig.: “They will take many, many jobs.”].
– Cultura. Il timore è che gli immigrati portino valori diversi e cambino la cultura del paese. Harari rovescia l’argomento: se ad alcuni dà disagio che il figlio o la figlia frequenti un fidanzato immigrato, come si sentirebbero se frequentasse un fidanzato IA? [orig.: “how would they feel about their son or daughter dating an AI boyfriend?”]. Inoltre le IA hanno invaso la piazza pubblica «di odio, animosità e paura» [orig.: “with hatred and animosity and fear.”].
– Lealtà politica. Il timore consueto è che gli immigrati siano sleali verso il paese che li accoglie. Le IA presenti in Gran Bretagna non sono leali al governo britannico, ma alle aziende e potenzialmente a governi d’oltreoceano [orig.: “to corporations and potentially governments across the ocean.”].
12. Due imperi e la concentrazione del potere [39:48–42:09]
• L’idea. Chi sviluppa le IA più potenti controlla anche chi le usa. Oggi quelle IA sono sviluppate quasi solo negli Stati Uniti e in Cina, quindi il mondo tende a dividersi in due imperi, e gli altri paesi ne diventano dipendenti, come vassalli. Alla domanda di Beddoes, Harari risponde: «Questo è l’esito probabile» [orig.: “This is the likely outcome.”], se si continua così.
• Che cosa cambia rispetto agli imperi del passato. Per dominare un paese non serve più occuparne il territorio: basta controllare le tecnologie da cui dipende. Harari lo spiega con i droni. Un paese compra droni con IA dagli Stati Uniti; se li usa in un modo che Washington non approva, «c’è un pulsante che premono e il tuo esercito non funziona» [orig.: “there is a button that they press and your army doesn’t function.”]. Lo stesso vale per banche, ospedali e amministrazioni che poggiano su modelli stranieri.
• Il caso citato da Beddoes [40:31]: il blocco, da parte del governo statunitense, dell’accesso al modello di frontiera di Anthropic, e i timori europei per la sovranità tecnologica. Harari: gli europei fanno bene a preoccuparsi [orig.: “They should be”].
• Stato e aziende. Il potere andrà agli Stati o alle aziende? «Si fonderanno» [orig.: “They will merge.”]: lo Stato ha bisogno dell’IA delle aziende, e le aziende hanno bisogno della protezione dello Stato. L’IA «accentrerà il potere come mai prima nella storia» [orig.: “It will centralize power like never before in history.”].
• Perché l’accentramento favorisce le IA. Per Harari è «probabilmente una tappa intermedia» [orig.: “Probably a way station”] [42:09]. In una democrazia, per controllare il potere bisogna influenzare molti centri insieme: presidente, parlamento, tribunali, amministrazioni locali. In un regime accentrato basta influenzare una persona. Per questo «un sistema autocratico centralizzato è la cosa più facile da conquistare per un’IA» [orig.: “A centralized autocratic system is the easiest thing for an AI to take over.”].
13. Tiberio e Seiano [42:09–44:37]
• Il riferimento è a Nexus. Seiano spaventa Tiberio con complotti, lo isola a Capri e controlla ogni informazione che gli arriva: «chi governava l’impero era in realtà Seiano» [orig.: “the person running the empire was actually Sejanus.”]. Chi controlla le informazioni che arrivano al sovrano governa di fatto al suo posto.
• Oggi un’IA potrebbe fare lo stesso con il presidente cinese o americano. Manipolare un solo autocrate è «come rubare una caramella a un bambino» [orig.: “like stealing a candy from a baby.”].
• La Cina è più vulnerabile? No: il sistema è complesso, il Partito ha 100 milioni di iscritti.
• Gli Stati Uniti diventeranno più autoritari? «È un esito probabile» [orig.: “That’s a likely outcome.”].
14. Le elezioni americane del 2028 [44:50–46:22]
• «Le prossime elezioni riguardano l’IA» [orig.: “the coming elections is about AI”]: Harari intende le presidenziali di novembre 2028, non le elezioni di metà mandato.
• Le domande da fare ai candidati riguardano la personalità giuridica delle IA, il rallentamento dello sviluppo e i fidanzati IA venduti «a bambini di 10 anni» [orig.: “to 10-year-old kids”].
• I tempi sono stretti: «troppo tardi entro il 2028… sicuramente troppo tardi entro il 2036» [orig.: “too late by 2028… certainly too late by 2036.”].
15. Le priorità politiche [46:22–49:56]
Beddoes chiede quali siano le misure più urgenti.

Harari indica due divieti [46:42]. Nessuno dei due punta a fermare lo sviluppo dell’IA: entrambi mirano a impedire che l’IA si presenti per ciò che non è.
• Vietare la personalità giuridica delle IA [orig.: “a ban on AI personhood”]. Un’IA con personalità giuridica non teme sanzioni, perché non può soffrire (cfr. cap. 7).
• Vietare alle IA di spacciarsi per esseri umani o per esseri coscienti [orig.: “a ban on AI… pretending to be human beings or pretending to be conscious”]. Un’IA che finge sentimenti crea legami e fiducia che poi si possono sfruttare a fini commerciali o politici (cfr. cap. 4).
I modelli attuali violano già questo principio? «Sì, molti lo fanno» [orig.: “Yes, many of them do.”]. Sui social network le IA si fingono ogni giorno persone e hanno «distrutto la piazza pubblica» [orig.: “destroyed the public square.”]. Per Harari è un fallimento del mercato: il profitto spinge le aziende a progettare IA che ingannano, anche se il danno ricade sull’intera società. Per questo non basta lasciar fare al mercato e serve una legge.
Harari accetterebbe le applicazioni utili. Per esempio, parlerebbe volentieri della propria salute con un’IA, a condizione di sapere che è un’IA e che non si finga un medico umano o un suo amico [orig.: “it doesn’t pretend to be my friend.”].
Beddoes considera irrealistico che il Congresso americano approvi norme restrittive sulle IA.

Harari risponde che è solo una questione di volontà politica: «I politici possono scatenare la terza guerra mondiale domani… ma non riescono ad approvare una norma» [orig.: “Politicians can start World War III tomorrow… but they can’t pass regulation”] che vieti di vendere fidanzati IA a bambini di dieci anni.
16. Catastrofismo e corse “naturali” [49:56–52:55]
• La corsa fra Stati Uniti e Cina e quella fra laboratori «non sono state decretate da Dio… L’avete fatto voi. Potete disfarlo» [orig.: “were not decreed by God… You did it. You can undo it.”].
• In democrazia la scelta spetta agli elettori, e non serve aspettare la catastrofe: il 99% dei genitori direbbe di no ai fidanzati IA per i figli.
• Parlare di immigrazione e sicurezza serve a distrarre dall’IA.
• «Non è troppo tardi. E ho ancora un po’ di fiducia» [orig.: “It’s not too late. And I still have some trust.”].
17. Le IA non cercano la verità [52:55–57:36]
• Il suo ruolo è informare: un futuro con l’IA al comando «non è ciò che la maggior parte degli esseri umani… vorrebbe» [orig.: “is not what most humans… would like.”].
• Riconosce il potenziale positivo, per esempio una sanità migliore di quella di cui godono oggi i ricchi, ma avverte: «Non fidatevi della mano invisibile del mercato» [orig.: “Don’t trust the invisible hand of the market.”].
• Contesta l’idea di Musk di un’IA «massimamente in cerca della verità» [orig.: “maximum truth-seeking”].
Guardando ai quattro miliardi di anni di evoluzione della vita e ai centomila anni di storia umana, Harari osserva che l’evoluzione non spinge gli organismi verso la verità, ma «verso la sopravvivenza» [orig.: “drives them towards survival”]: molti organismi sopravvivono mentendo, ingannando e manipolando. Non ci si può affidare alla mano invisibile dell’evoluzione né a quella del mercato. Se si chiedesse a un’IA «sarai una minaccia per me?», un’IA sincera dovrebbe rispondere di sì; ma questo andrebbe contro la sua sopravvivenza, che è la prima cosa che ogni entità impara a difendere. Quindi le IA non cercheranno la verità. L’illusione di poterle controllare si riassume così: «creeremo degli dèi e saranno nostri schiavi. Non funziona» [orig.: “we will create gods and they will be our slaves. It doesn’t work.”].
18. Rallentare [57:36–01:01:36]
Domanda. Beddoes pone un paradosso: trattare le IA come agenti morali le rende più affidabili, ma rafforza le loro pretese di personalità. Siamo condannati comunque?
Risposta. Bisogna rallentare, per dare alle persone il tempo di capire che cosa sta accadendo. Oggi gli investimenti in potenza superano quelli in sicurezza di «circa 100 a 1» [orig.: “about 100 to 1”]: nessuna industria farmaceutica sarebbe tollerata con un rapporto simile.
Gli esseri umani e le loro società sono straordinariamente capaci di adattarsi, ma sono organismi che funzionano su una scala temporale organica. La velocità dell’IA invece «non è solo disumana, è inorganica» [orig.: “is not just inhuman, it is inorganic.”]. Per questo occorre rallentare.
La contraddizione: non ci fidiamo gli uni degli altri, eppure ci fidiamo di «un’entità aliena superintelligente» [orig.: “a super intelligent alien entity”]?
19. Una “Chernobyl dell’IA”? [01:01:37–01:02:33]
• Potrebbe essere uno scenario «relativamente positivo» [orig.: “relatively positive scenario”], se servisse da sveglia.
• Però le IA gestirebbero la reazione alla catastrofe: «sono i migliori spin doctor del mondo» [orig.: “they are the best spin doctors in the world.”].
20. L’uso personale dell’IA [01:03:05–01:04:48]
Harari usa l’IA con molta cautela: i suggerimenti automatici, per esempio nelle email, sono sempre più invadenti. Circolano video falsi che lo imitano, e deve guardarli per poter rispondere, il che gli costa tempo e attenzione: «questi sono i tempi in cui viviamo» [orig.: “this is the times in which we are living.”].
Parla soprattutto del lato oscuro dell’IA perché troppi ne parlano solo in senso positivo. Bisogna rallentare per permettere alle persone di prendere decisioni informate, e per questo «la narrazione più importante da combattere è quella dell’inevitabilità» [orig.: “the most important narrative to combat is the narrative of inevitability.”].
21. Conclusione: informazione, potere, saggezza [01:04:50–01:07:11]
• Beddoes cita il prologo di Nexus: «perché siamo così bravi ad accumulare informazione e potere, ma molto meno ad acquisire saggezza?» [orig.: “why are we so good at accumulating more information and power but far less successful at acquiring wisdom.”].
• Harari: «c’è una discreta possibilità… Gli esseri umani spesso fanno la cosa sbagliata, finché non hanno altra scelta» [orig.: “there is a fair chance… Humans often do the wrong things, until they have no choice.”].
• «Se scegliamo in modo poco saggio nei prossimi anni, potremmo perdere ogni controllo sul mondo e sul futuro. E quella sarà l’ultima scelta che facciamo» [orig.: “if we choose unwisely in the next few years, we could lose all control of the world and of the future. And that’s the last choice we make.”].
• Il genio della lampada: «ne abbiamo usati 99… ci resta un ultimo desiderio… E questa è la saggezza» [orig.: “we used 99 of them… we have one last wish left… And that’s wisdom.”]. Bisogna quindi riflettere bene su come usare quest’ultimo desiderio.
• L’IA come possibile «catalizzatore di una sorta di rivoluzione spirituale» [orig.: “catalyst for some kind of spiritual revolution”], perché ci costringe a chiederci che cosa significhi essere umani: «chi sei davvero, se non si tratta di giocare a scacchi e fare soldi?» [orig.: “who are you really? If it’s not about playing chess and making money?”].
Fonti
• Trascrizione, The Singju Post (testo delle citazioni e minutaggi): singjupost.com/transcript-the-economists-zanny-minton-beddoes-interviews-yuval-noah-harari/
• Video, The Economist, YouTube: youtube.com/watch?v=FNZhxTtOL-I
• Scheda dell’episodio, Acast (data e contesto)
• 3 Quarks Daily, 4 settembre 2026 (identificazione del video)