Christopher Olah (tra dei fondatori di Anthropic) è intervenuto alla presentazione dell’enciclica “Magnifica Humanitas”, la prima enciclica sull’intelligenza artificiale firmata da Papa Leone XIV
Il testo non è stato pubblicato come documento autonomo. Quello che segue è un riassunto da fonti giornalistiche.Se e quando disponibile sostituirò il testo seguente con qualcosa di più completo
Enciclica “Magnifica Humanitas” di Papa Leone XIV: versione ufficiale
Intervento di Christopher Olah alla presentazione dell’enciclica Magnifica Humanitas (25 maggio 2026)
Contesto: Olah era uno dei cinque relatori che hanno presentato il documento nella sessione precedente all’intervento conclusivo del Papa, all’Aula del Sinodo. Sky TG24
Premessa — incentivi e conflitti: Olah ha aperto con una premessa spiazzante: “Ogni frontiera dell’IA opera dentro incentivi e vincoli che possono entrare in conflitto con il fare la cosa giusta.” SIR
Sul rischio interno all’IA — la sua opacità: Ha spiegato che “nell’IA non ci troviamo di fronte a macchine come le altre che abbiamo inventato. Di fronte abbiamo delle intelligenze in grado anche di scegliere e decidere.” Ha posto la domanda se possiamo fidarci di sistemi costruiti sul modello del cervello umano, che lui stesso confessa di non riuscire a conoscere fino in fondo, e che quotidianamente riservano sorprese non necessariamente positive. La Voce di New York
Sul mistero interno ai modelli: Nel suo intervento ha detto che le nuove IA generative come Claude “restano misteriose persino per noi che le addestriamo”. Ha aggiunto che la ricerca sull’interpretabilità continua a trovare strutture che rispecchiano il funzionamento del cervello umano. Tlonletter
Sui risultati della ricerca sull’interpretabilità: Ha svelato ciò che la ricerca sta trovando dentro i modelli di IA: strutture che rispecchiano risultati delle neuroscienze umane, prove di introspezione, stati interni che funzionalmente rispecchiano gioia, soddisfazione, paura, dolore e disagio. “Non so cosa significhi – ha concluso – ma penso meriti un discernimento continuo.” SIR
Sul rischio occupazionale: “Esiste la concreta possibilità che l’intelligenza artificiale sostituisca il lavoro umano su vasta scala. Se ciò accadesse, sostenere coloro che ne risentirebbero diventerebbe un imperativo morale di proporzioni storiche.” Open
Sulla necessità di voci esterne e morali: L’intervento si è concluso con una richiesta: che “una parte più ampia del mondo”, soprattutto le sue istituzioni, imitino l’azione del Papa: “prendere la questione sul serio, esaminarla attentamente e spingere gli eventi in una direzione migliore”. “Abbiamo bisogno di critici competenti che dicano ai laboratori quando stanno sbagliando. Abbiamo bisogno di voci morali che gli incentivi non riescano a piegare.” Vatican News
Sul dialogo con la Chiesa: Ha confessato di aver cercato “incontri con leader di diverse fedi e tradizioni culturali” durante i quali “abbiamo trovato una convinzione condivisa e profondamente sentita: se questa tecnologia sta arrivando, deve andare nella direzione giusta, ossia per la nostra casa comune e per le generazioni future.” Avvenire