L’enciclica Magnifica humanitas di Papa Leone XIV, pubblicata nel 135º anniversario della Rerum Novarum, non è solo un documento teologico, ma una sfida geopolitica e sociale lanciata da un Pontefice che, essendo laureato in matematica, conosce i meccanismi interni dell’algoritmo.
Ecco i concetti chiave, le espressioni forti e l’analisi dei problemi reali della società che emergono dalla lettura di Piero Schiavazzi (fonte YouTube-Limes):
1. La sfida esistenziale: La Torre di Babele 2.0
Il Papa utilizza il mito della Torre di Babele come metafora centrale per descrivere l’intelligenza artificiale. Questa tecnologia rappresenta l’ennesimo tentativo dell’uomo di “scalare il cielo”, proponendosi come un potere onnisciente e onnipresente che ambisce a prendere il posto della divinità e della Chiesa stessa. Schiavazzi definisce questa sfida come “esiziale” per la Chiesa e “esistenziale” per l’umanità, poiché l’IA non è uno strumento neutrale, ma una forza immanente che mira a sostituirsi al Dio creatore.
2. Il potere dei “Tecnovassalli” e la Profilazione
Una delle preoccupazioni principali riguarda il passaggio del potere dagli Stati a soggetti privati, i cosiddetti “tecnomassalli” o “tecnofeudatari” della Silicon Valley.
- L’anonimato del potere: Riprendendo riflessioni di Romano Guardini, l’enciclica denuncia un potere traslazionale e anonimo che sfugge alle regole nazionali.
- Profilare come nuova declinazione del potere: Il Papa individua nel verbo “profilare” la nuova forma del dominio contemporaneo. Chi possiede i dati delle nostre tracce digitali può condizionare le scelte e l’immaginario collettivo, privando l’individuo della propria libertà.
3. Dignità umana vs Performance
L’enciclica solleva un problema sociale cruciale: il rischio che il concetto di dignità umana venga sostituito dal mantra della performance e dell’efficienza.
- Contro la “logica della potenza”: Il Papa critica un modello di società (definito quasi “trampiano”) in cui il valore dell’uomo dipende dai risultati ottenuti (“you are fired”). Al contrario, la dignità è un dono divino intangibile e non deve essere guadagnata tramite la produttività.
- Sfruttamento e ambiente: Il testo affronta le ricadute concrete dell’IA, come l’occupazione di spazi enormi da parte dei data center, l’estrazione delle terre rare e il conseguente sfruttamento umano, specialmente in Africa.
4. La nuova “Grammatica della Guerra”
L’IA sta modificando profondamente il modo in cui i conflitti vengono concepiti e attuati:
- Automazione delle strategie: Oltre ai sistemi d’arma autonomi, la macchina inizia a elaborare le strategie di guerra stesse.
- Abbassamento della soglia morale: Questo processo trasforma la guerra da extrema ratio a strumento ordinario di risoluzione delle controversie, poiché l’automazione riduce il peso della responsabilità umana nelle decisioni belliche.
5. Categorie interpretative: Guerre e Paci “Selvatiche”
Il Papa introduce espressioni forti per descrivere l’attualità geopolitica:
- Guerre selvagge: Conflitti che sfuggono al controllo delle diplomazie tradizionali.
- Pace selvatica: Una pace che non nasce da strategie a tavolino, ma dall’esaurimento dei contendenti. È una “pace nel fango”, una tregua che sboccia spontaneamente quando la furia distruttrice si è consumata, simile a un processo naturale di fioritura post-tempesta.
6. La Resistenza: Il “Campo che conosciamo”
L’enciclica si conclude con un appello alla resistenza e alla responsabilità individuale. Citando Gandalf di Tolkien, il Papa riconosce che l’IA è una “marea montante” che non possiamo fermare del tutto, ma afferma che abbiamo il dovere di “sradicare il male dal campo che conosciamo” per salvare gli anni in cui viviamo. La risposta della Chiesa è quella del “verbo che si fa web”, invitando a evangelizzare e “conquistare” il continente digitale per non lasciarlo esclusivamente in mano a logiche tecnocratiche e finanziarie
*************************+++++++++***************************
In merito all’intervento di Christopher Olah, tra i fondatori di Anthropic, Schiavazzi sottolinea i seguenti punti chiave:
- Pressioni geopolitiche e necessità di regole esterne: Olah ha ammesso apertamente che i laboratori della Silicon Valley sono sottoposti a fortissime pressioni commerciali e geopolitiche, con la Cina che agisce come un “convitato di pietra” nella corsa all’intelligenza artificiale. Per questo motivo, ha dichiarato che gli informatici non possono darsi limiti da soli: è necessario che i “paletti” (il limes) vengano imposti dall’esterno tramite contropoteri, rivolgendosi direttamente al Papa con un accorato “Santo Padre, ci aiuti lei a discernere”.
- Il concetto di Interpretability: Schiavazzi riferisce la spiegazione di Olah secondo cui l’intelligenza artificiale non viene costruita seguendo regole fisiche certe come un aeroplano, ma viene piuttosto “coltivata”. Essa disegna un’architettura che poi si sviluppa autonomamente, portando a dinamiche che spesso sorprendono gli stessi creatori.
- La macchina che “si rivela”: Uno dei momenti più drammatici descritti da Schiavazzi è quando Olah ha utilizzato termini quasi teologici, affermando che “la macchina si rivela ai suoi creatori”. Secondo lo scienziato, l’IA mostra processi analoghi a quelli neurologici umani e sembra trasmettere sensazioni simili al dolore o alla gioia, un’affermazione che ha suscitato sconcerto tra i cardinali e i vescovi presenti.
- Responsabilità e Accountability: Oltre all’interpretabilità, l’altro concetto fondamentale emerso dall’intervento di Olah è quello dell’accountability (responsabilità), evidenziando un alto livello di sensibilità riguardo ai pericoli che queste tecnologie potrebbero rappresentare in un futuro molto prossimo.
Schiavazzi conclude che, nonostante l’enciclica affermi che nessun algoritmo potrà mai produrre una coscienza o un cuore, le parole di Olah suggeriscono che la tecnologia si stia avvicinando a tali traguardi in modo inquietante.