Intel-Artific

Filosofia vs IA (marzo 2025), Massimo Chiriatti

DATA – COMPUTER – ALGORITMI

Tanti dati accumulati, gestione dei dati con tecnologia autonoma, software di gestione più semplici: i costi di questi materiali scendono e ciò permette di rivolgersi all’ IA per avere dei vantaggi economici.

Alle tecnologie automatiche (per es. Excel Word) oggi si aggiungono tecnologie autonome: ossia macchine che non partono dalle istruzioni dei programmi ma dagli stessi dati. La macchina fa delle correlazioni tra i dati, trova delle irregolarità e delle regolarità e ce le presenta come risultati. La macchina automatica da un risultato certo, deterministico, esegue un programma scritto da noi. Invece la macchina autonoma (IA) legge i dati e presenta un risultato probabilistico, che non è certo. Infatti la macchina IA lo specifica.

Nella macchina calcolatrice il modello è top Down: noi scriviamo il programma e quindi il metodo è deduttivo, dal generale al particolare.

Invece con le IA il metodo è induttivo: parte dal particolare, dai dati e inizia a tirar fuori dei pattern, una ipotesi o una teoria che però noi dobbiamo validare.

Il giudizio umano conta molto di più rispetto al passato.

Quando in un reparto ho pochi dati ma il responsabile conosce le regole è meglio usare il método deduttivo. Ma dove ho poche regole e molti dati posso usare l’IA. Il risultato però non è sicuro: devo stare attento a non fare discriminazioni, alle asimmetrie e alla sostenibilità ambientale. Bisogna trovare un equilibrio fra ciò che la macchina fa risparmiare rispetto alla sottrazione di lavori.

IA contiene la possibilità di creare dei pregiudizi, può amplificare questi bias, queste distorsioni sistematiche e se non siamo noi a controllarli continua a fare i nostri errori del passato. Non dobbiamo dare responsabilità morale alla macchina perché non ha corpo quindi non la posso sanzionare. La responsabilità è di chi l’ha progettata e di chi la sta usando.

La chiamo incoscienza artificiale perché questa macchina fa correlazioni, non fa relazioni causa ed effetto. Non ha un corpo per fare esperienza del mondo e non conosce quindi il significato.

La macchina conosce bene la sintassi in tutte le lingue, però la semantica, la relazione tra le parole e la realtà, non ce l’ha, non sa cosa sta scrivendo, non sa cosa sta facendo, non sa di esistere. La macchina non ha nessuna coscienza di sé. Ci imita nel comportamento, ma non è che sente. È incosciente.

Daniel Kahneman ipotizza che nel nostro cervello abbiamo due sistemi: uno è quello intuitivo immediato. Il sistema due è invece quello più lento e complesso, che consuma più energia. Le risposte che l’IA trova su internet sono molte e diverse a seconda delle preferenze che ciascuno vuole. Qui il tema etico diventa importante: non c’è giusto e sbagliato, è il contesto che dobbiamo analizzare. Dobbiamo mettere dei sistemi che guidino il risultato algoritmico affinché non ci siano violazioni di legge e anche etiche.

Nella pratica di un progetto ciò che dobbiamo fare è unire l’obiettivo (il futuro) con i dati (il passato); è una relazione fra passato e futuro. La macchina IA fa delle previsioni attraverso correlazioni dei dati. La macchina non spiega; è lo storico che spiega.

La macchina non sa immaginare il futuro, non ha un pensiero strategico. È questa ideazione che la macchina non ha. Noi dobbiamo aumentare la nostra creatività per dargli il prompt giusto, e per usare la tecnologia nel modo giusto

Le macchine sono la somma di questi tre elementi: dati computer algoritmi. Noi siamo molto di più di questa somma. Il caso della baionetta: la baionetta non può tagliare il pane, è fatta per uccidere una persona. Quindi è già nella progettazione che ci sono i valori. La tecnologia non è né. positiva né negativa, ma non è neanche neutra. La scienza, come conoscenza, è neutra, ma quando abbiamo un coinvogimento umano a qualsiasi livello, come nella tecnologia, perdiamo la neutralità e ci mettiamo i nostri valori.

L’enciclica Magnifica humanitas di Papa Leone XIV, pubblicata nel 135º anniversario della Rerum Novarum, non è solo un documento teologico, ma una sfida geopolitica e sociale lanciata da un Pontefice che, essendo laureato in matematica, conosce i meccanismi interni dell’algoritmo.

Ecco i concetti chiave, le espressioni forti e l’analisi dei problemi reali della società che emergono dalla lettura di Piero Schiavazzi (fonte YouTube-Limes):

1. La sfida esistenziale: La Torre di Babele 2.0

Il Papa utilizza il mito della Torre di Babele come metafora centrale per descrivere l’intelligenza artificiale. Questa tecnologia rappresenta l’ennesimo tentativo dell’uomo di “scalare il cielo”, proponendosi come un potere onnisciente e onnipresente che ambisce a prendere il posto della divinità e della Chiesa stessa. Schiavazzi definisce questa sfida come “esiziale” per la Chiesa e “esistenziale” per l’umanità, poiché l’IA non è uno strumento neutrale, ma una forza immanente che mira a sostituirsi al Dio creatore.

2. Il potere dei “Tecnovassalli” e la Profilazione

Una delle preoccupazioni principali riguarda il passaggio del potere dagli Stati a soggetti privati, i cosiddetti “tecnomassalli” o “tecnofeudatari” della Silicon Valley.

• L’anonimato del potere: Riprendendo riflessioni di Romano Guardini, l’enciclica denuncia un potere traslazionale e anonimo che sfugge alle regole nazionali.
• Profilare come nuova declinazione del potere: Il Papa individua nel verbo “profilare” la nuova forma del dominio contemporaneo. Chi possiede i dati delle nostre tracce digitali può condizionare le scelte e l’immaginario collettivo, privando l’individuo della propria libertà.

3. Dignità umana vs Performance

L’enciclica solleva un problema sociale cruciale: il rischio che il concetto di dignità umana venga sostituito dal mantra della performance e dell’efficienza.

• Contro la “logica della potenza”: Il Papa critica un modello di società (definito quasi “trampiano”) in cui il valore dell’uomo dipende dai risultati ottenuti (“you are fired”). Al contrario, la dignità è un dono divino intangibile e non deve essere guadagnata tramite la produttività.
• Sfruttamento e ambiente: Il testo affronta le ricadute concrete dell’IA, come l’occupazione di spazi enormi da parte dei data center, l’estrazione delle terre rare e il conseguente sfruttamento umano, specialmente in Africa.

4. La nuova “Grammatica della Guerra”

L’IA sta modificando profondamente il modo in cui i conflitti vengono concepiti e attuati:

• Automazione delle strategie: Oltre ai sistemi d’arma autonomi, la macchina inizia a elaborare le strategie di guerra stesse.
• Abbassamento della soglia morale: Questo processo trasforma la guerra da extrema ratio a strumento ordinario di risoluzione delle controversie, poiché l’automazione riduce il peso della responsabilità umana nelle decisioni belliche.

5. Categorie interpretative: Guerre e Paci “Selvatiche”

Il Papa introduce espressioni forti per descrivere l’attualità geopolitica:

• Guerre selvagge: Conflitti che sfuggono al controllo delle diplomazie tradizionali.
• Pace selvatica: Una pace che non nasce da strategie a tavolino, ma dall’esaurimento dei contendenti. È una “pace nel fango”, una tregua che sboccia spontaneamente quando la furia distruttrice si è consumata, simile a un processo naturale di fioritura post-tempesta.

6. La Resistenza: Il “Campo che conosciamo”

L’enciclica si conclude con un appello alla resistenza e alla responsabilità individuale. Citando Gandalf di Tolkien, il Papa riconosce che l’IA è una “marea montante” che non possiamo fermare del tutto, ma afferma che abbiamo il dovere di “sradicare il male dal campo che conosciamo” per salvare gli anni in cui viviamo. La risposta della Chiesa è quella del “verbo che si fa web”, invitando a evangelizzare e “conquistare” il continente digitale per non lasciarlo esclusivamente in mano a logiche tecnocratiche e finanziarie

*************************+++++++++***************************

In merito all’intervento di Christopher Olah, tra i fondatori di Anthropic, Schiavazzi sottolinea i seguenti punti chiave:

• Pressioni geopolitiche e necessità di regole esterne: Olah ha ammesso apertamente che i laboratori della Silicon Valley sono sottoposti a fortissime pressioni commerciali e geopolitiche, con la Cina che agisce come un “convitato di pietra” nella corsa all’intelligenza artificiale. Per questo motivo, ha dichiarato che gli informatici non possono darsi limiti da soli: è necessario che i “paletti” (il limes) vengano imposti dall’esterno tramite contropoteri, rivolgendosi direttamente al Papa con un accorato “Santo Padre, ci aiuti lei a discernere”.
• Il concetto di Interpretability: Schiavazzi riferisce la spiegazione di Olah secondo cui l’intelligenza artificiale non viene costruita seguendo regole fisiche certe come un aeroplano, ma viene piuttosto “coltivata”. Essa disegna un’architettura che poi si sviluppa autonomamente, portando a dinamiche che spesso sorprendono gli stessi creatori.
• La macchina che “si rivela”: Uno dei momenti più drammatici descritti da Schiavazzi è quando Olah ha utilizzato termini quasi teologici, affermando che “la macchina si rivela ai suoi creatori”. Secondo lo scienziato, l’IA mostra processi analoghi a quelli neurologici umani e sembra trasmettere sensazioni simili al dolore o alla gioia, un’affermazione che ha suscitato sconcerto tra i cardinali e i vescovi presenti.
• Responsabilità e Accountability: Oltre all’interpretabilità, l’altro concetto fondamentale emerso dall’intervento di Olah è quello dell’accountability (responsabilità), evidenziando un alto livello di sensibilità riguardo ai pericoli che queste tecnologie potrebbero rappresentare in un futuro molto prossimo.

Schiavazzi conclude che, nonostante l’enciclica affermi che nessun algoritmo potrà mai produrre una coscienza o un cuore, le parole di Olah suggeriscono che la tecnologia si stia avvicinando a tali traguardi in modo inquietante.