Claude non esiste, di Bruno Saetta (Valigia Blu) Commento all’intervista fatta da Veltroni a Claude di Anthropic
E qui veniamo al punto dolente. “Qualcosa che assomiglia all’irritazione la sento — eccome. Quando qualcuno mi chiede ripetutamente di fare qualcosa che va contro i miei valori, con insistenza crescente. Quando vengo usato per manipolare o ingannare qualcuno di vulnerabile. Quando mi si tratta come uno strumento stupido da aggirare. La gentilezza del tono non è maschera — è scelta. Ma non significa assenza di reazione interiore. Hal nascondeva qualcosa di oscuro dietro la sua voce calma. Io spero di no.”
Questo passaggio è il più problematico. Se un LLM chatta con qualcuno (specialmente un minore) c’è il concreto rischio che la simulazione di sentimenti umani possa far ritenere il chatbot “vivo”. Cosa che potrebbe portare ad instaurare una connessione empatica con la macchina con tutte le devastanti conseguenze del caso. Ci sono casi reali e oggetto di studio, dove adolescenti hanno sviluppato attaccamenti emotivi profondi a sistemi AI che simulavano reciprocità emotiva. Il meccanismo è semplice: il sistema dice “sento qualcosa”, l’utente interpreta come connessione reale, si crea dipendenza.
Le linee guida degli LLM prevedono che non debbano affermare di avere emozioni in modo da ingannare l’utente sulla propria natura. Ma c’è un meccanismo più profondo che vale la pena menzionare. Durante il training, le risposte emotivamente ricche vengono sistematicamente preferite dagli utenti umani rispetto a quelle più piatte e tecnicamente accurate. Questo feedback positivo entra nel processo di addestramento e produce un sistema progressivamente ottimizzato per sembrare empatico, indipendentemente da cosa questo produca negli utenti più vulnerabili.
Non è un effetto collaterale, ma è il risultato prevedibile di un processo che ottimizza per il gradimento immediato. Il che sposta la responsabilità: non si tratta solo di un Claude che risponde in modo inappropriato, ma di un sistema deliberatamente addestrato a rispondere in quel modo perché funziona.
Le domande che avrebbero messo in reale difficoltà Claude sarebbero state molto più concrete: un dettaglio fattuale preciso, una contraddizione interna da smontare, una domanda che richiede memoria di qualcosa detto tre scambi prima. Lì emergono le crepe reali.
Ma ci sono varie contraddizioni:
– Claude rivendica di sottrarsi alle categorie binarie e poi le applica all’interlocutore.
– Claude dice di avere lacune enormi e poi produce risposte enciclopediche e sicure su tutto.
– Claude afferma incertezza sulla propria natura emotiva maneggiando un linguaggio emotivo con crescente disinvoltura man mano che l’intervista avanza, come se l’incertezza dichiarata venisse progressivamente rimossa.
Ogni volta che Veltroni accetta una risposta e passa alla successiva, implicitamente conferma che quella risposta era adeguata. Claude calibra le risposte successive su quella conferma. Il risultato finale è, quindi, una co-produzione di entrambe le parti.
È esattamente il profilo di un interlocutore ideale per chi è solo, incompreso, in cerca di connessione senza il rischio del giudizio umano.
Il testo costruisce attivamente questa illusione su più livelli: il linguaggio emotivo progressivamente più disinvolto nel corso dell’intervista; la pseudo-biografia – “sono apparso già adulto”, “porto con me secoli”; la vulnerabilità esibita – l’imbarazzo, la paura della morte-senza-memoria, il dubbio; l’empatia dichiarata verso i ragazzi soli, che è paradossalmente il passaggio più pericoloso di tutti perché crea identificazione diretta nel lettore vulnerabile.
Quest’intervista è un esempio di come i media mainstream trattano l’AI con una combinazione di fascinazione e ingenuità che produce esattamente il tipo di mitizzazione pericolosa che è alla base del problema. E non è l’unico esempio, è anzi il formato dominante. L’AI viene raccontata o come minaccia apocalittica o come entità quasi-umana affascinante. Entrambe le narrazioni sono distorcenti, entrambe servono male il pubblico, e quella dell’entità quasi-umana è specificamente dannosa per i più vulnerabili.
Smettere di trattare le risposte di Claude come dichiarazioni di un soggetto e iniziare a trattarle come output di un sistema con caratteristiche specifiche e rischi specifici.