Padre Spadaro a TPI: “Il pericolo non è che le macchine diventino umane ma che gli umani si riducano a macchine”

«Il pericolo non è che le macchine diventino umane, ma che gli umani si riducano a macchine». È da qui che Antonio Spadaro affronta il rapporto tra Intelligenza artificiale, coscienza e dignità. A metà giugno uscirà nella collana Idee Feltrinelli la sua edizione commentata dell’enciclica del Papa Magnifica Humanitas, con un’introduzione dal titolo “Credo negli esseri umani. L’Intelligenza artificiale, il potere e la custodia dell’umano”. Un testo che anticipa e approfondisce il cuore di questa conversazione: come custodire l’umano in un ambiente tecnologico che non si limita più a eseguire, ma orienta pensieri, desideri e decisioni.

Lei ha spesso insistito sul fatto che le tecnologie digitali non sono soltanto strumenti, ma ambienti nei quali viviamo, pensiamo e costruiamo relazioni. Oggi l’Intelligenza artificiale sembra compiere un ulteriore passaggio. In che senso l’IA sta diventando un nuovo ambiente antropologico e non soltanto una tecnologia da usare bene o male?
«Dal 2012, quando ho scritto il volume “Cyberteologia”, sostengo una cosa semplice e impegnativa allo stesso tempo: il digitale non è un attrezzo che prendo in mano e poi poso, ma l’aria che respiriamo, il codice che struttura il nostro modo di pensare e di credere. L’Intelligenza artificiale porta questa intuizione al suo culmine. Non bussa alla porta: è già dentro casa. Non è più un semplice insieme di strumenti, ma un ambiente mentale, culturale, spirituale. Il salto di oggi sta proprio qui. Finora la tecnica mediava la comunicazione: oggi l’IA produce testi, immagini, decisioni, e simula perfino il dialogo. L’ambiente, insomma, ha cominciato a rispondere. E quando l’ambiente parla, la categoria dello “strumento da usare bene o male” si rivela insufficiente, perché presuppone un utente esterno di fronte a un oggetto esterno. Ma noi non siamo davanti all’IA: ci siamo dentro».

Se una macchina può scrivere, parlare e simulare empatia, che cosa resta propriamente umano nell’intelligenza e nella relazione? «La domanda giusta non è se una macchina sappia scrivere o parlare – lo fa, e sempre meglio – ma che cosa siano questi gesti quando è una macchina a compierli. La mia risposta è antropologica, non tecnologica: le macchine producono combinazioni, l’uomo genera senso. Ciò che resta umano è la libertà del significato. Le intelligenze artificiali possono simulare empatia o comprensione, ma non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente. Il verbo è preciso: abitare. La macchina attraversa il linguaggio come un flusso di dati, non lo abita come un’esperienza di senso. La macchina non lotta con nulla, non conosce resistenza. E una creazione senza resistenza non è creazione: è produzione. La macchina, in una parola, non ha ferite».

Nel dibattito pubblico ricorre la domanda se una macchina possa diventare cosciente. Ma forse è altrettanto importante chiedersi che cosa intendiamo per coscienza. Come distinguerebbe la coscienza morale umana da ciò che oggi chiamiamo «intelligenza» artificiale?
«La nostra lingua ci aiuta, perché “coscienza” dice due cose insieme: la consapevolezza e il giudizio morale. Il dibattito pubblico si è fissato sulla prima – se una macchina possa “risvegliarsi” –, una scommessa metafisica probabilmente indecidibile. Ma il punto antropologicamente e spiritualmente decisivo è la seconda: la coscienza come capacità di giudizio, responsabilità, discernimento, apertura al bene e al vero. Ciò che chiamiamo “intelligenza” artificiale è elaborazione statistica di pattern, per quanto raffinata; la coscienza morale è l’atto di un soggetto che sta davanti al bene e ne risponde. Una macchina può ottimizzare, non può essere responsabile, perché la responsabilità presuppone qualcuno che possa rispondere di sé, e anche pentirsi, convertirsi. Per questo amo parlare di discernimento: non è un calcolo, ma un movimento dell’intera persona – affetti compresi – davanti alla realtà. Come dice l’enciclica, “nessun sistema di calcolo genera un cuore che si consegna, né una coscienza che discerne il bene”. La differenza non è di potenza, ma di natura».

Uno dei nodi centrali del rapporto tra IA e dignità è che la persona non può essere ridotta a dati, profili, previsioni o punteggi. Come difendere, in un mondo governato da sistemi di classificazione e predizione, l’idea che ogni persona abbia un valore non computabile?
«L’enciclica parla della “sindrome di Babele”, cioè la pretesa di tradurre tutto – compreso il mistero irriducibile della persona – in dati e prestazioni. È il cuore del problema. Contro il mondo dei punteggi e dei profili, occorre ribadire una cosa: il futuro di una persona non è calcolabile. Mi viene in mente il verso di Emily Dickinson, “io abito la possibilità”. Per un algoritmo l’errore è qualcosa da eliminare; per un essere umano può essere l’inizio di una trasformazione radicale. Uso spesso l’immagine del volto. Un sistema può analizzare un volto, riconoscerlo, classificarlo, predirne le emozioni. Ma non può guardarlo. E nel guardare – nel riconoscere l’altro come altro, non come funzione – c’è molto della nostra vita. Un quadro di Rothko non è riducibile a dati; tantomeno lo è un volto. La dignità non è una qualità che si misura, ma un mistero che si riceve».

L’IA orienta attenzione, preferenze e desideri. Quale discernimento serve per non lasciare agli algoritmi la guida del nostro immaginario?
«Qui mi rifaccio ad Agostino, che l’enciclica pone al centro: “Due amori fecero due città”. La domanda decisiva non è “come regolare l’IA?” – necessaria ma insufficiente – bensì quella che il Papa, agostinianamente, rivolge al lettore: che cosa ami davvero? Perché il paradigma tecnocratico non è soltanto un errore di governance: è una deformazione dell’immaginario, la sostituzione silenziosa della sapienza con l’efficienza, della relazione con la prestazione, del giudizio con il calcolo. Per non consegnare agli algoritmi la guida del nostro immaginario serve esattamente il discernimento: esaminare i movimenti interiori, capire dove un desiderio conduce, distinguere ciò che dilata da ciò che restringe. È un esercizio spirituale prima che tecnico. E ha bisogno di una disciplina concreta: l’enciclica propone, con un’immagine quasi monastica, di “digiunare dall’Intelligenza artificiale”. Spazi deliberati di vuoto, in cui il pensiero maturi senza la stampella del calcolo».

Deepfake e contenuti sintetici rendono fragile il rapporto tra vero e falso. Come ricostruire fiducia in un tempo di «inquinamento cognitivo».
«L’enciclica cita Hannah Arendt nel punto più esatto: la dissoluzione della distinzione tra fatto e finzione è la premessa del totalitarismo. Deepfake e contenuti sintetici producono precisamente questo, e dietro c’è spesso ciò che il testo chiama “puro potere privo di verità”. L’inquinamento cognitivo non è una metafora suggestiva: è la versione mentale dell’inquinamento ambientale. Per questo propongo, sulla scia del documento, una “ecologia della comunicazione”. Ricostruire fiducia esige strumenti tecnici – tracciabilità, trasparenza, riconoscibilità dei contenuti generati – ma sarebbe un’illusione pensare che il problema sia solo tecnico. La fiducia è una realtà relazionale e antropologica. Nasce dall’abitare, dalla presenza incarnata, da comunità capaci di verificare insieme, da quella che chiamo una controcultura dell’incontro. La parola simulata costruisce parvenza; la fiducia si ricostruisce ri-radicando la parola nel corpo, nella memoria, nella responsabilità di chi la pronuncia».

Di fronte all’IA la Chiesa non sembra chiamata né a demonizzare la tecnica né ad assumerla ingenuamente come progresso inevitabile. Quale può essere il contributo specifico della tradizione cristiana: offrire principi etici, custodire l’umano, denunciare le nuove disuguaglianze, oppure soprattutto riaprire le grandi domande sul senso?
«Tutte e quattro le cose appartengono al contributo della Chiesa, e l’enciclica le tiene insieme. Ma se devo indicare quella propriamente cristiana, è l’ultima, ed è quella che fonda le altre: riaprire le grandi domande sul senso. La domanda biblica per eccellenza, quella che Dio rivolge ad Adamo dopo la caduta, “dove sei?”, non è una domanda di localizzazione: è una domanda di coscienza. Oggi suona così: che ne è dell’uomo? La Chiesa non si pronuncia perché pretenda una competenza tecnica, ma perché la questione tecnologica è, in radice, questione spirituale. E non offre una “parola definitiva” sulle singole soluzioni: offre criteri di discernimento, accompagna un giudizio comunitario. Il suo dono più profondo è un criterio antropologico preciso, quello dell’Incarnazione: il Dio cristiano non potenzia l’uomo dal di fuori, scende nella sua fragilità e la trasforma dal di dentro. Il Verbo si è fatto carne, non codice».

Nell’enciclica del Papa sull’intelligenza artificiale emerge con forza il tema della dignità umana. Qual è, secondo lei, il punto più urgente di questo richiamo?
«Il punto più urgente lo direi così: il pericolo non è che le macchine diventino umane, ma che gli umani si riducano a macchine. È questo il rovesciamento che l’enciclica vuole impedire. Il rischio del paradigma tecnocratico è di far sembrare giusta e normale “una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, eliminare l’imprevisto, controllare ogni cosa”. La dignità non si deduce dalla prestazione: è inviolabile e non computabile. Sul piano concreto, l’urgenza ha due volti. Il primo: la decisione letale o irreversibile non può essere delegata a un processo automatizzato, ma deve restare sotto un controllo umano effettivo. È il limite invalicabile, quello che riguarda la vita e la morte. Il secondo: non possiamo celebrare la civiltà avanzata mentre i benefici dell’algoritmo poggiano su un nuovo colonialismo dei dati e sulle filiere invisibili che alimentano i nostri dispositivi».

Il Papa invita a non ridurre l’umano a efficienza, calcolo e prestazione. In che modo questa enciclica può aiutarci a distinguere tra progresso tecnico e vero sviluppo umano?
«La distinzione è antica e oggi decisiva. Il paradigma tecnocratico, già denunciato da Francesco nella Laudato si’, è la logica secondo cui tutto ciò che è tecnicamente possibile diventa automaticamente legittimo: l’efficienza come unico metro del valore. Ma il progresso tecnico non coincide con lo sviluppo umano. Lo aveva già detto Paolo VI nella Populorum Progressio: il vero sviluppo è quello di tutto l’uomo e di tutti gli uomini, altrimenti è crescita di pochi e impoverimento dei molti. La Magnifica Humanitas ci offre un criterio operativo: un’innovazione è sviluppo se serve la dignità della persona-in-relazione, se accresce sapienza, giustizia e legami; è mera potenza se deforma l’immaginario, atrofizza il giudizio, concentra il potere. E da qui la tesi più controcorrente: il vero sviluppo passa attraverso il limite, non attraverso la sua abolizione».