Magnifica humanitas ai raggi X: cosa dice la prima Enciclica di Papa Leone XIV dedicata all’intelligenza artificiale

Nel 1891 Papa Leone XIII aprì la stagione della dottrina sociale della Chiesa affrontando la questione operaia con l’enciclica Rerum Novarum. Oltre un secolo dopo, un Pontefice con lo stesso nome torna a interpellare il mondo su una trasformazione ancora più radicale, come l’intelligenza artificiale. L’enciclica “Magnifica Humanitas” di Leone XIV non condanna la nuova tecnologia né la approva in maniera acritica ma tenta seriamente di ragionare sulle implicazioni della progressiva penetrazione dell’IA nelle nostre vite, promuovendo la pace e la tutela della dignità umana, del lavoro e della giustizia sociale.

Verso Babele o Gerusalemme
Il filo conduttore è, ovviamente, biblico. La prima enciclica di Prevost si apre con due “icone” contrapposte dell’Antico Testamento. Da una parte la torre di Babele, spinta dall’efficienza e dall’orgoglio e guidata da un progetto di dominio che finisce per disumanizzare e si conclude nella dispersione dell’umanità. Dall’altra, le rovine di Gerusalemme, che sotto Neemia vengono ricostruite pezzo per pezzo, come opera di responsabilità condivisa, assegnando a ogni famiglia il proprio tratto di muro, nell’ascolto reciproco. La domanda implicita è: cosa stiamo costruendo con l’IA? Il bivio proposto dal Papa porta a una nuova Babele digitale oppure a un luogo in cui tutti possiamo davvero abitare, restando umani anche al tempo degli algoritmi. D’altronde, nel 135esimo anniversario della pubblicazione della “Rerum Novarum”, sono cambiate le “cose nuove”, non la posta in gioco.
Non a caso, prima di affrontare di petto il tema dell’IA, dedica un intero capitolo alla dottrina sociale della Chiesa, da Leone XIII a Bergoglio, e non si tratta di un omaggio accademico. I principi della dignità della persona, del bene comune, della destinazione universale dei beni, della sussidiarietà, della solidarietà e della giustizia sociale costituiscono il metro con cui giudicare le conseguenze della moderna rivoluzione digitale.

Contro il transumanesimo
Leone XIV però sgombra subito un equivoco di fondo. Le intelligenze artificiali «non vivono una esperienza, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità». Insomma non hanno coscienza morale. «Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono». Quando sembrano apprendere, lo fanno attraverso un «adattamento statistico a partire da dati e riscontri», cosa ben diversa da una crescita interiore.
La simulazione di comunicazione umana può ingannare chi è fragile o solo. «Quando la parola viene simulata, essa non costruisce una relazione, ma una sua parvenza», denuncia Prevost, secondo cui il pericolo maggiore non risiede solo nel credere di parlare a una persona ma nel perdere il desiderio di cercare davvero l’altro. Per questo è necessario approcciarsi all’IA in modo responsabile ma, soprattutto, serve un «codice etico» da sottoporre «a criteri di giustizia sociale condivisa», perché «non serve un’IA più morale, se questa morale è decisa da pochi».
Scorrendo le pagine dell’enciclica, emerge infatti la critica al transumanesimo e al postumanesimo, due correnti filosofiche che immaginano un essere umano potenziato o addirittura superato dalla fusione con le macchine. Leone XIV non liquida queste tesi come fantasie marginali ma riconosce che modificano l’immaginario collettivo e orientano scelte economiche e politiche concrete. Il punto critico non è la tecnica in sé, ma la visione che vi soggiace e il potere che deriva dal suo controllo. «Se l’essere umano è trattato come materiale da perfezionare o da oltrepassare, allora diventa più facile accettare che alcuni vengano considerati meno utili, meno desiderabili, meno degni», si legge nell’enciclica. Il limite, la fragilità, la vulnerabilità non sono difetti da correggere per il Papa ma il luogo in cui l’umano matura e si apre alla relazione. La tecnologia, quindi, non è «di per sé un male» ma «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa».

Potere algoritmico
Qui l’enciclica si fa più politica e più scomoda. Prevost comincia col notare che «i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi». È ovvio che ormai non sono più gli Stati a guidare l’innovazione ma le grandi piattaforme e questo rende il potere tecnologico difficile da governare.
Le decisioni algoritmiche che incidono, ad esempio, sull’accesso al credito, sulla selezione del personale o sulla visibilità dell’informazione portano con sé le scelte di chi le ha progettate. Quando un sistema decide chi merita e chi no senza che nessuno si assuma il peso della responsabilità, «lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare». Così l’ingiustizia si fa silenziosa. In questo senso l’enciclica usa la parola «disarmare». Non si tratta di rinunciare alla tecnologia ma di «impedirle di dominare l’umano», sottraendola ai monopoli e restituendola alla pluralità delle culture.
Anche perché le piattaforme digitali accelerano la diffusione di narrazioni distorte, mescolano fatti e opinioni, rendono la disinformazione più potente. La verità ormai appartiene a chi ha più visibilità, quando invece dovrebbe essere considerata un bene comune. In un passaggio si cita persino Hannah Arendt per descrivere dove può condurre il disinteresse per la verità, che costituisce il terreno ideale per il totalitarismo, dove i sudditi ideali sono coloro per i quali «la distinzione tra fatto e finzione e tra vero e falso non esiste più».
Non a caso un intero capitolo è dedicato alla formazione. Per Leone XIV, le trasformazioni tecnologiche «mettono in luce quanto siamo impreparati sul piano educativo». «La velocità e la facilità con cui si ottiene una risposta o una sintesi rischiano di spegnere il desiderio di porre domande», si legge nell’enciclica, che promuove «un’alleanza educativa per l’era digitale» che contrasti la «cultura dell’immediatezza e dell’iperstimolazione, che alimenta stanchezza, noia e apatia di fronte alla fatica necessaria per cercare la verità». «Educare all’uso dell’IA implica quindi educare a decidere quando e per cosa non usarla».
La letteratura scientifica documenta gli effetti dell’esposizione precoce ai dispositivi digitali sul sonno, sui livelli di attenzione e sulle relazioni dei minori. L’enciclica chiede in proposito interventi legislativi che fissino limiti di età per l’uso delle piattaforme e un patto tra politica, scuole e famiglie, senza scaricare tutto l’onere sui genitori.

Chi paga il prezzo più alto
Ma i più giovani non sono i soli soggetti a rischio. L’enciclica affronta anche la disoccupazione generata dall’impiego delle nuove tecnologie. Una preoccupazione già espressa da Giovanni Paolo II, che denunciò la disoccupazione di massa come «una vera calamità sociale», viene aggiornata da Prevost all’era dell’IA. L’innovazione viene introdotta spesso per ridurre i costi, non per liberare il potenziale umano e così i lavoratori devono adattarsi alla velocità delle macchine. Il Pontefice chiede che ogni automazione sia accompagnata da scelte verificabili di tutela dell’occupazione, che le imprese includano «la qualità e la dignità del lavoro tra gli indicatori di successo» e che i sindacati si aprano ai nuovi lavoratori per rappresentarli davvero.
Il Papa ricorda infatti come l’economia dell’IA sia tutt’altro che immateriale, reggendosi «sul lavoro silenzioso di milioni di esseri umani, impiegati in attività poco visibili ma essenziali: etichettatura dei dati, moderazione dei contenuti – spesso pessimi –, addestramento dei modelli». Poi ci sono i danni alla salute e all’ambiente: «Adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano le terre rare», si legge nel documento.
Da qui però l’enciclica allarga la prospettiva alla storia della Chiesa. Leone XIV riconosce il ritardo con cui la condanna della schiavitù è arrivata, ammette le complicità storiche delle istituzioni ecclesiastiche e poi firma quanto non era mai stato scritto in nessun documento vaticano: «A nome della Chiesa, domando sinceramente perdono».
Il quinto capitolo infine affronta il tema attualmente più urgente, quello della guerra algoritmica. L’IA applicata ai sistemi d’arma abbassa infatti la soglia del ricorso alla forza, rende le responsabilità opache e riduce il nemico a un dato. «Il giudizio morale non è riducibile a un calcolo: esso implica coscienza, responsabilità personale e riconoscimento dell’altro come persona», si legge nel documento. Non è lecito, secondo il Papa, affidare a sistemi artificiali decisioni letali o irreversibili. Quindi il Pontefice dichiara il «superamento della teoria della “guerra giusta”», troppo spesso invocata per legittimare qualsiasi conflitto, e invita i decisori politici a una svolta esplicita: «La guerra non è mai inevitabile, le armi possono e devono tacere».

Cinque mosse per il futuro
Alla cultura della potenza, Leone XIV contrappone un programma in cinque mosse. «Disarmiamo le parole e contribuiremo a disarmare la Terra», afferma Prevost, che propone di costruire la pace nella giustizia; assumere lo sguardo delle vittime; coltivare un sano realismo; e rilanciare il dialogo e il multilateralismo. A chi invece pensa che i problemi siano troppo grandi per i singoli, il Papa risponde citando Il Signore degli Anelli di John Ronald Reuel Tolkien: «Non tocca a noi dominare tutte le maree del mondo; il nostro compito è di fare il possibile per la salvezza degli anni nei quali viviamo, sradicando il male dai campi che conosciamo, al fine di lasciare a coloro che verranno dopo terra sana e pulita da coltivare».
Ma è la figura di Neemia a tornare nelle pagine conclusive del documento. Come il governatore della Giudea persiana del V secolo a. C. ascoltò il grido di una città in rovina, così oggi il Papa chiama tutti a entrare nelle aziende tecnologiche, nelle scuole, nei media, nelle istituzioni per «rialzare ciò che è crollato e proteggere ciò che è esposto». Non spettatori delle rovine, dunque, ma costruttori perché, come ogni strumento costruito dagli esseri umani, anche l’IA può ancora essere orientata al bene comune, purché siano le persone e non un algoritmo a scegliere in quale città abiteremo.