Il paradosso di Leone: se il primo Papa americano si oppone allo strapotere delle Big Tech

Più disuguaglianze, meno diritti e guerre più brutali. Sono alcuni dei pericoli da cui Leone XIV ha messo in guardia nella sua prima enciclica, in cui ha affrontato uno dei temi più dibattuti in questi ultimi anni. Una scelta, quella di dedicare la lettera papale all’Intelligenza artificiale, che per qualche giorno ha messo il Vaticano al centro dei dibattiti sul futuro di una tecnologia considerata strategica sia da Washington che da Pechino. Mettendo ancora una volta il primo papa di origine statunitense in rotta di collisione con la destra statunitense. 

Dopo aver in passato criticato l’Amministrazione Trump per le espulsioni di massa, la guerra in Iran e aver sottolineato di «non avere alcun timore» del Governo statunitense, questa volta Robert Francis Prevost ha puntato il dito contro chi nella Silicon Valley e a Washington è contrario a imporre restrizioni all’uso dell’Intelligenza artificiale e di armi automatiche. Trovando un’insolita sponda in un astro nascente del settore: la californiana Anthropic, startup che più di altre ha fatto parlare di sé negli ultimi mesi superando la valutazione, già smisurata, di OpenAI. Un’ascesa che è stata segnata, anche in questo caso, dallo scontro con la Casa Bianca sul tema dei limiti all’utilizzo dell’IA. 

La disputa, culminata dopo l’inizio della guerra con l’Iran, ha portato alla clamorosa esclusione dell’azienda da futuri contratti con le autorità federali, dopo che il Pentagono ha rifiutato di accettare restrizioni sull’utilizzo dei sistemi di Anthropic per lo sviluppo di armi autonome e nella sorveglianza dei cittadini statunitensi. Una presa di posizione che ha sollevato polemiche all’interno della stessa Silicon Valley, dove le big più vicine alla linea dell’Amministrazione vogliono limitare il più possibile l’imposizione di regole per mantenere il vantaggio rispetto ad altre potenze che potrebbero contendere agli Stati Uniti la supremazia nell’Intelligenza artificiale, prima fra tutte la Cina. 

In questa contesa si è andata a inserire anche la Santa Sede, schierandosi ancora una volta dalla parte di chi contesta l’approccio dell’Amministrazione Trump. 

Magnifica Humanitas
La scelta di dedicare all’Intelligenza artificiale la lettera papale, considerata la più alta espressione del magistero ordinario dei pontefici, è in continuità con i moniti lanciati da Papa Francesco negli ultimi anni del suo pontificato. Rivolgendosi ai leader del G7 nel 2024, il pontefice argentino aveva già parlato di una tecnologia «tanto affascinante quanto terrificante» che potrebbe cambiare «il modo in cui concepiamo la nostra identità di esseri umani». 

Prevost ha anche richiamato direttamente il precedente della sua Rerum Novarum, con cui Leone XIII, nel 1891, intervenne sulle questioni sociali del tempo fondando la moderna Dottrina Sociale della Chiesa. Al posto della rivoluzione industriale dell’Ottocento, oggi è la volta di una rivoluzione digitale, un «cambiamento d’epoca», che richiede «un ulteriore sviluppo» della Dottrina Sociale.

In Magnifica Humanitas Leone parla di una «situazione nuova», in cui la potenza delle tecnologie emergenti si innestano nella quotidianità, plasmando i processi decisionali. 

Il pontefice cita inoltre Francesco, quando invitava a «domandarci con realismo chi oggi detenga questo potere e a quali fini lo orienti», osservando che il potere tecnologico ha assunto «un volto inedito» rispetto al passato, quando «erano soprattutto gli Stati a guidare e indirizzare l’innovazione». Mentre oggi «i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi». Questo lo rende «ancora più difficile da discernere, governare e orientare al bene comune». 

La preoccupazione è che «piccoli gruppi molto influenti» possano orientare l’informazione, i consumi e condizionare processi democratici, «contraddicendo la giustizia sociale e la solidarietà tra i popoli», dal momento che l’Intelligenza artificiale tenderà ad accrescere «soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati». 

Nell’enciclica trova spazio anche la critica a «correnti» di pensiero popolari tra i big della Silicon Valley, quali il transumanesimo e il postumanesimo, definite come «lo sfondo ideologico che abita alcuni centri di potere tecnologico e colonizzano l’immaginario collettivo in forma semplificata». Trattare l’essere umano come «materiale da perfezionare», secondo il pontefice, rende più facile «accettare che alcuni vengano considerati meno utili, meno desiderabili, meno degni». Questo significa che «in nome del progresso si può arrivare a immaginare “sacrifici necessari”, e a far pagare ai più fragili il prezzo di una presunta ottimizzazione della specie».

Per quanto riguarda l’uso delle nuove tecnologie in guerra, il giudizio è netto: «Non esiste algoritmo che possa rendere la guerra moralmente accettabile». Secondo Leone l’Intelligenza artificiale non può rendere il conflitto meno disumano ma «può soltanto renderlo più rapido e impersonale» riducendo le vittime «a dati», abituandoci all’idea «che la violenza sia inevitabile e vada solo ottimizzata». I sistemi d’arma legati all’IA non stanno facendo altro che rendere la guerra più «praticabile» e meno soggetta al controllo umano, «contraddicendo» il principio che si debba ricorrere a essa come «ultima risorsa in caso di legittima difesa». 

Secondo il pontefice, dal momento che il giudizio morale non può essere «riducibile a un calcolo», non è lecito affidare a sistemi artificiali «decisioni letali o comunque irreversibili». È quindi necessario, secondo Prevost, che lo sviluppo dei sistemi di Intelligenza artificiale risponda a tre criteri «puntuali»: quello della responsabilità personale, del tempo del giudizio morale e della distinzione e della protezione dei civili. 

Il pontefice sostiene quindi che per ogni sistema debba essere garantita «tracciabilità e possibilità di ricostruire le decisioni», che la scelta di impiegare la forza letale debba restare sotto un controllo umano «effettivo, consapevole e responsabile» e infine, che è necessario stabilire regole condivise, anche a livello internazionale, per frenare la corsa agli armamenti e tutelare i civili e le infrastrutture essenziali. 

La presenza di Olah
Alla presentazione dell’enciclica, il pontefice ha anche lanciato l’allarme sui «sistemi d’arma sempre più autonomi, che praticamente nessun uomo e nessun governo può davvero controllare», levando un monito sul potenziale discriminatorio degli algoritmi, che possono impedire l’accesso «alle cure sanitarie, al lavoro e alla sicurezza sulla base di dati inquinati da pregiudizi e ingiustizia».

Si è trattato della prima volta che un pontefice è intervenuto direttamente alla presentazione della sua stessa enciclica. Per l’occasione, oltre ad autorità religiose e altri esperti, è stato invitato anche il 33enne co-fondatore di Anthropic Christopher Olah, ringraziato personalmente dal pontefice per aver accettato l’invito. Il contributo della startup sembrerebbe presente anche nel testo dell’enciclica, che, secondo quanto riportato dal Washington Post, conterrebbe in un passaggio linguaggio assimilabile a quello che Anthropic usa solitamente per descrivere la propria tecnologia. 

Già a gennaio la società aveva citato due consiglieri della Santa Sede tra i ringraziamenti della propria «costituzione» che articola i valori a cui dovrebbe fare riferimento il suo popolare chatbot, Claude. 

«Abbiamo bisogno di critici informati che dicano ai ricercatori quando stanno sbagliando», ha affermato Olah alla presentazione della lettera papale. «Abbiamo bisogno di voci morali che non possano essere piegate dagli incentivi». 

Dibattito
Rispetto ad altri concorrenti come OpenAI, Anthropic si è distinta per una comunicazione particolarmente sensibile ai potenziali rischi dell’Intelligenza artificiale e alla salvaguardia della propria reputazione. Una strategia che sembra aver ricevuto l’imprimatur delle autorità cattoliche, oltre ad aver riscosso la fiducia dei consumatori, che hanno portato il chatbot Claude al primo posto tra le app più scaricate negli Stati Uniti negli stessi giorni in cui si consumava lo scontro tra la startup californiana e il Pentagono. 

Ma ha anche attirato forti critiche da chi sostiene un approccio “leggero” alla regolamentazione del settore. Un esempio è Jason Calacanis, investitore e collaboratore di Elon Musk, che ha accusato l’amministratore delegato di Anthropic, Dario Amodei, di «spaventare la gente a morte» ipotizzando scenari estremi sugli effetti dell’IA sul mercato del lavoro. 

Altri esponenti del mondo tech più vicini alla destra hanno criticato anche la presa di posizione del Papa. «Se concediamo ai governi un potere illimitato sullo sviluppo dell’Intelligenza artificiale in nome della sicurezza, come possiamo impedire che venga utilizzata per censurare, sorvegliare e controllare i cittadini?», ha scritto su X David Sacks, ex responsabile della Casa Bianca per l’IA e le criptovalute, storicamente legato a Peter Thiel, co-fondatore del colosso della data intelligence Palantir. 

Thiel ha mostrato più di qualche interesse per le questioni dottrinali, facendo parlare di sé negli scorsi mesi dopo aver tenuto a Roma un ciclo di conferenze riservate sul tema dell’Anticristo. Tema caro al co-fondatore di PayPal, sostenitore in passato di quello stesso transumanesimo a cui Leone riserva un’analisi critica nella sua enciclica, oltre che grande appassionato di Signore degli Anelli, al punto da aver usato nomi presi dalla serie di romanzi fantasy per diverse sue società, tra cui la stessa Palantir. Proprio al miliardario di origine sudafricana potrebbe essere indirizzato un passaggio dell’enciclica che ha sorpreso molti osservatori. Quello in cui il pontefice cita Tolkien, l’autore del Signore degli Anelli, invitando a sradicare «il male dai campi che conosciamo» per «lasciare a coloro che verranno dopo terra sana e pulita da coltivare».