Nella Silicon Valley sono quasi vent’anni che si discute apertamente della fusione tra esseri umani e macchine. Ormai non si tratta più di fantascienza, ma di prevedere quando accadrà.
L’informatico-guru Ray Kurzweil, sostiene che entro il 2030 «saremo in grado di collegare direttamente i nostri cervelli al cloud» e che presto «non sapremo distinguere se le informazioni che riceveremo arriveranno dal nostro cervello biologico o dalla sua estensione esterna». Secondo Elon Musk – che con la sua Neuralink ha già sviluppato sistemi di impianto cerebrale che consentono di controllare dispositivi attraverso il pensiero – «sta diventando sempre più evidente che l’umanità è un programma di avvio biologico per una superintelligenza digitale», mentre Sam Altman, co-fondatore e amministratore delegato di OpenAI, già nel 2017 pronosticava che l’Homo Sapiens sarà la prima specie a «progettare i propri discendenti».
Con la sua enciclica Magnifica Humanitas, Papa Leone XIV invita a una riflessione critica sulle implicazioni di questo processo. «Se l’essere umano è trattato come materiale da perfezionare o da oltrepassare – osserva il pontefice – allora diventa più facile accettare che alcuni vengano considerati meno utili, meno desiderabili, meno degni»: i più fragili, così, rischiano di essere sacrificati in nome di una «presunta ottimizzazione della specie».
Prevost teme dunque che «nel tempo dell’Intelligenza artificiale» la «dignità umana» sia «oscurata da nuove forme di disumanizzazione»: per questo, avverte, «abbiamo il dovere urgente di restare profondamente umani».
Al centro della sua lettera pastorale non c’è tanto l’IA quanto noi: l’essere umano. Chi siamo, cosa vogliamo essere e come dovremmo porci al cospetto dello tsunami tecnologico che sta arrivando?
Dottrina Sociale
Lo scorso 25 maggio, tra gli esperti invitati in Vaticano per la presentazione dell’enciclica, c’era anche un imprenditore di primo piano delle Big Tech: Christopher Olah, co-fondatore di Anthropic, l’azienda del chatbot Claude che all’inizio di quest’anno è stata protagonista di un duro scontro con l’Amministrazione Trump per essersi rifiutata di contribuire a un progetto di sorveglianza di massa dei cittadini. È il segno di un’apertura al dialogo da parte della Santa Sede.
Leone XIV ha scelto di promulgare il suo messaggio nel 135esimo anniversario della Rerum Novarum di Leone XIII. La Dottrina Sociale teorizzata in quel documento è un punto di riferimento per Prevost: il metodo da utilizzare per interpretare gli epocali cambiamenti in atto. Come il Papa di fine Ottocento mise in guardia sulle ricadute sociali della seconda rivoluzione industriale («Gli operai sono stati abbandonati, soli e indifesi, alla disumanità dei padroni e alla sfrenata cupidigia dei concorrenti»), così oggi il primo pontefice statunitense si espone sui pericoli di un’avanzata incontrollata delle tecnologie digitali.
«La Dottrina Sociale della Chiesa – si legge in Magnifica Humanitas – è un patrimonio di saggezza, ove troviamo principi per pensare, criteri per discernere e giudicare, orientamenti concreti per agire. Ci aiuta a leggere con lucidità le sfide del presente».
Una specie al bivio
Secondo il Papa, l’umanità si trova davanti a una «scelta decisiva»: lasciarsi guidare dalla tecnologia e dal progresso come unici principi su cui costruire la nostra civiltà oppure porre al centro la dignità della persona.
Per descrivere questo bivio, Leone ricorre a due immagini bibliche: la torre di Babele e la ricostruzione delle mura di Gerusalemme.
Babele è la città edificata dall’umanità pensando di poter fare a meno di Dio: un’unica lingua, un’unica tecnologia, un’unica direzione e la leggendaria torre con cui si puntava a toccare il cielo. È un progetto di «assolutizzazione dell’umano» che «sacrifica la dignità delle persone all’efficienza»: il risultato «non è l’unità ma la dispersione».
La ricostruzione delle mura di Gerusalemme rappresenta l’approccio opposto: la città che – sotto la regia di Neemia, un ebreo al servizio del re persiano Artaserse – rinasce dall’ascolto e dal coordinamento delle forze attraverso la responsabilità condivisa di tutto il popolo. «L’antica Gerusalemme ritrova così una lingua comune: non quella dell’uniformità, ma quella della comunione».
Magnifica Humanitas è un invito a evitare la «sindrome di Babele»: rifiutare «l’idolatria del profitto che sacrifica i deboli», diffidare dalla «uniformità che appiattisce le differenze», tenersi lontani dalla «pretesa di un linguaggio unico – anche digitale – capace di tradurre tutto, persino il mistero della persona, in dati e prestazioni». Al contrario, l’enciclica auspica che venga scelta la «via di Neemia»: ovvero «accettare il limite e la fragilità dell’umanità senza considerarli un errore da correggere».
Il Papa risponde così alle teorie transumanistiche sospinte da alcuni tecno-santoni dell’IA, che interpretano il progresso come superamento dell’umano e sognano un mondo popolato da cyborg.
La distanza tra uomo e robot è rimarcata più volte, nell’enciclica: «Le cosiddette intelligenze artificiali – scrive Leone – non vivono esperienze, non possiedono un corpo, non provano gioia o dolore, non maturano attraverso le relazioni e non sanno interiormente cosa significhino amore, lavoro, amicizia o responsabilità».
Ma questo non significa opporsi pregiudizialmente a qualsiasi forma di avanzamento tecnologico: per il pontefice, la tecnica «non è di per sé una soluzione ai problemi dell’umanità, come non è di per sé un male; ma, concretamente, non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa». Ne consegue che la scelta a cui siamo chiamati come esseri umani «non è tra un “sì” o un “no” alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme: tra un potere che pretende di dominare il cielo e un popolo che, alla presenza di Dio, si mette a lavorare unito per rialzare le mura della convivenza fraterna».
Il paradigma tecnocratico
Nella lettera pastorale si ricorda come la storia dell’umanità sia stata scandita da sviluppi tecnologici che in alcuni casi hanno portato a miglioramenti delle nostre condizioni di vita e in altri hanno fatto danni. «Oggi tuttavia – riflette il Santo Padre – ci troviamo dinanzi a una situazione nuova, in cui la potenza e la pervasività delle tecnologie emergenti plasmano i processi decisionali e incidono in profondità sull’immaginario collettivo». «Mai l’umanità ha avuto tanto potere su se stessa», fa notare Prevost citando la Laudato si’ di Francesco.
E ad aggravare la situazione c’è il fatto che questo enorme potere non è più indirizzato dagli Stati, ma è concentrato nelle «poche mani» di «attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi». Ciò rende ancora più difficile orientare la tecnica al bene comune.
Il Papa rileva come ormai l’utilizzo dell’Intelligenza artificiale sia entrato in processi che incidono sulla nostra vita: «Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona».
Leone si rifà ancora a Bergoglio nel denunciare il «paradigma tecnocratico» che riduce la realtà a ciò che è misurabile, calcolabile e ottimizzabile. Ma affidare a un algoritmo il potere di selezionare chi merita e chi no – sottolinea – significa affidargli il compito di «ridefinire i confini delle possibilità umane», rinunciando non solo all’empatia ma anche alla responsabilità politica: così «lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare».
Amore vs potenza
Dopo aver passato in rassegna le possibili ripercussioni «drammatiche» dell’IA sulla comunicazione pubblica, sull’occupazione e sulle libertà individuali e collettive, Magnifica Humanitas si sofferma sul legame tra le tecnologie digitali e la «cultura della potenza» che si va consolidando nel mondo: un’alleanza che favorisce la «normalizzazione della guerra».
Da un lato gli algoritmi preparano culturalmente i conflitti amplificando polarizzazione e risentimento, dall’altro si moltiplicano forme di scontro ibride (dagli attacchi cibernetici in giù) e i sistemi d’arma autonomi rendono la guerra «più praticabile e meno soggetta al controllo umano». Lo abbiamo constatato, talvolta con effetti letali, in tutti i conflitti degli ultimi anni, dall’Ucraina al Medio Oriente. E lo abbiamo letto, nero su bianco, nel manifesto di Palantir pubblicato un paio di mesi fa.
«Non esiste algoritmo che possa rendere la guerra moralmente accettabile», scandisce il Papa, che a questa «cultura della potenza» contrappone – citando Paolo VI – una «civiltà dell’amore» fondata su giustizia, solidarietà, incontro e cura reciproca.
Prevost fa appello alle coscienze individuali. «La civiltà dell’amore – dice – non nasce da un gesto unico e spettacolare, ma da una somma di fedeltà piccole e tenaci, che fanno argine alla disumanizzazione»: «Ognuno dispone di un proprio ambito di azione, e lì è chiamato a scegliere se alimentare la logica della forza (anche solo con indifferenza, cinismo, menzogna, odio), oppure custodire la logica della pace (con verità, sobrietà, prossimità, cura)».
Stop oligopolisti
La difesa della dignità della persona è il criterio fondamentale che regge tutte le riflessioni contenute nell’enciclica. Dove per dignità si intende quella «ontologica», che «appartiene a ogni essere umano semplicemente per il fatto di esistere».
Riconoscere che ciascun uomo e ciascuna donna portano in sé una dignità inalienabile conduce alla necessità di promuovere il «bene comune», l’«insieme di quelle condizioni della vita sociale che permettono tanto ai gruppi quanto ai singoli membri di raggiungere la propria perfezione più pienamente e più speditamente»: non la somma dei vantaggi dei singoli, ma il risultato dell’interazione e dell’influenza reciproca che collega diverse azioni, iniziative, sforzi e decisioni.
E tra i beni che oggi sono «universalmente destinati a tutti», il Papa include anche brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche, dati. «In un contesto in cui la ricchezza delle nazioni dipende sempre più da conoscenze e tecnologie – si legge nella lettera pastorale – quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi, tra chi può partecipare alla rivoluzione digitale e chi ne rimane ai margini».
Il Santo Padre esorta quindi i governi a limitare lo strapotere dei tecno-oligopolisti: «Nelle scelte che riguardano i flussi economici e le piattaforme digitali e nel governo dei dati e degli algoritmi non si può lasciare che pochi attori orientino da soli i processi, ma è necessario costruire forme di cooperazione che rispettino i diversi livelli della comunità mondiale e li rendano corresponsabili del bene comune».
L’invito è a «disarmare l’IA»: «Sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva; è la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare – scrive Prevost – vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano».
Visione
Si può concordare o meno con le riflessioni del Papa, ma è indubbio il valore politico di Magnifica Humanitas. Certo, tutte le encicliche hanno una risonanza che va oltre l’ambito spirituale, tuttavia in quest’epoca povera di ideali e di statisti (specie nell’emisfero occidentale), Leone emerge come uno dei rari esempi di leader capace di portare con sé una visione complessiva del mondo.
Il rapporto tra esseri umani e macchine – con i suoi risvolti su lavoro, welfare, energia e ovviamente scienza – è il tema su cui si gioca non solo il futuro dei nostri figli ma il destino a lungo termine dell’umanità. Prevost ha indicato una strada. Sta alla politica – finora apparsa per lo più smarrita e impotente di fronte ai giganti del digitale – decidere se seguirla, scartarla o costruirne finalmente una propria. Diversamente, sarà l’IA a scegliere per noi.
Leggi l'articolo originale su TPI.it