Autoritarismo digitale: ecco perché l’intelligenza artificiale ha bisogno delle cinture di sicurezza

È il 2011 e nelle piazze dell’Egitto esplodono le proteste contro l’oppressione di Hosni Mubarak, dittatore in carica da decenni. Migliaia di cittadini si radunano in Piazza Tahrir, al Cairo, reclamando giustizia sociale e libertà. I manifestanti utilizzano Internet per coordinarsi e amplificare la propria voce, trasformando proteste localizzate in una mobilitazione nazionale. Alcuni, in Occidente, annunciano una fase storica di libertà travolgente spinta dalle nuove tecnologie.
Ben presto, però, l’incantesimo si spezza. I primi ad accorgersene sono proprio gli egiziani. La rete non è solo un alleato, ma anche uno strumento nelle mani del governo. Il regime di allora – infatti – ha risposto drasticamente, innanzitutto staccando un Paese intero da Internet nel corso di una notte, silenziando milioni di voci digitali che fino a quel momento avevano diffuso messaggi di dissenso. Poi è arrivata la cappa dei filtraggi e, infine, una martellante propaganda online.
A quel punto, per essere davvero “smart” – ovvero intelligenti, svegli – i militanti hanno scelto di evitare proprio le tecnologie. Ha cominciato a circolare un opuscolo eloquente: raccomandava apertamente di evitare connessioni digitali o siti-web. Il rischio era che fossero controllate dal ministero dell’Interno. Piuttosto, al posto dei moderni strumenti digitali, in un riavvolgersi della storia, il suggerimento era quello di tornare a un vecchio rottame tecnologico: la fotocopiatrice. Chi lavorava in un ufficio diventava una persona chiave ed era invitato a produrre volantini in quantità e a diffonderli tra la popolazione, eludendo così i controlli informatici.
Inoltre, c’era il problema della videosorveglianza: gli “occhi artificiali” installati ovunque nelle strade. L’opuscolo raccomandava allora di munirsi di bombolette spray per oscurare le telecamere di sicurezza, neutralizzando così uno dei principali mezzi di controllo e repressione da parte del regime. E pensare che allora non c’era ancora l’intelligenza artificiale come la conosciamo oggi: grazie al riconoscimento facciale automatico, ora il monitoraggio sarebbe ancora più efficiente, pervasivo e potenzialmente spietato.

Determinismo tecnologico
Questa storia, insieme a molte altre dalla Bielorussia all’Iran, da Hong Kong alla Birmania, ci spinge a chiederci: un mondo digitale è davvero più libero? Quello degli attivisti egiziani è un monito importante: nessuna tecnologia, per quanto rivoluzionaria o apparentemente liberatrice, è immune dal rischio di essere strumentalizzata a fini autoritari.
Oggi sappiamo che il determinismo tecnologico, quell’ottimismo estremo che animava gli imprenditori visionari della Silicon Valley, non ha retto alla prova della realtà. L’idea che la tecnologia, da sola, avrebbe portato automaticamente progresso, benessere e libertà per tutti, si è rivelata essere nulla più che una seducente illusione, che prometteva soluzioni miracolose a problemi complessi, semplificando eccessivamente la relazione tra tecnologia e società. Come nell’esempio egiziano, le tecnologie non sono intrinsecamente buone o cattive: il loro impatto dipende piuttosto dal modo in cui vengono governate, gestite e integrate nella società.

Post-democrazia
Se dunque il determinismo tecnologico è uno schema da mandare in soffitta, da cosa può essere sostituito? Per costruire una casa bisogna partire dai mattoni che la compongono. E allora si deve partire dai tre grandi poteri contemporanei. Accanto agli Stati, protagonisti tradizionali della politica, emerge con forza il ruolo decisivo delle Big Tech, divenute oggi autorità di primo livello nello sviluppo dei media digitali e dell’intelligenza artificiale. Poi ci sono i popoli, le moltitudini dei cittadini.
Come possono interagire fra loro Stati, cittadini e compagnie digitali? Il primo, e peggiore degli scenari, è proprio quello che abbiamo già trattato. Stati e compagnie si alleano contri i cittadini, in una “libertà soffocata”. Se le agenzie governative utilizzano i servizi di polizia predittiva delle aziende digitali, la sorveglianza di massa è dietro l’angolo. Se per legge possono accedere a qualsiasi informazione delle piattaforme, il rischio autoritario diventa alto. Ma non dobbiamo perdere la speranza, perché questo non è l’unico scenario possibile.
Un secondo scenario è quello della “libertà economicista”, in cui i cittadini sono formalmente liberi, ma in cui sono soprattutto consumatori. Qui compagnie digitali e cittadini si alleano contro lo Stato. Allora assistiamo a un indebolimento della politica, al punto che diventa problematico per lo Stato ridurre gli effetti collaterali della digitalizzazione e garantire la giustizia sociale. In questo contesto, la sfera pubblica si trasforma in un’arena dominata da logiche commerciali. I dati personali sono sfruttati commercialmente, senza etica se non quella del profitto, influenzando le scelte dei cittadini. Ci sono pochissime persone e aziende estremamente potenti, mentre la maggioranza della gente si sente sempre più povera e impotente. Questo invece è il tipico caso delle democrazie in crisi, di quelle che Colin Crouch chiama “post-democrazie”.

Intervento pubblico
Soltanto nella terza ipotesi possiamo avere una vera “libertà politica” e una piena democrazia: una situazione in cui Stato e cittadini si alleano contro le compagnie digitali. Messa così sembra piuttosto cruda, ma significa semplicemente che, qui, la sinergia tra il potere dei cittadini e l’autorità pubblica porta a un assetto in cui le grandi piattaforme sono regolate. Ciò può tradursi in una maggiore redistribuzione dei profitti e nella promozione di un’informazione online di qualità superiore. La collaborazione tra cittadini e Stato non solo implica un controllo democratico sul governo, ma consente anche di mitigare gli impatti negativi dello sviluppo.
È quanto si sta cercando di fare in Unione europea con il Regolamento Generale sulla Protezione dei Dati (Gdpr), che stabilisce requisiti dettagliati per la raccolta, l’archiviazione e la gestione dei dati personali. Oppure, il Digital Services Act mira a responsabilizzare le piattaforme online, imponendo obblighi di trasparenza e tracciabilità per garantire un ambiente digitale più sicuro ed equo. L’Unione europea è invece molto in ritardo nella sovranità digitale: per far davvero valere i propri valori bisognerebbe poter contare anche su propri campioni tecnologici. Invece dipendiamo massicciamente dagli Usa e, in minor parte, dalla Cina. 

Che fare?
Queste tre diverse opzioni costruiscono “il trilemma della libertà” nel nostro mondo digitale. Trilemma implica che non esistono soluzioni perfette, prive di difetti o di costi, piuttosto che abbiamo a disposizione diverse configurazioni con relative conseguenze sulla libertà. Ciò, tuttavia, non significa affatto che tutte le opzioni siano equivalenti. Anzi, alcuni assetti sono più vantaggiosi di altri, in particolare quelli che salvaguardano maggiormente le libertà fondamentali dei cittadini. Dal punto di vista di queste ultime, la terza configurazione è sicuramente quella relativamente migliore.
Che fare, dunque? È urgente identificare quali competenze, regole e istituzioni possono aiutare i cittadini a difendere nell’era dell’intelligenza artificiale la propria libertà quando è minacciata. È opportuno inventare e applicare nuovi diritti, capaci di proteggere l’integrità mentale e cognitiva dei cittadini, come quelli alla protezione dei dati personali, all’oblio o all’accesso a Internet. Inoltre, si tratta di capire come migliorare la qualità della sfera pubblica senza cadere in tentazioni censorie. Ad esempio, è da valutare il costo di un’eccessiva personalizzazione algoritmica dei contenuti, ora nutrita dagli algoritmi di raccomandazione delle piattaforme. Poi si tratta di abilitare la partecipazione dei cittadini anche online e di redistribuire risorse eccessivamente concentrate. Un altro tema bollente, molto presto, riguarderà la gestione delle conseguenze dell’intelligenza artificiale su molte professioni che fino a oggi sembravano sicure, dai traduttori ai programmatori, dai giornalisti, agli operatori finanziari. Come cambierà l’occupabilità di questi lavoratori? E il loro reddito? Bilanciare i benefici e i rischi sarà compito di una politica attenta ai cittadini e sarà possibile soltanto governando il mercato.

Correttivi urgenti
Ma è realistico aspettare che le grandi compagnie rivoluzionino i loro modelli di business? In realtà, non si tratta di rivoluzionare, ma di correggere, inserendo i legittimi interessi aziendali in un quadro più ampio, di benessere generale. Se ci pensiamo bene, qualsiasi tecnologia, per quanto innovativa, utile e potente, ha necessitato nel tempo di correzioni e adattamenti per ridurne i rischi e renderla davvero al servizio della comunità.
Basti pensare all’automobile, una delle innovazioni che più ha cambiato la società nel Novecento: simbolo di libertà di movimento e progresso, l’automobile ha richiesto nel tempo interventi per contrastare effetti collaterali come incidenti, inquinamento, congestione urbana. La cintura di sicurezza, gli airbag, i semafori, la patente di guida, i limiti di velocità e le norme antinquinamento sono correzioni che oggi ci sembrano del tutto normali, persino indispensabili, ma all’inizio non erano affatto scontate. È venuto il tempo di inventare le cinture di sicurezza del digitale.