Disarmare l’intelligenza artificiale. La sfida di Leone XIV

Il 15 maggio 1891 Leone XIII firmò la Rerum Novarum, l’enciclica che per la prima volta metteva la questione operaia al centro della riflessione della Chiesa. Esattamente 135 anni dopo, lo stesso giorno, Leone XIV firma la Magnifica Humanitas, la prima enciclica della storia ad affrontare il tema della rivoluzione digitale. Una scelta simbolica di continuità, anticipata già dal nome scelto da Robert Francis Prevost, una volta eletto al soglio pontificio.

Lo fa forte anche di una biografia personale: Prevost ha studiato matematica, conosce i bias, i meccanismi statistici e probabilistici su cui sono costruite le intelligenze artificiali. Il risultato è un’enciclica di grande respiro, che opera un tentativo di sistematizzare la custodia della dignità umana nel tempo dell’IA, affrontando in modo integrale tutto ciò che l’intelligenza artificiale tocca: il lavoro, il potere cognitivo, la geopolitica, la finanza, i dati, la guerra e il rapporto con la verità.

L’IA non è solo uno strumento, è un ecosistema

Come scrive Antonio Spadaro, sotto-segretario del Dicastero per la cultura e l’educazione, l’IA non va intesa come qualcosa che si usa, ma come qualcosa in cui si abita. Un ambiente mentale, culturale. Che modella le relazioni, gli spazi, il tempo, lo stesso rapporto con la verità e i fatti.

Ogni tecnologia «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa». Per questo l’enciclica ha l’obiettivo di aiutare a «discernere il nuovo scenario: la dignità inalienabile della persona, il bene comune, la destinazione universale dei beni, la sussidiarietà, la solidarietà e la giustizia sociale. Essi chiedono di verificare se il potere delle infrastrutture digitali e degli algoritmi favorisca davvero partecipazione e responsabilità, protegga i più fragili, assicuri un accesso equo alle opportunità e resti ordinato al bene di tutti »

Dati, monopoli e colonialismo digitale

È proprio dal principio della destinazione universale dei beni che muove una delle innovazioni più significative: estendere i “beni comuni” ai dati. Brevetti, algoritmi, piattaforme digitali, infrastrutture tecnologiche: «quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio che contraddice la destinazione universale dei beni e alimenta il divario tra inclusi ed esclusi». La proprietà dei dati «non può essere affidata solo a privati, ma va regolamentata. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi».

Il colonialismo digitale viene identificato come la nuova forma di estrazione: il colonialismo «ai nostri giorni mostra un volto inedito. Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili».

I dati sanitari, i profili epidemiologici, le mappe genetiche sono definite come le nuove terre rare del potere. «Informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta». Dietro questa dinamica c’è una trasformazione strutturale del potere: «Un tempo erano soprattutto gli Stati a guidare e indirizzare l’innovazione. Oggi, invece, i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi. […] In un mondo dove pochi soggetti concentrano dati, capitale computazionale e capacità normativa, parlare di bene comune significa smascherare questa nuova asimmetria epistemica, economica e politica, nominando i nuovi monopoli dell’Ia».

Lavoro invisibile e costi ambientali dell’IA

Monopoli che operano su una serie di infrastrutture fisiche e con nuove forme di sfruttamento. Uno dei passaggi più duri della Magnifica Humanitas riguarda infatti il lavoro invisibile su cui si regge l’IA. L’enciclica rende visibile la filiera di chi etichetta dati, modera contenuti, addestra modelli.

Se nella rivoluzione industriale l’uomo era un ingranaggio nella catena di montaggio, oggi è un dato, misurato per efficienza e performance. L’enciclica sottolinea come «l’IA promette di dare impulso alla produttività facendosi carico delle mansioni ordinarie», ma «i lavoratori sono spesso costretti ad adattarsi alla velocità e alle richieste delle macchine, anziché essere queste ultime progettate per aiutare chi lavora». Il risultato è che «gli attuali approcci alla tecnologia possono paradossalmente dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive». A questo si sommano i costi ambientali nascosti. La corsa smodata allo sviluppo dell’IA comporta consumi energetici e pressioni sulle risorse che raramente entrano nel calcolo dei benefici promessi.

Finanza, Pil e i limiti del mercato

C’è un passaggio dell’enciclica che riguarda direttamente la finanza e il suo ruolo nella corsa all’intelligenza artificiale. «La rendita da capitale rischia di sostituirsi al reddito da lavoro, spesso confinato ai margini dei principali interessi del sistema economico». Il funzionamento della finanza, quando «è stato slegato da adeguati fondamenti antropologici e morali, non solo ha prodotto palesi abusi e ingiustizie, ma si è anche rivelato capace di creare crisi sistemiche e di portata mondiale». Il pontefice traccia quindi una linea di demarcazione: «La finanza per la finanza è cosa ben diversa dalla finanza per lo sviluppo e per la creazione e l’evoluzione del lavoro».

Anche gli strumenti con cui misuriamo il progresso sono da rivedere. Da oltre ottant’anni il Pil è l’indicatore di riferimento delle politiche economiche. Eppure tralascia quasi sistematicamente la dignità del lavoro, la prosperità condivisa, la riduzione delle disuguaglianze, la salvaguardia dell’ambiente. La ricchezza mondiale è cresciuta in termini assoluti, ma si è accentuata la concentrazione: «Pochi hanno troppo e troppi hanno poco, questa è la logica di oggi». Pensare che le nuove tecnologie porteranno automaticamente beneficio a tutti, avverte l’enciclica, «significa ignorare un’evidenza».

La redistribuzione è necessaria, ma non sufficiente. Soprattutto, «nell’epoca dell’IA e della robotica non è più possibile affidarsi alla sola “mano invisibile” del mercato». La giustizia non è un tema separato e successivo alla produzione di ricchezza, «riguarda tutte le fasi dell’attività economica, dal reperimento delle risorse al finanziamento, dalla produzione al consumo, e ogni scelta ha conseguenze morali».

La politica ha il compito di orientare le dinamiche economico-tecnologiche verso il bene comune. E quando le decisioni superano i confini degli Stati serve una cooperazione internazionale capace di definire strategie comuni.

IA, guerra e crisi del multilateralismo

Leone XIV affronta la fusione tra tecnica e volontà di dominio, nell’ambito geopolitico: il rischio che l’intelligenza artificiale diventi il prolungamento tecnologico di una logica di potenza senza limiti. Il punto di massima tensione riguarda la guerra e la sua normalizzazione. «Non esiste algoritmo che possa rendere la guerra moralmente accettabile. L’IA non sottrae il conflitto alla sua intrinseca disumanità: può soltanto renderlo più rapido e impersonale, abbassando la soglia del ricorso alla violenza e trasformando la difesa in previsione operativa, con le vittime ridotte a dati».

Per il pontefice, le decisioni letali richiedono ancora un controllo umano effettivo. «La scelta di impiegare la forza non può essere delegata a processi opachi o automatizzati, ma deve restare sotto un controllo umano effettivo, consapevole e responsabile».

La crisi del multilateralismo è il contesto in cui tutto questo si inserisce. L’enciclica richiama la necessità di rilanciare il diritto internazionale e le istituzioni sovranazionali come presidio contro la logica del dominio. La risposta alla fusione tra tecnica e potenza non è il ripiegamento su sé stessi: è il rilancio coraggioso della cooperazione, del dialogo, di un vero realismo.

Disarmare l’IA: oltre la regolamentazione

«Disarmare» è la parola programmatica del pontificato di Leone XIV. E disarmare l’IA «significa sottrarla alla logica della competizione armata, che oggi non è più solo militare, ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare». Significa costruire condizioni in cui la tecnologia possa essere studiata, contestata, corretta. Significa che nessuno – nessuna impresa, nessuno Stato, nessun laboratorio – possa appropriarsi di uno strumento così pervasivo senza renderne conto.

Disarmare però non significa rinunciare alla tecnologia, piuttosto «impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale».

Governance dell’IA: la responsabilità della politica

C’è un filo che attraversa tutta la Magnifica Humanitas: la questione della responsabilità politica. «L’uso dell’IA non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà». Il rischio specifico è quello di «affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane». Ciò che viene meno, in questo processo, «non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica. Perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare».

L’enciclica chiede ai governi e alle istituzioni «una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi». Una politica che «non abdichi al proprio compito», determinante oggi più che mai. L’alternativa all’abdicazione è descritta nella conclusione del documento: non essere «semplici commentatori delle rovine, ma donne e uomini che entrano nei cantieri della storia», in laboratori di ricerca, imprese tecnologiche, scuole, media, istituzioni, comunità locali.

Una sfida che è allo stesso tempo individuale e collettiva. Papa Leone XIV per esprimere questa necessità d’azione cita John Ronald Reuel Tolkien: «Non tocca a noi dominare tutte le maree del mondo. Il nostro compito è di fare il possibile per la salvezza degli anni nei quali viviamo, sradicando il male dai campi che conosciamo, al fine di lasciare a coloro che verranno dopo terra sana e pulita da coltivare».