Il discorso di António Guterres sull’intelligenza artificiale

«L’intelligenza artificiale avanza a una velocità vertiginosa. Una tecnologia in grado di rimodellare le economie, trasformare il mondo del lavoro, influenzare le elezioni e inclinare l’equilibrio della sicurezza viene implementata più velocemente di quanto chiunque, comprese le persone che la costruiscono, possa tenere il passo. È in corso un esperimento sulle nostre stesse società, senza un piano e senza consenso. Questo non è sostenibile. E non è accettabile. L’intelligenza artificiale sta già trasformando il nostro mondo. La domanda è se daremo forma a questa trasformazione insieme o lasceremo che sia lei a plasmare noi».

Comincia così il discorso che António Guterres, segretario generale delle Nazioni Unite, ha pronunciato a Ginevra in apertura della sessione del Dialogo globale sulla governance dell’intelligenza artificiale. Un discorso altissimo, che punta a uscire dalla falsa dicotomia tra la cieca fiducia nell’intelligenza artificiale come panacea e risoluzione dei problemi dell’umanità e il timore altrettanto grossolano che questa ne sarà invece la rovina. E cerca invece di trovare un sempre più difficile equilibrio che renda possibile la coesistenza tra umanità e macchine.

Uno sguardo umanista che ricalca la recente enciclica di Papa Leone XIV, Magnifica Humanitas, che si interroga proprio “Sulla custodia della persona umana nel tempo dell’intelligenza artificiale”. Entrambi i testi, decisivi in questa epoca oscura del tecno-feudalesimo reazionario, puntano infatti alla creazione di una nuova armonia possibile tra sviluppo umano e tecnologico. E chiedono di farlo attraverso una governance in grado di gestire in maniera progressiva lo sviluppo dell’intelligenza artificiale e i compiti cui deve essere sottoposta.

Velocità, potere, verità: le tre sfide della tecnologia

Sono tre le sfide cui ci sottopone oggi la tecnologia, sostiene Guterres. La prima riguarda la velocità. Internet ha impiegato quindici anni per raggiungere un miliardo di persone, mentre all’intelligenza artificiale ne sono bastati due. Oltretutto cambiando per sempre il rapporto tra essere umano e macchina perché, come sottolinea il segretario generale, «questi sistemi non sono più strumenti in attesa di istruzioni: scrivono codici, agiscono online e prendono decisioni con sempre meno supervisione umana. Le nostre istituzioni sono state create per governare macchine che eseguono comandi. Non sono pronte per macchine che decidono. E alcuni limiti, una volta superati, non possono essere rimessi a posto».

La seconda sfida riguarda il potere. Questo a partire dal fatto che sia la potenza di calcolo sia la capacità di estrazione dei dati necessari allo sviluppo dell’intelligenza artificiale «sono concentrati in una manciata di aziende e in una manciata di Paesi». La maggior parte delle nazioni, soprattutto quelle in via di sviluppo, non ha infatti possibilità di intervenire, ma nemmeno voce in capitolo, in questo campo. Per questo Guterres ci va giù durissimo quando dice che «quando gli squilibri di potere sono intrinseci alla tecnologia, la disuguaglianza diventa parte del codice». La terza sfida riguarda la verità. Perché è evidente che una menzogna veicolata da una macchina può persuadere con sempre maggior potere e intensità.

Le quattro raccomandazioni di António Guterres sull’intelligenza artificiale

«Queste sfide sono reali. Ma lo è anche il potenziale», sostiene Guterres. «Perché la stessa tecnologia, sviluppata con uno scopo preciso, sta già cambiando la vita delle persone. Una madre in una clinica rurale riceve la refertazione della sua Tac in pochi minuti e il suo tumore viene diagnosticato in tempo. Un piccolo agricoltore semina seguendo le stesse previsioni delle più grandi aziende agroalimentari e porta a casa il raccolto». Per questo, «se usata bene e ampiamente condivisa, l’intelligenza artificiale potrebbe comprimere decenni di sviluppo in pochi anni. Potrebbe diventare il grande fattore di uguaglianza del ventunesimo secolo. Ma nessun futuro si costruisce da solo».

E siccome «la scelta che ci si presenta non è tra la fiducia nell’IA e la paura di essa, è tra governare con un progetto preciso e lasciarsi trasportare dagli eventi», ecco quattro raccomandazioni. Innanzitutto la sicurezza, perché c’è bisogno di metodologie e parametri di riferimento comuni. Perché «in nessun ambito la sicurezza è più importante che per coloro che sono meno in grado di proteggersi: i nostri figli. Non permettiamo che un farmaco raggiunga un bambino finché non ne è stata dimostrata la sicurezza. Testiamo ogni giocattolo. Eppure l’intelligenza artificiale ha raggiunto i nostri figli – il loro apprendimento, le loro amicizie, le loro domande più intime – prima che qualcuno si chiedesse quali effetti avrebbe avuto su di loro».

Da qui deriva la seconda, ovvero i limiti invalicabili. Perché «i diritti umani non sono negoziabili. L’intelligenza artificiale non deve mai privare i bambini della dignità né radicare la discriminazione». La terza è la capacità. Perché «non possiamo permettere che il divario digitale si trasformi in un divario di sviluppo, un divario di sicurezza e un divario di sovranità», dice infatti Guterres. Mentre la quarta è la trasparenza. Perché «l’intelligenza artificiale può sembrare intangibile, ma il suo impatto ambientale non lo è. I data center consumano già più elettricità della maggior parte dei Paesi. E acqua a sufficienza per soddisfare il fabbisogno di tutti gli 1,3 miliardi di abitanti dell’Africa subsahariana per un intero anno».

«Potremmo essere l’ultima generazione in grado di stabilire le condizioni di coesistenza tra umanità e macchine»

Infine, nelle conclusioni, ecco che il segretario generale dell’Onu si allinea all’enciclica papale sul tema più urgente dei nostri giorni, la guerra. Perché, sostiene António Guterres, finora la discussione verte sempre sull’intelligenza artificiale civile. Ma è evidente che questo confine è già stato superato, e i modelli di calcolo sono impiegati attualmente sui campi di battaglia. «La mia principale preoccupazione riguarda i “sistemi d’arma autonomi letali”», dice infatti Guterres. «Chiamiamoli con il loro nome: Robot assassini. Macchine che selezionano e attaccano il loro bersaglio, togliendo una vita, senza controllo e giudizio umano. Questo è moralmente ripugnante. È politicamente inaccettabile. E deve essere vietato dal diritto internazionale».

Ecco perché, per il responsabile delle Nazioni unite e per quello della Chiesa cattolica, l’innovazione ha bisogno di limiti. «Se l’intelligenza artificiale deve essere potente, deve essere governata. Se si vuole che sia affidabile, chi la sviluppa deve risponderne, se deve essere globale, deve essere equa. E se deve servire il futuro, non deve consumarlo», sostiene Guterres. E in conclusione del suo intervento pronuncia la frase che meglio racchiude il suo pensiero, e che meglio spiega che se non dobbiamo avere terrore dello sviluppo tecnologico dell’intelligenza artificiale, di sicuro dobbiamo governarne in senso progressivo lo sviluppo, l’utilizzo e le limitazioni. Perché «potremmo essere l’ultima generazione in grado di stabilire le condizioni di coesistenza tra umanità e macchine».