L’apocalisse a orologeria dei padroni dell’IA

La grande corsa verso l’IA è fatta di due narrazioni che si intrecciano. Da un lato la crescita esponenziale dei nuovi modelli di frontiera, soprattutto i grandi modelli proprietari di Anthropic e OpenAI. Aumenta la frequenza dei lanci. I modelli sono sempre più potenti, performanti, capaci di svolgere operazioni complesse.

Dall’altro, gli stessi proprietari intervallano i lanci con dichiarazioni allarmistiche sul futuro dell’intelligenza artificiale e sui suoi impatti sull’umanità. È una tendenza che a prima vista sembra surreale. Chi propone un prodotto ne vanta la potenza. Ma avverte anche che, se non usato bene, potrebbe ucciderci tutti.

Anthropic e i «saggi» di Dario Amodei

Eppure il settore dell’IA non era nato con questa prospettiva apocalittica. Anzi, all’inizio regnava un ottimismo immotivato. La prima crepa arriva nel 2018, con la rottura tra Elon Musk e Sam Altman, che avevano insieme fondato OpenAI. Tra i motivi c’è anche un giudizio diverso sui rischi dell’IA e su come utilizzarla. Anche se, in realtà, il cuore della vicenda era molto più prosaicamente il controllo dell’azienda stessa.

Ma chi sin da subito ha scelto una linea di comunicazione diversa da OpenAI è Anthropic di Dario Amodei. Che, tra l’altro, ha la caratteristica di dilettarsi in analisi che lui stesso chiama «saggi» – l’ultimo, We Must Pace the Frontier, pubblicato il 12 settembre. In questi articoli affronta ragionamenti industriali e geopolitici. Sintetizzando il suo pensiero: questi modelli sono potenti, bisogna vigilare, la competizione ha bisogno di regole. Amodei aggiunge però un passaggio più controverso: è importante che gli Stati Uniti e l’Occidente democratici si alleino per vincere la competizione con la Cina. La stessa azienda si è data una “Costituzione d’intenti e di valori” e dichiara pubblicamente gli incidenti provocati dai propri modelli.

È lo stesso Amodei a indicare un aspetto tecnico dietro questa frequenza di annunci e allarmi. Da pochi mesi, sostiene, è cambiato il modo in cui questi modelli vengono addestrati. Dopo il pre-training si passa sempre più spesso a un addestramento tramite agenti IA, con un meccanismo di automiglioramento ricorsivo. In altri termini, i modelli IA generano agenti IA. Questi ne progettano altri più potenti, che a loro volta ne progettano di più potenti ancora. È un ciclo che rende esponenziale sia la crescita delle capacità sia, in parallelo, quella delle dichiarazioni allarmistiche.

L’ultimo allarme prende spunto proprio da questo aspetto tecnico. Cioè il rischio di una competizione in cui si perde il controllo, e non si comprende più cosa si stia sviluppando. Molte trame di film di fantascienza iniziano così, da Terminator a Matrix, con la rivolta delle macchine. È quindi un tema già presente nell’immaginario globale.

Settembre, mese di annunci ed allarmi

Il punto più alto di questa escalation si è consumato nel giro di pochi giorni di settembre. Il 9 settembre arriva la dichiarazione di Jacob Coxon, ex ricercatore prima di OpenAI e poi di Anthropic, che si era appena dimesso. Coxon scrive, in poche parole, che chi sviluppa l’IA crede sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Alcuni giorni dopo, un suo ex collega in Anthropic, Evan Hubinger, quantifica quel timore rispondendogli su X. Le probabilità sono per ora basse, scrive, ma potrebbero superare il 10% entro i prossimi dieci anni, perché l’automiglioramento ricorsivo dei nuovi modelli sta avvenendo più rapidamente del previsto.

Da qui l’appello, il 12 settembre, di Dario Amodei, che avanza una sua proposta per trovare un nuovo passo di sviluppo dell’IA, in risposta alla corsa incontrollata verso il modello più potente. Il piano ha tre passi – valutatori esterni indipendenti, standard comuni tra i laboratori delle democrazie, e un accordo con la Cina – ma è quest’ultimo il più delicato, ed è articolato su quattro livelli di difficoltà crescente. Si va dal divieto di usi pericolosi come la produzione di armi biologiche (non si citano le armi autonome, però), ai test obbligatori pre-rilascio. Si propone un «limite di velocità» sull’automiglioramento ricorsivo, paragonato ai trattati antiproliferazione degli armamenti nucleari, fino a una pausa completa dello sviluppo. Un’ipotesi che lo stesso Amodei giudica improbabile nel breve periodo.

Non è il primo appello di questo tipo che Amodei pubblica. La novità è che i tre grandi esponenti dell’IA statunitense – Amodei, Altman e Musk – si sono dati ragione a vicenda nel giro di poche ore (Musk, su X: «Dario ha ragione»). Una convergenza singolare per tre personaggi più abituati a litigare pubblicamente che a darsi manforte. E che, ad una prima lettura, potrebbe sembrare positiva. Ma va guardata più in profondità, perché dietro ci sono diversi aspetti, dal micro al macro, che riguardano il marketing delle aziende, le bolle e la competizione geopolitica.

Comprereste da Anthropic un’auto usata?

Qual è l’azienda che sta conducendo la sua principale ricerca di fondi per quotarsi in borsa? La stessa Anthropic, con una valutazione che potrebbe superare i 2mila miliardi di dollari alla quotazione autunnale. Sarebbe la più grande Ipo della storia, superando per dimensione anche quella di SpaceX. Il conglomerato di Elon Musk, fuso con xAI, è anche il partner con cui Anthropic ha già iniziato a collaborare nei mesi scorsi, non a caso. La scelta di trasparenza, dichiarare anche quanto i modelli falliscono e quanto sono pericolosi, è o non è una grande strategia di marketing, che restituisce all’opinione pubblica l’immagine di un’azienda responsabile e quindi più attraente per gli investimenti?

Di questo marketing dell’apocalisse hanno parlato in molti, sia in Italia sia negli Stati Uniti. È una mossa che procede di pari passo con la scelta pubblica di Anthropic di presentarsi come l’azienda responsabile, solida. Messaggi di questo tipo possono avere un effetto attrattivo sugli investimenti, tanto più rafforzato dal dialogo aperto con la Santa Sede in occasione della presentazione dell’enciclica di Leone XIV sull’intelligenza artificiale.

La bolla che rischia di esplodere

Anthropic vive una fase di grande crescita. I suoi modelli Claude sono pensati e strutturati per l’uso professionale, con strumenti che si integrano sempre di più nei processi aziendali a ogni livello. Ma l’azienda sa che la sua quotazione avviene in una fase piuttosto delicata del settore dell’IA. Più che rallentare davvero la corsa dell’intelligenza artificiale, siamo nella fase in cui qualche bolla rischia di esplodere. Non è un caso che, lo stesso 12 settembre, Sam Altman abbia annunciato il rinvio della quotazione di OpenAI, dichiarando esplicitamente che il motivo non è il mercato, ma la sicurezza: prima di andare in Borsa, dice, c’è «molto da fare» su allineamento e coordinamento tra industria e governi.

Esiste quindi sì un tema di competizione di Anthropic nei confronti degli altri modelli e degli altri player. Ma esiste anche un tema di sostenibilità della crescita finanziaria della corsa all’intelligenza artificiale. Detto in altri termini, bisogna riprendere fiato, ma mettersi d’accordo per rallentare tutti insieme.

Chi è in vantaggio può decidere le regole?

La richiesta di costruire un sistema di regole e standard condivisi, se proviene da uno dei player principali, non è una richiesta neutra. Dichiarare adesso che servono regole rischia di attivare i fenomeni di cosiddetta cattura del regolatore, accanto alla costruzione di meccanismi di oligopolio rispetto a quanto accaduto finora. I grandi modelli proprietari, Claude, ChatGPT, Grok e gli altri, hanno potuto crescere e proliferare nel vuoto normativo.

Lo ricorda Serena Mazzini nella sua newsletter: Amodei è tra i responsabili di «Project Panama». Un piano con cui Anthropic ha comprato tra 500mila e due milioni di libri usati, distruggendone la rilegatura per scansionarli e alimentare il proprio modello. Una procedura che ha sfruttato ogni margine lasciato aperto dalla legge sul diritto d’autore, e che un giudice ha poi definito formalmente corretta. Meno lo sono stati invece i sette milioni di libri scaricati da repository piratate e usati per l’addestramento dei modelli. A titolo di risarcimento agli autori, l’azienda ha pagato 1,5 miliardi di dollari. Ben poco, rispetto al fatturato che genera mensilmente Anthropic.

Mistral e il ritardo europeo

La cattura del regolatore, qui, è anche selezione dei concorrenti ammessi al tavolo. Chi ha già varcato la frontiera chiede regole, ma non per sé, per chi sta ancora provando a recuperare terreno. Si pensi a un modello europeo come la francese Mistral, che ha appena chiuso un round da 3 miliardi di euro guidato da Samsung, con una valutazione di oltre 21 miliardi di euro.

Un’azienda che si muove però in un quadro normativo diverso da quello americano: più rigido, definito più per la tutela del mercato comune che per la crescita di un ecosistema industriale europeo capace di competere con gli altri attori, per dimensioni e capacità di innovazione, almeno finora (il piano Ue sui data center prova a colmare proprio questo divario infrastrutturale).

La sfida dei modelli cinesi

Lo stesso vale, con una dinamica diversa, per i modelli cinesi. La competizione con gli Stati Uniti sull’intelligenza artificiale ha vissuto due stagioni. La prima è stata tesa a dimostrare la loro capacità di essere più performanti nella programmazione rispetto ai rivali statunitensi, anche senza il supporto delle Gpu Nvidia di ultima generazione, che non possono essere esportate in Cina. Il risultato più clamoroso di questa linea è stato DeepSeek, il modello che lo scorso anno ha pareggiato e battuto in molti test i rivali statunitensi.

La seconda stagione riguarda proprio la natura dei modelli: non ambienti proprietari chiusi, ma sistemi open-weight. In altri termini, non è a disposizione il codice con cui sono costruiti, come nei modelli open-source, ma c’è la possibilità di calibrare a proprio piacimento i “pesi” dei milioni di parametri con cui girano i sistemi di intelligenza artificiale, con la possibilità di renderli più adattabili, utilizzabili anche su server locali, e fruibili con maggiori personalizzazioni. Una scelta che, unita al costo minore di consumo dei token, ha riscosso molto successo soprattutto tra le start-up e le piccole aziende tech di tutto il mondo.

Il think tank americano Atlantic Council e il centro studi Cepa hanno avvertito che vietare o regolamentare l’accesso ai modelli cinesi rischia di indebolire, più che rafforzare, la concorrenza americana, perché sono proprio loro i maggiori beneficiari dell’accesso ai sistemi open-weight. A conferma di ciò, il 22 luglio Y Combinator e altre aziende – quasi 200 in tutto – hanno scritto in questo senso all’amministrazione Trump.

Predominio occidentale e reazione cinese

A conferma del fatto che si cerchi di cristallizzare la propria posizione di vantaggio anche dal punto di vista geopolitico c’è un altro aspetto. A luglio di quest’anno è stata depositata al Congresso una proposta di legge – il Collaboration on Adversarial Threats and Security Risks Act – che punta a facilitare la condivisione di informazioni e il coordinamento tra i grandi sviluppatori di IA contro le minacce alla sicurezza, comprese le attività di distillazione e gli attacchi da parte di soggetti stranieri.

Il testo prevede un’esenzione antitrust limitata proprio per questo scopo, ma contiene anche esplicite protezioni contro i comportamenti anticoncorrenziali. Non è un dettaglio da poco che, in We Must Pace the Frontier, Amodei circoscriva il coordinamento di settore ai soli Paesi «democratici»: la collaborazione a cui pensa esclude esplicitamente le aziende cinesi, e include solo quelle europee, giapponesi e sudcoreane.

La prima reazione ufficiale cinese all’appello di Amodei non si è fatta attendere: il 14 settembre il ministero degli Esteri l’ha respinta come «allarmismo, confronto e concorrenza malevola»; il Global Times, media di Stato, ha parlato apertamente di un copione da guerra fredda ammantato da sicurezza. Pechino aveva già risposto nei giorni precedenti, quando Xi Jinping, al summit dei Brics di New Delhi, aveva annunciato l’avvio di una zona per un’intelligenza artificiale «aperta e inclusiva» dedicata agli undici Paesi del blocco, spostando la sfida non solo tra Stati Uniti e Cina, ma tra Occidente e Sud globale. Attorno a questo scontro si dimostra ancora una volta come il tema dell’intelligenza artificiale non sia solo economico e finanziario, ma anzitutto geopolitico.

I regolatori dell’IA restano gli stessi proprietari

Amodei, nel suo appello, dice che potrà far valutare i propri modelli ad alcuni ricercatori indipendenti: non entità statuali. È un po’ poco. Altra cosa è chi definisce gli standard: questi sono definiti dagli stessi proprietari, che si mettono d’accordo tra loro con accordi privati. E il risultato assomiglia più a un cartello che a una regolamentazione.

È abbastanza evidente che i fenomeni di autoregolamentazione tra attori escludono i ruoli degli Stati e delle entità sovranazionali, nella continua privatizzazione della regola. Sarebbe invece necessario costruire istituzioni internazionali capaci di fare da regolatori globali. Il segretario generale dell’Onu António Guterres ha proposto un’agenzia sul modello dell’Agenzia atomica, senza successo.

In altri tempi si sarebbe ragionato sulle condizioni per costruire una Cop per l’intelligenza artificiale, con standard e obiettivi vincolanti: una strada assai difficile ora, soprattutto di fronte all’attacco all’Onu e alle agenzie internazionali da parte di Trump. L’alternativa è che, per ora, ognuno continui a provare ad autoregolamentarsi, nazionalizzando la propria apocalisse, mentre si massimizzano i profitti.

L’apocalisse nasconde gli impatti reali dell’IA su lavoro, ambiente e diritti

C’è un ultimo tema. Normalizzare l’apocalisse è anche uno strumento che migliora l’accettabilità sociale di aspetti altrimenti inaccettabili. Si sposta l’attenzione da quello che l’IA sta già facendo, concentrandola su quello che potrebbe fare. Probabilmente l’IA non ci ucciderà tutti nel giro di dieci anni, ma è probabile che, spostando la discussione sul lungo periodo, si finisca per non affrontare gli impatti reali su lavoro, ambiente, energia, vita quotidiana. E insieme agli impatti, le responsabilità reali e attuali delle imprese che oggi stanno definendo lo sviluppo industriale. Lo stesso Amodei ha previsto, in interviste diverse, che l’IA possa cancellare fino a metà dei posti di lavoro impiegatizi entry-level nei prossimi anni.

C’è una responsabilità sociale e politica attuale nel modo in cui l’IA è già entrata nelle vite delle persone e di come le stia cambiando radicalmente: nella produttività, nell’organizzazione del lavoro, nella sostenibilità dei modelli. Questa responsabilità non riguarda già oggi chi progetta, diffonde e arma l’intelligenza artificiale? Ed è proprio quello che sosteneva il Papa nella sua enciclica: disarmare l’intelligenza artificiale, renderla abitabile e utile all’uomo.