Le aziende corrono sull’intelligenza artificiale, ma non la sanno governare

Nelle grandi aziende tech, l’uso smodato dell’intelligenza artificiale è diventato uno status symbol. Il New York Times riferisce che i generosi budget di token (le unità base dell’uso dell’AI) sono considerati alla stregua di benefit aziendali e tra i dipendenti si crea una sorta di competizione per chi ne consuma di più.

Ma un conto è introdurre l’intelligenza artificiale, un conto è saperla governare. Uno studio di Thomson Reuters Foundation e Unesco ha preso in esame quasi 3mila aziende, scoprendo che meno della metà (il 43,7%) comunica pubblicamente l’adozione di una strategia sull’intelligenza artificiale. Sono ancora meno (il 13%) quelle che aderiscono a un quadro di governance riconosciuto a livello internazionale.

Le aziende non sempre valutano i possibili impatti dell’intelligenza artificiale

Per buona parte dell’ultimo decennio, quando si affrontava la governance delle tecnologie ci si basava soprattutto su principi etici generali. Quando si ha a che fare con l’intelligenza artificiale, spiega la Thomson Reuters Foundation, serve qualcosa di molto più completo: servono solidi meccanismi di implementazione e accountability. Tradotto: non basta dire cosa è giusto fare, bisogna dimostrare come lo si fa e chi ne risponde.

Quando l’intelligenza artificiale genera un impatto negativo, le autorità e la società civile non lo liquidano più come un errore tecnico o un effetto collaterale non voluto. Lo dimostrano gli scandali legati – per esempio – agli algoritmi di selezione del personale rivelatisi discriminatori o ai sistemi di riconoscimento facciale usati ai fini di sorveglianza. Considerato che in gioco ci sono possibili violazioni dei diritti umani, le aziende devono saper dimostrare di aver identificato i rischi, adottato misure reali per prevenire i danni e di poter intervenire per ripararli.

Ad oggi, pochissime si muovono in questa direzione. Il 72% delle aziende, si legge nel rapporto, non conduce alcuna valutazione d’impatto sull’intelligenza artificiale. Tra quelle che lo fanno, il 18% si concentra sulla gestione dei dati personali e il 14,5% sulle possibili violazioni della privacy. Pochissime analizzano l’impatto ambientale (11%) e ancora meno quello sui diritti umani (7%).

Pochissime aziende garantiscono la supervisione umana dell’intelligenza artificiale

Quando si nominano le responsabilità, si presuppone che siano umane. Ma nel nostro presente nemmeno questo è un dato che possiamo dare per scontato. Sulle quasi 3mila aziende esaminate, circa una su quattro fa sapere che i vertici – a livello di consiglio di amministrazione o comitati interni – hanno il compito di indirizzare e presidiare le scelte legate all’intelligenza artificiale.

Quando però si scende nella pratica, si scopre che appena il 12,4% ha una policy che garantisce la supervisione umana dei sistemi di intelligenza artificiale. Le valutazioni d’impatto e la supervisione umana sono due facce della stessa medaglia: le prime individuano l’origine dei possibili rischi, la seconda stabilisce chi deve intervenire, quando e con quali strumenti. Siamo ancora molto lontani da questo risultato, visto che solo una azienda su sei o sette sa qual è la persona responsabile dei rischi etici legati all’AI.

«Il dato è preoccupante, ma non sorprendente», commenta a Valori Diletta Huyskes, ricercatrice e co-fondatrice del laboratorio di consulenza Immanence, che si occupa di etica, cultura, design e impatto sociale delle tecnologie e dell’intelligenza artificiale. «Nella nostra pratica quotidiana vediamo molto chiaramente come la governance dell’intelligenza artificiale sia ancora profondamente sottovalutata all’interno delle organizzazioni. Questo dipende anche da fattori culturali e varia molto da Paese a Paese, ma resta diffusa l’idea che l’innovazione tecnologica – e l’IA in particolare – sia qualcosa di neutrale, quasi autonomo, una sorta di “polvere magica” che una volta introdotta funziona da sola e non richiede ulteriori responsabilità o strutture di controllo. In realtà, non c’è niente di più sbagliato».

«I rischi di un’intelligenza artificiale non governata sono già ben visibili»

«I rischi di un’IA non governata sono già ben visibili», continua Huyskes, autrice di “Tecnologia della rivoluzione. Progresso e battaglie sociali dal microonde all’intelligenza artificiale” (Il Saggiatore). «Parliamo di decisioni opache e difficili da contestare, soprattutto in ambiti sensibili, come la selezione del personale o l’accesso a servizi e benefici. A questo si aggiunge il rischio di automation bias: la tendenza ad affidarsi alle decisioni delle macchine anche quando sarebbero da mettere in discussione, con il risultato che errori o distorsioni nei sistemi vengono accettati e amplificati».

«Quando poi non è chiaro chi sia responsabile all’interno delle aziende, si crea un vero e proprio vuoto di responsabilità», conclude. «È una situazione che osserviamo spesso. Mancano figure chiaramente incaricate di monitorare e manutenere lungo il ciclo di vita dei sistemi, oppure non vengono coinvolte le persone che dovrebbero esserlo. Ne derivano paradossi organizzativi in cui l’IA viene adottata rapidamente, ma senza adeguati processi di supervisione, valutazione e accountability».

I principi per l’uso responsabile dell’AI esistono, ma poche aziende li adottano

E dire che, di per sé, le regole esistono. L’Unione europea nel 2024 ha adottato l’AI Act, salvo poi decidere di semplificarlo attraverso uno dei tanti pacchetti Omnibus. Nonostante manchi una legge federale, negli Stati Uniti esistono iniziative interessanti adottate da Stati come il Colorado e la California. La Cina ha introdotto regole più specifiche legate a deepfake, algoritmi di raccomandazione e sistemi di intelligenza artificiale generativa.

Se le normative vere e proprie sono spesso parziali, a dare una visione d’insieme provvedono gli standard internazionali non vincolanti sulla governance dell’AI. Come le raccomandazioni dell’Unesco (adottate per consenso da 193 Stati), gli AI Principles condivisi da 47 Paesi dell’Organizzazione per la cooperazione e lo sviluppo economico (Ocse), il Global Digital Compact delle Nazioni Unite.

Il problema è che questi riferimenti restano spesso scollegati dalla realtà quotidiana delle imprese. Il report calcola che meno di un terzo delle aziende (28,7%) sia in linea con un quadro di governance dell’intelligenza artificiale. Soprattutto tra i grandi colossi e nei settori più esposti, come finanza e IT. Il divario emerge in modo ancora più forte se si guarda alle strategie e linee guida sull’AI comunicate pubblicamente. Il 43,7% afferma di averne una, ma solo il 13% dichiara di aderire a uno standard riconosciuto. Ciò significa che, anche quando esistono, le strategie non sono in automatico una garanzia. Perché, si legge nel report, è lecito supporre che molte di esse siano «orientate principalmente ad accelerare l’adozione e a generare valore, piuttosto che a definire solidi impegni di governance».