Scritto da Giulio Pignatti
19 minuti di lettura
L’intelligenza artificiale è sempre più al centro del dibattito pubblico, ma anche delle dinamiche di potere e dei rapporti tra le grandi potenze mondiali. Dai modelli di business delle piattaforme digitali alla regolamentazione internazionale, fino al ruolo dell’IA nella governance e nei processi democratici, la questione dello sviluppo e del controllo dell’intelligenza artificiale non appare più come meramente tecnologica ma anche profondamente politica. Quali rischi e quali opportunità emergono da questa trasformazione? Per comprendere le implicazioni dell’IA nel tessuto sociale, economico e normativo abbiamo intervistato Francesca Lagioia, professoressa associata al Dipartimento di Scienze Giuridiche dell’Università di Bologna e docente all’Istituto Universitario Europeo di Firenze. Lagioia si occupa di informatica giuridica, del rapporto tra diritto, democrazia e intelligenza artificiale e di etica dell’IA. Ha pubblicato L’intelligenza artificiale in sanità: un’analisi giuridica (Giappichelli).
In quali condizioni l’intelligenza artificiale può arrivare, secondo lei, a rappresentare una minaccia per la democrazia?
Francesca Lagioia: Ho l’impressione che, quando si parla di intelligenza artificiale, il discorso pubblico sia sempre più dicotomico, costretto in una narrazione tra utopia e distopia, entusiasmo e catastrofismo. E questo riguarda anche il suo rapporto con la democrazia. Qui, i principali rischi sono legati a fenomeni come la sorveglianza comportamentale, la manipolazione dell’opinione pubblica, la disinformazione su larga scala, il targeting politico e la censura di contenuti per il controllo sociale. Pensiamo a quanto accaduto nel 2024, durante la campagna elettorale per le primarie del Partito Democratico, che, ancora una volta dopo lo scandalo di Cambridge Analytica, ha colpito il sistema elettorale americano. Mi riferisco al deepfake audio, diffuso con una serie di chiamate automatiche, in cui l’allora presidente Joe Biden invitava gli elettori del New Hampshire a non votare, così da ridurre l’affluenza alle urne. Dopo una serie di indagini dell’FBI e delle autorità statali, la Federal Communications Commission ha imposto una sanzione di sei milioni di dollari a Steve Kramer, consulente politico democratico, e un milione a Lingo Telecom per la loro trasmissione. Nell’ultimo decennio, l’intelligenza artificiale ha giocato un ruolo chiave e, tuttavia, non è la causa primaria di ciò a cui stiamo assistendo. La visione sempre più deterministica di queste tecnologie rischia di fuorviare la nostra percezione della realtà e di colonizzare il nostro immaginario. Mi riferisco all’idea secondo cui sarebbe la natura stessa dell’IA a determinare il futuro delle nostre democrazie, lo sviluppo sociale e i valori su cui poggiano le nostre società. Un percorso ineluttabile contro cui nulla possiamo. Non condivido questa prospettiva riduzionista: ogni tecnologia è il risultato di una certa visione del mondo. È figlia dei processi sociali, culturali, economici e politici, e dunque delle civiltà e delle epoche in cui è progettata, sviluppata e utilizzata. Forse, allora, dovremmo volgere lo sguardo più in là. Se interrogati, questi processi saranno in grado di svelarci le cause profonde di ciò che minaccia il nostro futuro. Prendiamo, per esempio, le piattaforme social e i modelli di business che le sostengono. Queste hanno due tipi di clienti: gli utenti, a cui i servizi vengono offerti “gratuitamente” in cambio dei propri dati, e gli inserzionisti – attori pubblici o privati – con cui concludono transazioni economiche, il cui prodotto è ciò che diventeremo, che aspetto avremo, il modo in cui invecchieremo, quali saranno le nostre scelte e i nostri comportamenti futuri. I profitti pubblicitari inducono le piattaforme a catturare la nostra attenzione, veicolando messaggi persuasivi e personalizzati verso chi di noi può esserne più influenzato. Questo porta alla polarizzazione delle opinioni e alla frammentazione del dialogo pubblico, oltre che alla proliferazione di fake news, contenuti sensazionalistici e forme di incitamento all’odio e alla violenza. Se l’attenzione degli utenti diventa una forma di valuta capace di generare enormi profitti, cosa accade se gli interessi economici delle grandi imprese o quelli politici di coloro che le usano come casse di risonanza, non sono allineati ai principi democratici? Questo modello di business favorisce un’enorme concentrazione di potere e ricchezza nelle mani di pochissime compagnie private, per lo più americane, come dimostrato dal ruolo geopolitico chiave dei social media nei processi sociali, politici e democratici degli ultimi decenni. Dalle campagne elettorali fino alla guerra in Siria, agli attacchi religiosi in Sri Lanka, ai conflitti in Asia e Africa centrale. L’IA ha due anime, una economico-tecnologica, che sempre più diventa anche politica, e l’altra scientifico-tecnologica. Oggi la prima è prevalente. Guardiamo ai dati sui finanziamenti in ricerca e sviluppo dell’IA degli ultimi due anni. Le agenzie governative americane hanno investito circa 1,5 miliardi di dollari l’anno – esclusi dipartimenti come quello della Difesa –, la Commissione Europea circa 1 miliardo di euro. La differenza è pressoché minima. Se però guardiamo all’industria privata, le cose vanno diversamente. Parliamo di 340 miliardi di dollari. Secondo un rapporto dell’Università di Standford, nel 2023 gli Stati Uniti hanno raccolto 62,5 miliardi di investimenti privati, contro i 9 di Europa e Regno Unito insieme. Ora, è evidente come questa spesa dia all’industria privata la possibilità di esercitare una presa soffocante su aspetti chiave per lo sviluppo tecnologico: la disponibilità di dati, la capacità di calcolo e di attrarre talenti, l’innovazione. Così, la ricerca e lo sviluppo non possono che essere guidate da un imperativo economico e dalla massimizzazione del profitto. Il risultato è, spesso, un disallineamento tra interessi collettivi e privati. Dovremmo investire e sviluppare molte più tecnologie per questioni cruciali, come la riduzione delle emissioni di CO₂ o legate all’invecchiamento della popolazione, e quindi alla sanità e alla cura, o ancora alla giustizia sociale.
L’economia dei dati si basa su un processo continuo di raccolta e di analisi delle informazioni degli utenti da parte delle piattaforme digitali. In quale direzione si sviluppano le tecniche di profilazione che stanno alla base di questi processi di estrazione di dati?
Francesca Lagioia: I dati raccolti quando facciamo una ricerca su Google, pubblichiamo video e immagini sui social, acquistiamo beni e servizi o ascoltiamo un brano musicale permettono all’intelligenza artificiale di creare profili dettagliati sulle nostre abitudini e sui nostri interessi, tratti psicologici, opinioni politiche e morali. Gli algoritmi usano queste informazioni per scoprire correlazioni tra i dati, così da classificarci, valutarci e prevedere i nostri comportamenti futuri. Le correlazioni possono riguardare anche la nostra propensione a reagire in un certo modo ad una notizia o ad un’immagine. È quanto accaduto durante le presidenziali americane del 2016. Cambridge Analytica invitò gli elettori a fare un test di personalità online, per identificarne il profilo psicologico – un test simile a quelli che facciamo per scoprire a quale personaggio storico somigliamo. Parteciparono circa 320.000 persone, a cui fu chiesto di dare accesso al proprio profilo Facebook in cambio di una piccola somma di denaro. La società di consulenza britannica raccolse informazioni, come like, condivisioni e altri indicatori, di tutti coloro che avevano fatto il test e dei loro contatti. Ebbe così accesso a due insiemi di dati: i profili psicologico-politici dei partecipanti al quiz, correlati alle loro informazioni Facebook, e i dati social dei loro amici. Grazie alle tecniche di profilazione, inferì anche i tratti della personalità di chi non aveva fatto il test – complessivamente, tra i 30 e i 50 milioni di persone. Se, per esempio, i partecipanti che avevano in comune il tipo di like o le condivisioni erano stati classificati come personalità nevrotiche, la stessa valutazione veniva estesa a chi non aveva partecipato al questionario e tuttavia aveva caratteristiche simili ai primi. Ciò permise di individuare gli indecisi, coloro che avrebbero potuto cambiare il proprio voto se opportunamente sollecitati, sottoponendoli a comunicazioni mirate per innescare il comportamento desiderato. Hegel credeva che ciò che l’esperienza e la storia insegnano è che «uomini e governi non hanno mai imparato nulla dalla storia, né mai agito in base a principi da essa dedotti». Questo ammonimento del filosofo tedesco è una sfida per chiunque si occupi del rapporto tra intelligenza artificiale e democrazia. Pensiamo a Pegasus, il software di spionaggio sviluppato dalla società di cyber-intelligence israeliana NSO, di proprietà di un fondo di investimenti londinese, il cui fine dichiarato era la lotta al terrorismo e al crimine. A tre anni da una serie di inchieste da parte del Citizen Lab dell’Università di Toronto e di Amnesty International, nel 2021, la commissione PEGA ha rivelato che 60 agenzie governative in 45 Stati, di cui 14 europei, hanno usato il sistema di spyware per sorvegliare e prendere di mira esponenti dell’opposizione, giornalisti, imprenditori, diplomatici e funzionari pubblici, avvocati e attivisti per i diritti civili, per finalità politiche e criminali, portando alla violazione di diritti umani e civili, e a interferenze con i processi democratici. Tra i casi più noti, il tragico episodio che ha visto la scomparsa del giornalista saudita Jamal Khashoggi nel 2018: l’inchiesta del Citizen Lab ha rivelato l’uso di Pegasus per monitorare i contatti e gli spostamenti del giornalista nei giorni precedenti il suo assassinio nel consolato saudita di Istanbul. O ancora c’è il caso della Spagna, dove il Catalangate ha dimostrato l’uso del software da parte delle autorità, per spiare oltre sessanta esponenti del movimento indipendentista catalano. Oggi le forme di spionaggio e profilazione sono sempre più sofisticate, pervasive e silenziose. L’intelligenza artificiale generativa, per esempio, raccoglie molti dati su stati d’animo, vulnerabilità e interessi, grazie all’analisi di conversazioni e richieste apparentemente innocue. I motori di ricerca hanno già integrato i modelli linguistici come GPT; i prossimi saranno i social. Questo permetterà un’iper-profilazione, con effetti non solo sulla segmentazione degli utenti, ma anche per la veicolazione di contenuti micro-mirati. Se prima avevamo grandi cluster, che suddividevano gli utenti in base a macro-categorie come l’appartenenza religiosa – per esempio “credente” o “non credente” –, l’IA generativa creerà etichette basate su combinazioni uniche di caratteristiche comportamentali, linguistiche ed emotive. Potremmo avere, per esempio, i “tradizionalisti devoti”, che seguono rigorosamente precetti religiosi e pratiche rituali, o i “razionalisti mistici”, affascinati dalla spiritualità ma con un approccio analitico e scientifico. E ancora, gli “umanisti secolari” che credono in una serie di valori etici senza riferimento a un credo specifico, o i “pragmatici spirituali”, vicini alla religione per motivi di benessere psicologico o comunitario, senza un’adesione dogmatica ai suoi principi. Questa granularità permetterà di creare reti di interesse trasversali, che cambiano insieme a noi, grazie all’analisi in tempo reale di comportamenti e stati d’animo.
Quali implicazioni si pongono in termini di protezione della privacy? Quali sono le criticità delle normative attualmente vigenti?
Francesca Lagioia: L’Europa ha creato un complesso quadro normativo per regolamentare la raccolta e l’uso dei dati personali, dal GDPR fino al Digital Services Act, prevedendo restrizioni e obblighi informativi – per esempio, sul tipo di dati raccolti, lo scopo per cui vengono elaborati, le basi giuridiche che ne rendono lecito il trattamento. Sebbene ciò costituisca un passo avanti, queste norme si fondano per lo più su un principio di trasparenza – uno strumento politicamente attraente ma spesso inefficace. L’informazione diventa il baluardo a difesa della nostra autonomia, di scelte razionali e decisioni consapevoli, garante della giustizia e dell’efficienza dei mercati. Se ben informati, dovremmo essere noi gli arbitri di ciò che avviene online, delle dinamiche politiche, di mercato e della concorrenza, incentivando con le nostre decisioni pratiche più giuste e imparziali. Un’idea fragile che si è rivelata, almeno in parte, fallimentare. Alcuni anni fa spopolava una sfida su Facebook chiamata “10 Years Challenge”: ciascuno doveva pubblicare due sue foto a distanza di dieci anni l’una dall’altra. O ancora, si pensi all’app, diventata presto popolare, che permetteva agli utenti di modificare i propri volti per apparire più vecchi o più giovani. Milioni di persone hanno partecipato alla sfida o caricato le proprie foto sui social. Queste immagini possono essere usate per addestrare un algoritmo di riconoscimento facciale, così da prevedere che aspetto avranno le persone tra molti anni. Un sistema come questo può essere poi usato per ritrovare i bambini scomparsi ma anche per influenzare il costo delle assicurazioni – chi invecchia più velocemente rispetto alla media dei propri coetanei pagherà una polizza più alta. Oppure ancora per ragioni di sorveglianza. È giusto che i nostri dati siano usati in questo modo? Se la risposta è no, perché non leggiamo le informative privacy ma clicchiamo su “Consenti” quando creiamo un profilo social, scarichiamo una app o visitiamo un sito web? Non siamo i soli. Raramente, infatti, le persone leggono contratti e informative. Si tratta di documenti lunghissimi, e anche qualora lo facessero faticherebbero a comprenderne il significato, a causa del linguaggio estremamente vago. Inoltre, non avrebbero alcuna possibilità di influenzarne il contenuto. La scelta si riduce a una manciata di alternative: accettare tutte le richieste, per poter navigare senza interruzioni tra i vari siti web; rinunciare al servizio o negare il consenso, affrontando ostacoli e limitazioni e finendo per essere costantemente bersagliati da nuove richieste di autorizzazione. Se acconsentiamo alla raccolta, il sito lo memorizza; se rifiutiamo, ci viene chiesto di ripetere la scelta a ogni accesso, fino alla resa definitiva. La psicologia cognitiva ci ha dimostrano che la mente umana segue percorsi di minor resistenza. Scegliamo l’opzione più semplice ed evidente tra le molte possibili: clicchiamo su “Consenti”, evidenziato in verde a grandi caratteri – si parla in tal senso di “dark pattern” –, piuttosto che attraversare mille passaggi. Tutto ciò mostra quanto sia fragile l’idea della tutela attraverso la trasparenza e gli obblighi informativi. Infine, le violazioni normative sono moltissime. Le autorità di protezione dei dati e le associazioni dei consumatori faticano a identificarle, a causa della scarsità di mezzi e risorse. Pensate al numero di documenti e pratiche potenzialmente da controllare. Gli strumenti normativi, lasciati soli, si sono spesso rivelati insufficienti. Così, nell’era in cui il potere delle grandi imprese e dei governi è supportato dall’intelligenza artificiale, dovremmo portare l’intelligenza artificiale dal lato dei cittadini e delle loro organizzazioni. Solo così potremo contrastare un sistema di governo che sempre più somiglia alla società panottica di Foucault. Abbiamo interiorizzato l’idea della sorveglianza, diventando una società condizionata in cui il potere, ancora una volta, non si esercita attraverso la coercizione diretta, ma attraverso la modellazione della realtà, delle preferenze, delle opinioni e dei desideri. Ciò che intendo è che, per essere efficace, un potere compensativo deve disporre di mezzi adeguati a quelli del potere a cui si oppone. È da questa visione che è nato, per esempio, Claudette, un sistema di intelligenza artificiale che abbiamo sviluppato allo European University Institute, in collaborazione con le Università di Bologna, di Modena e Reggio Emilia e l’Associazione europea dei consumatori (BEUC). È un sistema che identifica pratiche illegali all’interno dei contratti che concludiamo con le grandi società di Internet e delle informative privacy. Un progetto nato dalla constatazione della divergenza tra discipline normative e pratiche commerciali e dalla necessità di elaborare nuove forme di tutela. La storia delle istituzioni ci ha dimostrato che nessun potere economico o politico può essere arginato dalla sola legge o dalla volontà etica di chi lo detiene, ma da forze contrapposte capaci di bilanciarlo. Credo che l’intelligenza artificiale possa diventare quella forza. Senza un’eguale capacità tecnologica, il rischio, temo inevitabile, è che lo squilibrio di potere tra chi esercita il controllo e chi lo subisce sarà sempre più marcato.
L’uso dell’intelligenza artificiale e dell’elaborazione automatizzata di dati personali nei processi decisionali solleva il rischio della cosiddetta “discriminazione algoritmica”, spesso a causa di bias presenti nei dati di addestramento. Quali sono le principali sfide tecniche ed etiche per prevenire questo fenomeno?
Francesca Lagioia: Solo in rari casi la discriminazione algoritmica è diretta, cioè basata sull’uso di caratteristiche protette come razza, etnia o genere. Più spesso è il risultato di una discriminazione indiretta, cioè capace di avere un impatto sfavorevole e sproporzionato su certi gruppi. Le ragioni possono essere diverse. I dati su cui addestriamo l’intelligenza artificiale riflettono le nostre credenze e decisioni passate, riproducendone pregi e difetti, inclusa la propensione all’errore e al pregiudizio. Se, per esempio, addestriamo un sistema sulle decisioni di un dipartimento di polizia che storicamente ha operato con pregiudizi nei confronti delle minoranze, il sistema riprodurrà la stessa logica. È così che l’IA ci fa da specchio. I dati raccontano chi siamo, le nostre paure, i nostri preconcetti, le gerarchie di potere che caratterizzano le nostre società. Pensiamo al sistema di selezione del personale sviluppato da Amazon, specializzato nel valutare candidature nel settore tecnologico e abbandonato nel 2018 perché discriminava le donne. Il sistema penalizzava sistematicamente i curricula che contenevano parole come “women’s”, “women’s chess club” o “women’s coding society”, o coloro che avevano frequentato college femminili. Diversamente, favoriva formulazioni e termini associati al genere maschile, come “leader”, “analitico” o “competitivo”. Nonostante Amazon avesse eliminato tutti i rifermenti al genere, il modello continuava a trovare modi indiretti per penalizzare le donne, costringendo la compagina ad abbandonare il progetto. Il sistema era stato addestrato sulle scelte passate e sui curricula inviati ad Amazon nei dieci anni precedenti – un tempo caratterizzato dalla dominanza maschile nel settore del tech. Altre volte, informazioni apparentemente neutre possono funzionare da proxy, da elemento sostitutivo delle caratteristiche protette. Un esempio è il codice di avviamento postale, che spesso è un indicatore dell’etnia. Nelle grandi città, ci sono infatti quartieri abitati prevalentemente da certi gruppi etnici, a causa di fattori storici, sociali o economici. Se queste minoranze sono state caratterizzate da minore capacità finanziaria, per esempio a causa di pregiudizi storici e difficoltà di integrazione, un sistema per valutare le richieste di prestito potrebbe correlare il codice di avviamento postale a un maggior rischio finanziario, indipendentemente dal merito creditizio di ciascuno. Esistono metodi che ci permettono di mitigare alcuni di questi rischi, per aumentare la quantità e la varietà dei dati di addestramento (data augmentation e oversampling) o diminuirle (data minimization e undersampling). In casi simili a quello di Amazon, potremmo generare curricula sintetici di donne, con profili comparabili a quelli maschili in termini di esperienze e competenze. Oppure, ridurre il numero di curricula degli uomini, per ribilanciare i dati di addestramento o rietichettare le decisioni discriminatorie per aumentare artificialmente il numero di donne assunte in passato. Tuttavia, bisogna fare attenzione al modo in cui cerchiamo di risolvere questi problemi. Pensiamo all’intelligenza artificiale generativa e ai modelli text-to-image, come Stable Diffusion, Dall-e o Midjourney. Si tratta di sistemi addestrati facendo scraping online, senza supervisione e senza guardare alla qualità dei dati, diversamente da quanto avviene per altre forme di intelligenza artificiale. Ciò riduce di molto i costi, ma può generare allucinazioni e disinformazione. Così, quando è stato chiesto a Gemini di generare immagini di CEO e personale infermieristico, nel primo caso il risultato è stata una rappresentazione di uomini in giacca e cravatta, tutti caucasici, nel secondo solo donne, spesso immigrate. È un problema che riguarda tutti i modelli text-to-image. Per risolverlo, la principale misura tecnica è stata creare una regola capace di sovrascrive l’immagine che il modello ha del nostro mondo, obbligandolo a produrre immagini sempre caratterizzate da diversità di genere ed etnia, per richieste simili. Ma il risultato è stato che, nel generare illustrazioni di soldati dell’esercito nazista, tra questi hanno iniziato a comparire asiatici e afroamericani in uniformi della Wehrmacht. Se i dati sono parziali, o mancano del tutto, ci sono storie che non possono essere raccontate. Negli Stati Uniti, per esempio, è il caso dei sistemi in ambito diagnostico o usati per stabilire la priorità dei pazienti nell’accesso ai trattamenti sanitari. Le minoranze etniche fanno spesso parte di fasce a basso reddito, costrette a stipulare assicurazioni peggiori, che coprono solo cure di base e limitano la frequenza delle visite. Questi pazienti generano meno dati clinici, così i sistemi faticano a riconoscere sintomi e patologie per esempio legate a certe caratteristiche genetiche. Alcuni modelli usano indicatori finanziari per prevedere i rischi di salute dei pazienti. L’intelligenza artificiale interpreta la minore spesa in cure mediche come un segnale di minor gravità della condizione di salute, classificando a basso rischio chi è già svantaggiato dalla propria condizione economica, limitandone l’accesso alle cure. Questo è un problema sociale ed economico, che non può essere risolto a livello puramente tecnico, e che richiede una volontà politica e interventi di tipo strutturale sull’organizzazione sociale.
Con l’intelligenza artificiale generativa, nemmeno gli sviluppatori riescono sempre a spiegare l’interezza dei passaggi attraverso cui un algoritmo arriva a un certo output. Come cambia, in questo scenario, il concetto di responsabilità rispetto alle decisioni prese dagli algoritmi?
Francesca Lagioia: La difficoltà di spiegare le decisioni dell’intelligenza artificiale coinvolge tutti i modelli di apprendimento automatico. Questo ha effetti sulla nostra capacità di contestare una decisione, come nei casi in cui ci venga negata una richiesta di mutuo, o un sistema ci classifichi ad altro rischio di frode. Se non conosciamo le ragioni della decisione, faticheremo a esercitare i nostri diritti o a difenderci in giudizio. Esiste un’intera area di ricerca che si occupa di trovare e sperimentare metodi per rendere più trasparenti le decisioni. Ci sono poi questioni legate all’idea di controllo sui processi decisionali dell’intelligenza artificiale, il cosiddetto modello “human in the loop” o “over the loop” e varianti simili, che in certi casi dà vita a una serie di paradossi. Pensiamo ai veicoli autonomi: nel caso di auto con livelli di automazione elevati, potremmo rispondere al telefono o guardare un video sull’iPad e, tuttavia, dobbiamo essere pronti a intervenire e a riprendere il controllo. In situazioni di emergenza e pericolo imminente, un sistema di IA può calcolare in tempo reale variabili come la velocità di marcia, la distanza dall’ostacolo, l’angolo di sterzata, le condizioni stradali e metereologiche, e simulare centinaia di scenari al secondo, valutando decisioni alternative, come frenare o sterzare. Non solo le nostre capacità di calcolo sono più limitate, ma chiedere a un “conducente”, che fino a quel momento è stato inattivo, di intervenire improvvisamente nel processo può portare a scelte del tutto irrazionali. Molti casi di incidente dimostrano che i livelli di automazione intermedia, dove l’interazione uomo-macchina è maggiore, aumentano il rischio di errore, ponendo una serie di interrogativi sulla delega di compiti e sull’autorità decisionale. Infine, sul piano normativo, ci sono nuove regole che ci aiutano a prevenire possibili danni. L’AI Act, ad esempio, classifica i sistemi in classi di rischio, a cui sono associati obblighi di controllo, test e procedure di certificazione via via più stringenti, prima che queste tecnologie entrino nel mercato. La loro violazione può portare a sanzioni molto elevate. Tuttavia, nella maggior parte dei casi, si tratta di autocertificazioni di conformità agli standard tecnico-normativi, in fase di sviluppo. L’intervento di organi notificati, enti specializzati di certificazione e audit, è l’eccezione. La proposta di direttiva sulla responsabilità da intelligenza artificiale (AI Liability Directive) prevedeva una serie di modifiche importanti rispetto alla classica responsabilità da prodotto difettoso, facilitando e migliorando la tutela delle vittime – tra tutte, l’inversione dell’onere della prova. Di solito spetta alla parte lesa dimostrare il difetto di un prodotto, mentre, con la nuova disciplina, per l’intelligenza artificiale sarebbero stati il produttore o il fornitore a dover provare il rispetto di tutti i requisiti di sicurezza e trasparenza, esonerando le vittime dal dimostrare il malfunzionamento di un sistema opaco e complesso da comprendere. O ancora, mentre le norme sui prodotti difettosi riguardano solo danni materiali, la Direttiva copriva anche i diritti fondamentali. Parlo al passato, perché il giorno successivo al Summit di Parigi sull’Intelligenza Artificiale, l’Unione Europea ha ritirato la direttiva, cancellandone l’adozione. È una scelta figlia del nuovo assetto geopolitico: il clima a Bruxelles sta cambiando. Considerato l’ampio spazio lasciato all’autocertificazione dall’AI Act, diversamente da quanto previsto per esempio per i dispositivi medici o nel settore farmaceutico, temo che la Direttiva sia diventata la vittima sacrificale sbagliata sull’altare della semplificazione normativa.
L’Unione Europea si è affermata come un regolatore globale dell’innovazione, con normative come appunto l’AI Act che influenzano anche altri Paesi. Tuttavia, esiste un divario tra la capacità regolatoria dell’Unione e il suo ruolo nello sviluppo tecnologico, che appare limitato rispetto a Stati Uniti e Cina. Come si bilancia il rapporto tra regolamentazione e innovazione? L’Unione Europea rischia di frenare il proprio sviluppo tecnologico con normative stringenti, oppure la regolamentazione può rappresentare un vantaggio competitivo nel lungo periodo?
Francesca Lagioia: A inizio febbraio, Google ha rimosso dai propri principi etici il divieto di usare le sue tecnologie per scopi militari o di sorveglianza. Ora i dati di Google Maps potranno essere usati per individuare persone o gruppi, per esempio scoprendo se ci troviamo in aree in cui ci sono manifestazioni politiche a cui stiamo partecipando. In modo simile, i servizi cloud e di analisi dei dati potrebbero servire per correlare informazioni di origine diversa, come telecamere di sicurezza e dispositivi IoT, permettendo di tracciare le persone e identificare comportamenti sgraditi. Gli algoritmi per il riconoscimento e la classificazione di immagini si possono utilizzare per l’analisi di riprese satellitari, identificando obiettivi strategici e monitorando i movimenti delle truppe. Gli strumenti di traduzione automatica possono essere integrati in operazioni di intelligence, per decifrare conversazioni in altre lingue e facilitare la raccolta di informazioni, per esempio in contesti operativi di tipo militare. Le modifiche sono state annunciate in una nota aggiunta in cima a un post del 2018, lo stesso con cui venivano rese note le linee guida etiche di Google. Nei giorni successivi, un paio di dirigenti hanno definito il nuovo contesto – l’uso sempre più diffuso dell’intelligenza artificiale e le battaglie geopolitiche in corso – come la causa del cambiamento e della revisione necessaria di quei principi. Credo che questo dimostri in modo inequivocabile la necessità di una regolamentazione. Non passiamo affidare il nostro futuro all’adozione volontaria di standard, principi e linee guida. Provo a spiegarmi meglio. L’approccio di Europa e Stati Uniti è molto diverso. Per noi le Big Tech e l’intelligenza artificiale sono forze da controllare e indirizzare. Per gli Stati Uniti, rappresentano una parte cruciale dell’economia e della geopolitica del Paese. Gli USA hanno un approccio per lo più basato sull’autoregolamentazione e l’adesione volontaria. C’è poi la guerra tecnologica con la Cina, che, a differenza degli Stati Uniti, ha un approccio alla regolamentazione attiva delle tecnologie, i cui scopi sono però molto diversi da quelli europei. Le disposizioni della Repubblica Popolare chiedono alle aziende private di promuovere attivamente informazioni “positive”, che seguano la linea ufficiale del Partito Comunista Cinese. Questo significa favorire contenuti patriottici e allineati con i valori del Partito e, al tempo stesso, censurare tutto ciò che non è in linea con le politiche del governo centrale di Pechino. Anche qui abbiamo forme di sorveglianza pervasiva, tipiche dello Stato etico, e associate al “sistema di credito sociale”, che assegna ad ogni cittadino un punteggio positivo o negativo, che ne quantifica il valore sociale e ne oggettiva la reputazione. Un sistema che valuta ogni aspetto della vita pubblica e privata, dai comportamenti politici – come la partecipazione a movimenti o manifestazioni – a quelli sociali – come le reti di relazione e i rapporti interpersonali. La possibilità di trovare un accordo internazionale sulla regolamentazione dell’intelligenza artificiale è sempre più remota. Il rischio è che queste spaccature portino a una “balcanizzazione” degli ecosistemi digitali. Si tratta di una guerra per una sovranità che non è solo scientifica, economico-tecnologica o militare, ma anche ideologica. Un po’ come quando durante la Guerra Fredda la corsa allo spazio serviva a dimostrare la superiorità del capitalismo o del comunismo: l’allunaggio del 1969 fu un colpo propagandistico enorme per gli Stati Uniti. L’Europa non aveva un programma spaziale competitivo e si trovò a seguire le due superpotenze. Nella regolamentazione dell’intelligenza artificiale, l’Unione Europea si è conquistata un ruolo geopolitico chiave, grazie al cosiddetto “Brussels effect”, cioè la capacità di esportare le norme al di fuori dei propri confini attraverso meccanismi di mercato. È quello che è successo con il GDPR, che ha influenzato e ispirato le regolamentazioni di altri Stati come la California o il Brasile. L’idea è che per una società che offre i propri prodotti o servizi in altri Stati è economicamente più conveniente adottare un unico standard piuttosto che differenziarli caso per caso. Tuttavia, la sua efficacia dipende dalla grandezza e dal tipo di mercato. Nel caso del GDPR i dati degli europei avevano grande valore. Per l’intelligenza artificiale le cose potrebbero andare molto diversamente. È un settore in cui non siamo competitivi, con rare eccezioni – i cosiddetti “unicorni”, come nel caso della francese Mistral AI, la “rivale” europea di Open AI. La sfida che abbiamo davanti è dimostrare che si può fare innovazione pur rispettando le norme e tutelando i diritti fondamentali delle persone. Regole chiare possono creare un ecosistema di fiducia, favorendo l’adozione di tecnologie innovative. E possono migliorarne la qualità, grazie a standard elevati, che permettano alle aziende di creare ottimi prodotti, capaci di diventare asset strategici. Le società potrebbero, ad esempio, acquisire un vantaggio reputazionale, facilitando il proprio ingresso nei mercati internazionali, così da garantire anche una concorrenza più equa.
Tornando agli Stati Uniti, come cambia lo scenario con la nuova amministrazione Trump? La sua vittoria alle elezioni presidenziali è stata seguita da un cambio di atteggiamento da parte delle Big Tech: c’è il coinvolgimento diretto di Elon Musk, ma anche ad esempio il passo indietro di Meta relativamente al fact checking sulle sue piattaforme…
Francesca Lagioia: Ancor prima del suo insediamento, Trump ha emesso una serie di ordini esecutivi con impatti sulle relazioni sociali, economiche e geopolitiche, come l’uscita dall’Organizzazione Mondiale della Sanità, dagli accordi sul clima o l’abolizione dello ius soli. Nel settore tecnologico, la sua vittoria alle presidenziali porta a una brusca inversione di marcia, che vanifica il lavoro dell’amministrazione Biden per la governance dell’intelligenza artificiale e il tentativo di limitare i grandi monopoli e oligopoli che caratterizzano il mercato americano. Così, “It’s better to ask for forgiveness than permission” è la bandiera di un’innovazione spregiudicata e senza freni, dove la velocità di sviluppo conta più di qualsiasi conseguenza, e ogni confine è l’ostacolo da aggirare piuttosto che un limite da rispettare. La scelta di Mark Zuckerberg di eliminare il fact-checking, strumentalizzando la libertà di espressione, è un passo indietro pericoloso. È stato spesso citato un paper di Duncan Watts e alcuni suoi colleghi sui limiti del fact-checking, pubblicato su Nature lo scorso anno, per sostenere che, in fondo, poco cambia. Tuttavia, gli autori ci dicono qualcosa di diverso. Sarebbero le preferenze individuali e il comportamento degli utenti, che spesso cercano attivamente contenuti estremi o sensazionalistici, ad alimentare l’esposizione alle fake news, più che gli algoritmi dei social media. Sebbene esista una correlazione tra l’uso delle piattaforme e fenomeni come la polarizzazione politica o la diminuzione di fiducia nelle istituzioni, ciò non implica necessariamente una relazione causale diretta. Infine, l’articolo sottolinea che gran parte della ricerca esistente si concentra su Stati Uniti ed Europa, evidenziando la necessità di espandere gli studi a contesti e Paesi non occidentali, dove i danni e le cause della disinformazione potrebbero essere maggiori e diversi, proprio a causa di risorse e infrastrutture di moderazione e controllo più limitate. Lo scopo dello studio è spostare il focus dal solo ruolo degli algoritmi alla complessità delle dinamiche di consumo e diffusione dell’informazione online, così da offrire una base più solida per definire politiche più efficaci per combattere la disinformazione. Più in generale, credo che il coinvolgimento diretto di Musk o il passo indietro di Meta siano solo alcuni dei segnali, sempre più inequivocabili, del pericoloso allineamento tra centri di potere pubblici e privati, tra capitalismo della sorveglianza e Stato della sorveglianza. Il risultato non può che essere una grave compromissione degli interessi sociali e l’erosione dei diritti civili e democratici.
Abbiamo parlato dell’intelligenza artificiale in relazione ai grandi colossi tecnologici e ai governi, ma il suo impiego può anche rafforzare la cittadinanza attiva e la giustizia sociale. In quali modi l’IA potrebbe essere utilizzata dal lato dell’empowerment della società civile?
Francesca Lagioia: Rispetto a una delle sfide più difficili del nostro tempo, quella ambientale, un esempio sono i digital twin (gemelli digitali), sistemi che creano una replica virtuale di oggetti fisici, edifici, infrastrutture o intere città, raccogliendo informazioni in tempo reale. L’obiettivo è monitorare e gestire al meglio i consumi e le risorse, o pianificare interventi dove necessario. Anche Bologna ha avviato un progetto per costruire il proprio gemello digitale, partendo dall’Università. Questo, per esempio, ci permetterà di gestire meglio l’elettricità e il riscaldamento degli edifici. Invece di considerare solo la temperatura esterna e interna, se in un’ala o in un dipartimento non c’è nessuno in certe fasce orarie, potremo spegnere il riscaldamento e mantenerlo solo nelle aree in cui ci sono personale o studenti. In ambito oncologico, l’intelligenza artificiale analizza radiografie e risonanze magnetiche, per identificare in modo più rapido e accurato anomalie che potrebbero indicare la presenza di tumori. Integrando dati clinici, genetici e ambientali, può prevedere la risposta di un paziente a un certo trattamento terapeutico, suggerendo quali farmaci o combinazioni di terapie potrebbero essere più efficaci. Se parliamo, invece, di cittadinanza attiva e di giustizia sociale, mi vengono in mente i sistemi di budgeting partecipativo. Ci sono città, come Porto Alegre in Brasile, in cui i cittadini sono coinvolti nella definizione delle priorità di spesa pubblica, attraverso piattaforme digitali. È una forma di democrazia diretta, che ha come effetto la possibilità di indirizzare le risorse verso i bisogni reali di una comunità, favorendo una distribuzione delle risorse più equa e mirata. Poi ci sono i sistemi come il già citato Claudette, o quelli che possono aiutarci a identificare decisioni inique. Da circa un anno lavoro a un progetto di ricerca chiamato EquAl – acronimo di Equitable Algorithms – che coinvolge, oltre all’Università di Bologna, anche quelle di Palermo e Torino. Stiamo sviluppando un modello per identificare discriminazioni nelle decisioni sulle richieste di asilo politico, trovare correlazioni tra i fattori considerati e le decisioni. Dobbiamo ricominciare a immaginare un’intelligenza artificiale al servizio della società, ricostruire la sua dimensione scientifica, così che possa essere un bene collettivo e non uno strumento di potere e oppressione.
Una piattaforma culturale, una rivista e uno spazio di approfondimento per capire il presente.
Scopri di più
