Scritto da Giulia Barbieri, Caterina Cassano, Pietro Gheno, Luca Pennella, Agnese Rebecca Voltini
10 minuti di lettura
L’intelligenza artificiale non è più soltanto una questione tecnica: incrocia il diritto, ridisegna i mercati, riplasma lo spazio pubblico e mette sotto stress le categorie con cui pensiamo responsabilità, libertà e tutela dei diritti.
In questa intervista Francesca Lagioia discute l’utilizzo etico dell’intelligenza artificiale nella società e riflette sulle possibilità di applicazione dell’IA come strumento di interesse pubblico (dalla rilevazione di pratiche discriminatorie all’utilizzo dei “digital twin”), sui rischi di polarizzazione e disinformazione, e sulle implicazioni geopolitiche della competizione sui grandi modelli linguistici.
Lagioia, Professoressa associata al Dipartimento di Scienze Giuridiche dell’Università di Bologna e docente all’Istituto Universitario Europeo di Firenze, si occupa di informatica giuridica, del rapporto tra diritto, democrazia e intelligenza artificiale e di etica dell’IA. È autrice di: L’intelligenza artificiale in sanità: un’analisi giuridica (Giappichelli 2020). L’intervista è stata realizzata nell’ambito del corso 2025 della scuola di formazione “Traiettorie. Scuola di lettura del presente”.
Cosa l’ha spinta ad approfondire l’intersezione tra diritto e intelligenza artificiale? C’è stato un episodio particolare che le ha fatto capire l’importanza di questa relazione?
Francesca Lagioia: Ho un percorso un po’ atipico perché vengo da una formazione strettamente umanistica, dal liceo classico, e ho sempre avuto una forte passione per la letteratura e per la poesia. All’università, però, avrei voluto studiare fisica. Sono stata scoraggiata, anche per ragioni culturali e per l’idea che non ci potessero essere altri sbocchi se non l’insegnamento, anche perché, più in generale, era ancora forte la convinzione che certe strade non fossero davvero pensate per le donne. Ad un certo punto ho scelto giurisprudenza, perché il diritto mi appariva come un mondo di regole “perfette” sul piano logico-teorico: uno strumento per dare ordine alle pulsioni e agli istinti più distruttivi. Verso la fine del mio percorso universitario, nel 2002-2003, quando iniziavano le prime sperimentazioni sui veicoli autonomi, ho conosciuto un ricercatore che si occupava di intelligenza artificiale. Ascoltandolo parlare mi colpì subito un aspetto degli argomenti su cui lavorava: la delega di autorità decisionale a un sistema che si muove nel mondo reale. La prima domanda che mi sono posta è stata molto concreta: “se un veicolo autonomo causa un incidente mortale, di chi è la colpa?” Per me era il punto d’incontro perfetto con la parte più filosofica del diritto penale: colpa, dolo, negligenza, responsabilità.
Dal momento in cui ho vinto una borsa di dottorato interdisciplinare a Bologna ho potuto lavorare in modo sistematico su questi problemi. Parallelamente, ho iniziato a studiare anche gli strumenti: prima programmazione logica e sistemi esperti, poi machine learning. A un certo punto, all’Istituto Universitario Europeo di Firenze, parlando con i colleghi, è emersa una frustrazione: le norme faticavano a intercettare le violazioni commesse su larga scala dalle grandi piattaforme. E allora mi è sembrato quasi naturale rovesciare la prospettiva: se le Big Tech usano l’IA per trarre profitto dalla raccolta massiva di dati, perché non usare l’IA a vantaggio dei cittadini per identificare le violazioni e le pratiche scorrette? Da quel confronto è nato un progetto che continua da anni: CLAUDETTE, un sistema che mira a individuare automaticamente possibili violazioni, per esempio in termini di privacy o clausole contrattuali abusive, nei confronti di utenti e consumatori.
Parlando di CLAUDETTE, come possono oggi strumenti di questo tipo, inclusi large language model (LLM) e agenti, aiutare concretamente i cittadini? Quali vantaggi e quali limiti vede?
Francesca Lagioia: Spesso quando si parla di intelligenza artificiale il discorso scivola in una narrazione deterministica: da un lato l’utopia (“risolverà tutto”), dall’altro la distopia (“ci distruggerà”). In mezzo, si dà quasi per scontato che i problemi siano un semplice effetto collaterale inevitabile del progresso. Personalmente non condivido questa impostazione riduzionista. Le tecnologie sono figlie delle società che le immaginano e poi le costruiscono e la storia dell’IA lo mostra bene, perché i modelli cambiano insieme alle nostre idee su che cosa significhi “intelligenza”. Oggi, con i modelli generativi, emergono rischi noti, come discriminazioni e stereotipi, ma anche qualcosa di ulteriore: non parliamo più soltanto di strumenti che classificano; parliamo di sistemi capaci di generare testi e immagini, cioè di contribuire a costruire l’immaginario. E soprattutto parliamo di un addestramento che si sviluppa a partire da enormi quantità di dati, spesso con controlli di qualità limitati. Questo significa che dentro quei modelli entra il presente, con le sue gerarchie, i suoi pregiudizi, i suoi rapporti di potere. Per questo dico che interrogare un modello oggi è un po’ come interrogare un oracolo, le cui risposte provengono dal modo in cui la nostra società è strutturata. E qui si apre la possibilità di usare l’IA non solo per automatizzare, ma per “vedere meglio” ciò che normalmente resta opaco.
Ho avuto modo di lavorare su un case study riguardante le richieste di asilo, in cui viene utilizzata l’IA per identificare possibili violazioni e indizi di discriminazione, costruendo classificatori e analisi dei dati. L’obiettivo non è delegare decisioni a una macchina, ma far emergere quei pattern e quelle criticità che aiutino a capire dove e come un sistema produce disuguaglianze. Un caso emblematico, in questo senso, è COMPAS, il sistema usato in alcune corti statunitensi per stimare il rischio di recidiva. Molti hanno discusso se fosse “discriminatorio”. A un certo punto ho deciso di analizzare direttamente i dati, costruendo esempi controllati per capire come funzionasse il meccanismo. Il problema non riguarda solo l’accuratezza media dei sistemi: anche quando questa è elevata, rimane sempre una quota di errore, e questo errore non si distribuisce necessariamente allo stesso modo tra gruppi diversi. Qui emerge un nodo centrale: nel diritto esistono più criteri di equità – come l’eguaglianza di opportunità o quella di trattamento – che possono essere formalizzati matematicamente, ma che non sono compatibili tra loro quando i “tassi di base” dei gruppi differiscono. In questi casi è matematicamente impossibile soddisfarli tutti insieme. Questo significa che, senza una scelta politica esplicita su quale idea di equità adottare, l’intelligenza artificiale rischia di tradurre un conflitto normativo in una decisione apparentemente tecnica.
Accanto a questi temi, ci sono applicazioni che potrebbero avere un impatto sociale positivo. Penso ai digital twin (gemelli digitali) nella pubblica amministrazione, usati per simulare e ottimizzare consumi e risorse, o a strumenti per riconoscere contenuti manipolati e disinformazione. Il problema è che molte di queste soluzioni restano nei laboratori o finiscono per essere usate solo da grandi attori pubblici o privati. Perché ci sia davvero un beneficio per i cittadini, serve trasformare questi strumenti in prodotti accessibili e scalabili. E qui entra in gioco un tema molto concreto, cioè quello di chi può permettersi di investire. Spesso l’incentivo economico è basso, perciò, se lo Stato non interviene, molte tecnologie “civiche” non escono mai dall’ambito accademico.
Negli ultimi anni diversi Paesi hanno sviluppato modelli linguistici e sistemi di IA generativa. Possiamo parlare di una “geopolitica degli LLM”? E in che misura questi strumenti esportano, o impongono, specifici valori e immaginari?
Francesca Lagioia: La dimensione geopolitica è fondamentale. Stati Uniti, Europa e Cina hanno visioni molto diverse dell’intelligenza artificiale, per ragioni culturali, giuridiche ed economiche. In Cina l’ecosistema tecnologico è strettamente integrato con il Partito: i social network e le piattaforme tendono a promuovere la visione e i principi del potere politico, e non c’è una distinzione netta tra pubblico e privato. In Europa, invece, la tecnologia è vista soprattutto come una forza da regolamentare e l’idea di fondo, almeno sulla carta, è difendere i diritti fondamentali e l’autonomia nello sviluppo. L’AI Act nasce dentro questa cornice. Negli Stati Uniti, infine, le Big Tech sono anche uno strumento di forza geopolitica. Se pensiamo a un modello di IA come a una struttura cognitiva, esportarlo significa esportare un certo modo di interpretare il mondo: una forma di colonizzazione culturale. Faccio un esempio. Anni fa, su Snapchat comparve un filtro che schiariva la pelle: renderlo onnipresente significava diffondere un immaginario estetico in cui la pelle chiara veniva implicitamente considerata più desiderabile.
La stessa logica opera quando l’intelligenza artificiale modella il linguaggio, stabilisce priorità, definisce categorie e, in ultima analisi, costruisce idee di normalità. L’IA è pervasiva, e quindi finisce per estendersi a un’intera visione del mondo. Non è diverso, in fondo, da ciò che accadeva nella corsa allo spazio, che non era soltanto una gara tecnica ma anche una grande sfida ideologica. Oggi succede qualcosa di analogo: la maggior parte dei modelli dominanti nasce in inglese e in contesti statunitensi, e questo ha effetti culturali e politici. Capisco quindi l’esigenza europea di maturare autonomia. Ad oggi ci sono esperienze importanti, ma l’autonomia è difficile. Se, per esempio, si sceglie di addestrare i modelli su dati più controllati, si va più lentamente. E la lentezza, in un mercato che corre, viene penalizzata. A ciò si aggiunge un terreno sempre più rilevante: le operazioni di propaganda e disinformazione che tentano di influenzare l’ecosistema informativo anche attraverso l’IA. Si parla sempre più di data poisoning e di tentativi di “orientare” ciò che i modelli apprendono, in gergo tecnico si parla di LLM grooming, pubblicando contenuti pensati non per le persone ma per essere raccolti dai crawler. È un tema su cui la ricerca e i report stanno iniziando a concentrarsi. E mentre assistiamo a una corsa al rilascio di modelli via via più potenti, vedo ancora poca attenzione pubblica e politica alla qualità dei dati su cui questi sistemi vengono addestrati. Il punto, per me, è semplice: se lo sviluppo è guidato soltanto dall’interesse economico, peraltro in contesti di monopolio e oligopolio, allora aumentano le disuguaglianze e gli interessi democratici soccombono. L’economia deve essere uno strumento al servizio della società, non il contrario.
L’utilizzo combinato di LLM, bot e agenti per generare contenuti può aumentare il rumore informativo. C’è il rischio di un’ulteriore polarizzazione politica? E come cambia l’equilibrio del dibattito pubblico?
Francesca Lagioia: Il rischio più grave oggi è proprio la polarizzazione, che sta cambiando forma con l’evoluzione dell’IA. Un esempio emerge dagli studi sulla radicalizzazione negli Stati Uniti: attraverso analisi e reverse engineering si osserva che l’algoritmo di TikTok tende a spingere verso contenuti progressivamente più estremi, anche senza segnali espliciti come il “like”. Il tempo di permanenza diventa un indicatore di interesse e anche reazioni negative, shock, e disgusto, generano engagement. Questo si intreccia con l’evoluzione dei social, dove siamo passati dal testo (che richiede una maggiore attenzione e un’elaborazione più lenta) alle immagini e poi ai video. TikTok è il loop infinito per eccellenza, progettato per intrattenere/trattenere. E trattenere significa, spesso, colpire emotivamente. Il risultato è un ambiente che incentiva contenuti sempre più polarizzanti. Inoltre, TikTok è un social che non ruota attorno a una rete di amicizie. Nei social precedenti le reti sociali, per quanto problematiche, creavano dei “confini” che definivano delle cerchie ristrette. Qui la logica è diversa: è una macchina di raccomandazione che costruisce un percorso. In questo contesto, i contenuti falsi o manipolati non devono nemmeno essere creduti per essere efficaci. Basta che spostino l’agenda: si discute di ciò che è più visibile e più potente emotivamente. È una colonizzazione dell’attenzione, e quindi dell’agenda politica.
Quello che mi preoccupa ancora di più, però, è l’integrazione crescente dei modelli linguistici dentro i social. Questo rende la profilazione molto più fine e dinamica: non macrocategorie, ma profili costruiti giorno per giorno, a partire da interazioni anche banali. E su quella profilazione è possibile innestare messaggi “su misura”. Le stesse policy, con cornici narrative diverse, ottimizzate per psicologie e valori differenti. Il problema democratico è che, storicamente, pur scegliendo fonti diverse, avevamo una realtà di riferimento almeno in parte condivisa. Se invece a ciascuno viene consegnata una versione personalizzata del mondo, quel terreno comune si dissolve. E senza terreno comune la democrazia diventa un confronto tra mondi paralleli che non si riconoscono più.
In un contesto di informazione “tailor-made”, dunque, quale può essere il ruolo dello Stato e delle istituzioni europee? Se le policy faticano a inseguire un’evoluzione troppo rapida, quali soluzioni intravede?
Francesca Lagioia: Prima di tutto c’è un problema politico, evidente anche nello spostamento a destra di molti Paesi europei. E ci sono temi molto attuali che mostrano la tensione permanente tra privacy, sicurezza e altri interessi, con proposte che puntano a introdurre forme di controllo pervasivo delle comunicazioni o dei contenuti scambiati sui dispositivi. La privacy entra continuamente in conflitto con altri obiettivi, e in teoria il diritto vive di bilanciamenti. Il punto è capire chi bilancia, come e con quale trasparenza democratica. Stiamo assistendo, inoltre, a un avvicinamento crescente tra potere pubblico e potere privato. Questo rende più difficile arginare certi fenomeni, perché i grandi attori tecnologici diventano infrastrutture essenziali e interlocutori politici di riferimento. Le norme restano fondamentali, ma oggi hanno almeno due limiti. Il primo è l’enforcement: norme come il GDPR faticano a essere applicate in modo efficace, perché identificare le violazioni su scala industriale è difficilissimo, e perché entrano in gioco interessi economici e geopolitici enormi. Il secondo limite è che le norme sono sempre il risultato di compromessi. Prendiamo la privacy: per trattare dati serve una base giuridica. Il consenso è una base, ma non è l’unica. Ci sono, per esempio, l’interesse legittimo o la necessità di eseguire un contratto. Nella pratica, molte forme di pubblicità mirata si reggono su basi che, se guardiamo alla sostanza, finiscono per scaricare sull’utente una responsabilità che non è realisticamente sostenibile.
Il consenso, infatti, è spesso una finzione, perché non è davvero informato, non è davvero libero. L’utente clicca, ma non comprende; e anche volendo comprendere dovrebbe superare barriere linguistiche e tecniche enormi. E poi c’è un aspetto psicologico e strutturale: quando si acconsente, l’accettazione è duratura, mentre rifiutare o revocare è temporaneo, complicato, a volte persino reso volutamente confuso. Questo altera l’equilibrio e indebolisce la libertà della scelta. A ciò si collega un processo più ampio di privatizzazione dello spazio pubblico. In molti settori, invece di un controllo pubblico forte, si delega ai privati la gestione del rischio e la definizione operativa di standard. Anche l’AI Act, con l’approccio basato sul rischio, contiene elementi importanti; ma se si guarda ai meccanismi concreti, spesso si tratta di autocertificazioni, e i controlli terzi sono più l’eccezione che la regola. L’idea di rafforzare tutele e responsabilità, per esempio sul piano della liability, è stata discussa a lungo, ma resta un campo pieno di vuoti e arretramenti.
Che fare, allora? Da un lato serve aggiustare e migliorare le norme, sapendo che sono imperfette perché frutto di compromessi. Dall’altro servono strumenti reali di enforcement. E questi strumenti non possono provenire solo dallo Stato, perché anche la società civile deve poter incidere. Per questo io parlo spesso di “democratizzare” l’intelligenza artificiale, che significa scegliere consapevolmente di costruire tecnologie che rafforzino i diritti e le capacità di controllo, invece di limitarsi a subirle. Spesso pensiamo che tutto sia solo top-down, calato dall’alto, ma la democrazia non è un sistema teorico: è fatta di persone. Se interiorizziamo l’idea che esiste qualcuno sopra di noi che decide e verso cui siamo impotenti, rinunciamo al ruolo attivo che la democrazia richiede. Recuperare sovranità democratica significa anche recuperare capacità di domanda, pressione, partecipazione.
Secondo lei, in questo senso, la società civile può essere proattiva, e non solo reagire quando il danno è già avvenuto? Ad esempio, con strumenti di democrazia diretta o forme nuove di partecipazione.
Francesca Lagioia: Esistono forme di democrazia attiva e in diversi Paesi del Nord Europa si stanno sperimentando anche tecnologie per decidere come allocare fondi pubblici dentro una comunità, in modo partecipativo. Io credo nella partecipazione della società civile, ma a condizione che sia informata. Altrimenti rischiamo di utilizzare gli strumenti democratici su questioni iper-tecniche su cui le persone non hanno elementi per decidere, mentre su temi enormi si evita il confronto pubblico. Negli ultimi anni abbiamo dato per acquisiti diritti che non lo erano affatto. E vediamo quanto velocemente possano essere ridimensionati. Per questo credo che le persone debbano tornare a partecipare, anche fisicamente: scendere in piazza, organizzarsi, chiedere trasparenza e tutele. E credo che serva un cambiamento culturale capace di avvicinare le persone alla tecnologia, in modo che capiscano davvero e possano decidere cosa vogliono. Oggi molti parlano di IA come se fosse magia, come il coniglio che esce dal cilindro. Ma non basta sentire familiare una parola per essere in grado di orientare scelte pubbliche. Se invece riusciamo a costruire competenze diffuse, allora la società può avere un ruolo attivo di indirizzo. Anche perché l’adozione di queste tecnologie è una delega di potere, non è una rinuncia inevitabile.
In questo scenario, alcune tecnologie decentralizzate, come la blockchain, potrebbero aiutare la partecipazione democratica? Più in generale, quali strade si potrebbero percorrere per promuovere una partecipazione attiva dei cittadini?
Francesca Lagioia: La mia impressione, sulla blockchain, è che nasca da una visione interessante: decentralizzata, distribuita, dal basso. Non ha ancora trovato una killer application chiara, almeno non nel modo in cui molti la immaginavano; ma questo non significa che non la troverà. Anche i social network sono diventati ciò che sono attraverso traiettorie impreviste. Questo perché spesso le tecnologie finiscono per evolvere in direzioni diverse da quelle originarie. In generale, penso che democratizzare la tecnologia significhi anche costruire strumenti che rispondano ai bisogni di comunità specifiche, anche locali. Perché nessuna tecnologia è davvero neutra rispetto ai luoghi e alle culture. Lo vediamo con l’intelligenza artificiale: un modello può funzionare benissimo in un contesto e male in un altro, perché cambia la base sociale e cambiano i dati. Non credo a un conflitto necessario tra Stato e cittadinanza. Ma quando quel conflitto si crea, ben vengano quelle tecnologie che permettano ai cittadini di partecipare e di contare di più. Ma ciò dovrà avvenire dal basso, perché non saranno le grandi compagnie private a costruire gli strumenti che ridistribuiscono davvero il potere.
Una piattaforma culturale, una rivista e uno spazio di approfondimento per capire il presente.
Scopri di più
