Scritto da Daniele Molteni
11 minuti di lettura
Il 26 e 27 febbraio si è tenuto a Genova l’evento “Filosofia, Estetica Cooperativa e Intelligenza Artificiale”, tappa nazionale della Biennale dell’Economia Cooperativa promossa da Legacoop, dedicata alla costruzione di una diversa “episteme” dell’intelligenza artificiale. Due giornate di confronto, workshop e dialoghi tra filosofia, scienza e impresa per approfondire temi quali le disuguaglianze algoritmiche, la governance dei dati, il valore sociale dell’intelligenza artificiale e il ruolo delle piattaforme digitali come beni comuni orientati a modelli cooperativi e inclusivi.
Pandora Rivista è media partner dell’evento. Per approfondire il tema delle cooperative di dati e le prospettive di un modello di intelligenza artificiale orientato al bene comune, abbiamo intervistato Tania Cerquitelli, Professoressa ordinaria di Sistemi di elaborazione delle informazioni presso il Dipartimento di Automatica e Informatica del Politecnico di Torino e membro della giunta del centro di ateneo PoliTO per il Sociale. Cerquitelli si occupa di data science, intelligenza artificiale e governance dei dati, con particolare attenzione ai temi dell’equità e dell’impatto sociale delle tecnologie digitali. Il programma completo dell’evento è disponibile sul sito di Legacoop Liguria.
Nel panel a cui ha partecipato nel corso della tappa genovese della Biennale dell’Economia Cooperativa emergeva il tema delle cosiddette “disuguaglianze invisibili” generate dagli algoritmi, inserito nel dibattito sulle cooperative di dati, oggetto del suo intervento. Che cosa si intende esattamente per disuguaglianze invisibili e come può il modello della cooperativa di dati configurare un possibile cambio di paradigma rispetto all’attuale ecosistema digitale e alla concezione dominante del dato?
Tania Cerquitelli: Le “disuguaglianze invisibili” sono relative agli algoritmi di intelligenza artificiale, che sono modelli data-driven. Questo significa che apprendono dalle informazioni disponibili e che le inferenze che producono dipendono dai dati ricevuti in input. Oggi i dati sono uno dei capitali in più rapida crescita e li generiamo continuamente, spesso senza accorgercene, attraverso attività quotidiane come acquisti, visite sanitarie, operazioni creditizie o interazioni sulle piattaforme digitali. Quando questi dati vengono aggregati e analizzati, alimentano gli algoritmi e restituiscono una rappresentazione dei comportamenti, delle abitudini e dei bisogni collettivi. La capacità di trasformare dati in conoscenza operativa ha un valore economico rilevante, soprattutto per chi sviluppa soluzioni basate sull’IA: strumenti in grado di interpretare fenomeni complessi, anticipare comportamenti e offrire servizi sempre più personalizzati. Il problema è che i dati di rado sono pienamente rappresentativi del fenomeno che intendiamo osservare. Ne deriva un modello inevitabilmente parziale: se il dataset descrive adeguatamente solo alcune categorie sociali, l’algoritmo funzionerà bene per quelle categorie ma sarà meno accurato, o addirittura discriminatorio, per le altre. Il bias non nasce dunque tanto dall’algoritmo in sé, quanto dalla parzialità dei dati di partenza. Le disuguaglianze diventano “invisibili” perché si incorporano nei modelli e si manifestano solo quando questi producono decisioni o previsioni. Una prima risposta consiste nella mitigazione dei bias attraverso una progettazione guidata dall’intelligenza umana: interrogarsi sulla qualità e sulla rappresentatività dei dataset, integrarli con fonti esterne, supervisionare l’intero ciclo di vita del modello. Anche nel caso di sistemi black box, il ricorso a tecniche di explainability permette di rendere visibili eventuali distorsioni. Ma la questione non si esaurisce nel piano tecnico. Esiste infatti un problema più ampio di governance. Le persone generano dati che vengono valorizzati da pochi attori economici, producendo una doppia asimmetria, perché chi genera i dati non beneficia direttamente del valore prodotto e spesso non è neppure consapevole delle finalità per cui quei dati vengono utilizzati.
Il modello della cooperativa di dati si propone come risposta a queste criticità, perché si basa su una filiera chiara che parte dalle persone, passa attraverso il consenso informato, orienta la valorizzazione dei dati con l’intelligenza umana e si conclude con la misurazione dell’impatto e il ritorno dei benefici alla comunità. Il riferimento ai principi cooperativi è centrale: adesione volontaria, controllo democratico, partecipazione e finalità sociali esplicite. Nel progetto che stiamo sviluppando con Legacoop Liguria e Mutua Ligure, ad esempio, analizziamo dati di acquisto anonimizzati e aggregati integrandoli con informazioni sulle prestazioni sanitarie, con l’obiettivo di identificare pattern, trend e correlazioni data-driven capaci di generare conoscenze utili ad ampliare l’accesso al servizio assicurativo, includendo anche profili che, secondo i modelli tradizionali, verrebbero esclusi. In questo scenario, l’algoritmo non è progettato per massimizzare il profitto, ma per ampliare l’accesso ai servizi. Il cambio di paradigma sta proprio in questo spostamento di finalità. Pensare il dato come bene comune significa sottrarlo a una logica puramente estrattiva e ricondurlo a una logica di responsabilità condivisa, in cui le finalità, gli usi e i benefici sono oggetto di decisione collettiva.
Il modello delle cooperative di dati implica anche un ripensamento delle regole di accesso, utilizzo e valorizzazione delle informazioni. Oggi il paradigma dominante tende a considerare il dato come una risorsa immateriale di cui il cittadino non percepisce pienamente il valore economico e strategico, mentre il beneficio si concentra prevalentemente nelle mani delle piattaforme e degli sviluppatori di sistemi di intelligenza artificiale. Quali strumenti ritiene necessari per rafforzare il controllo degli individui sulle proprie informazioni?
Tania Cerquitelli: Il primo nodo è la consapevolezza. Oggi manca una vera data literacy: molte persone non sono pienamente consapevoli del fatto che i dati generino valore e di come questo valore venga gestito. Non è sempre chiaro chi utilizzi le informazioni, per quanto tempo, con quali garanzie e per quali finalità, incluse le finalità di business che possono cambiare nel tempo. Serve quindi spiegare non solo che il dato ha un valore economico e strategico, ma anche che il consenso alla condivisione non è un atto neutro. Accettiamo spesso condizioni d’uso o cookie senza comprendere davvero per quali scopi i nostri dati potranno essere impiegati. In questo senso, la formazione, l’educazione e l’informazione diventano elementi strutturali del modello cooperativo, perché maggiore consapevolezza significa maggiore capacità di scelta. Nel nostro modello di cooperativa dei dati abbiamo introdotto il concetto di data pedigree: un’informazione aggiuntiva che accompagna il dato e che descrive in modo trasparente quale consenso informato sia stato rilasciato, per quali obiettivi e con quali limiti temporali. Non basta “condividere” il dato, ma occorre decidere come e per chi quel dato produce valore, e mantenere la possibilità di revocare il consenso nel tempo. I dati accumulati su archi temporali lunghi possono acquisire maggiore valore perché descrivono trend storici, ma questo non significa che l’autorizzazione debba essere indefinita.
Un altro aspetto riguarda la tutela della privacy e degli attributi sensibili. L’AI Act europeo limita l’uso di determinate categorie di dati nei processi algoritmici, rendendo necessario un solido processo di anonimizzazione. In questo quadro si inserisce anche l’utilizzo di dati sintetici attraverso tecniche che permettono di generare informazioni artificiali a partire da dati reali, riducendo i rischi per la riservatezza. Tuttavia, anche quando il dato viene trasformato, resta fondamentale il rispetto del consenso originario. Rafforzare il controllo individuale richiede dunque tre elementi integrati: la consapevolezza culturale, gli strumenti tecnici di tracciabilità e protezione, e un modello di governance che restituisca centralità alla persona.
Affinché una cooperativa di dati possa funzionare concretamente, sono necessari anche requisiti infrastrutturali e architetturali adeguati. Quali condizioni tecniche ritiene indispensabili in termini di interoperabilità, armonizzazione delle fonti, standard comuni e tracciabilità lungo la filiera del dato? Inoltre, quali elementi distinguono un progetto realmente solido e scalabile da una semplice dichiarazione di intenti?
Tania Cerquitelli: Una cooperativa di dati implica innanzitutto la condivisione, che può avvenire a diversi livelli. Nel caso più semplice, un insieme di persone decide di mettere in comune informazioni omogenee per tipologia e granularità, rendendo l’integrazione relativamente più gestibile. La complessità aumenta quando la cooperativa si espande e coinvolge enti, organizzazioni o istituzioni diverse: in questo caso occorre integrare dati provenienti da sorgenti eterogenee, con strutture e standard differenti. Per questo nel nostro modello abbiamo previsto l’utilizzo di un’ontologia di riferimento, che consente di mappare dati diversi all’interno di un quadro concettuale condiviso. L’ontologia permette di classificarli in base al dominio applicativo, al contenuto informativo e alle dimensioni di tempo, spazio e granularità, così da renderli comparabili e interoperabili senza imporre uniformità forzate. È quindi possibile combinare dati molto dettagliati con dati più aggregati, perché l’obiettivo non è descrivere il singolo individuo, ma individuare pattern e correlazioni utili a comprendere fenomeni collettivi. Questo aspetto è rilevante anche sul piano normativo, poiché molte forme di analisi individuale, come il credit scoring o il social scoring, sono considerate ad alto rischio o vietate. Il nostro obiettivo non è costruire profili personali, ma generare conoscenza orientata a finalità sociali. Un altro elemento centrale è poi la tracciabilità, che nel modello cooperativo opera in due direzioni: da un lato consente di ricostruire l’origine dei dati utilizzati nei modelli, come richiesto dalle normative; dall’altro è orientata all’utente, che deve poter sapere in quale applicazione i propri dati sono stati impiegati, quando e per quali finalità. Garantire evidenza puntuale degli utilizzi lungo l’intero ciclo di vita del dato significa rafforzare concretamente il controllo individuale e la possibilità di revoca del consenso.
Quanto alla solidità del progetto, da ingegnere ritengo che un’iniziativa sia tale solo se basata su evidenze empiriche. Il primo passo è dimostrare che esistono applicazioni concrete, non ancora presenti sul mercato, che possano essere supportate dai dati disponibili. Nel nostro caso abbiamo lavorato su dataset anonimizzati relativi a pattern di acquisto e accesso ai servizi, integrandoli con fonti esterne. Le prime evidenze sono promettenti. Ciò che distingue una progettualità solida da una semplice dichiarazione di intenti è proprio questo percorso: analisi dei dati, validazione scientifica, progettazione operativa e solo successivamente eventuale scalabilità. Dal punto di vista tecnico, il modello è stato progettato e i suoi componenti sono in fase di validazione. Possiamo quindi parlare di proof of concept. Ciò che ancora manca è la definizione completa del business plan e la fase di investimento e implementazione su larga scala. Tuttavia, sul piano tecnologico e metodologico, la soluzione è solida e realizzabile.
Nel modello cooperativo, come si stabilisce quali distorsioni debbano essere corrette e secondo quali criteri si definisce ciò che costituisce un bias algoritmico? In altre parole, passando dall’infrastruttura tecnica ai criteri decisionali, quali meccanismi garantiscono che il processo di valorizzazione dei dati sia effettivamente equo e orientato alle finalità sociali?
Tania Cerquitelli: Il momento cruciale è quello della valorizzazione del dato, cioè della progettazione e realizzazione dell’algoritmo. È in questa fase che occorre identificare i possibili bias e attivare le strategie di mitigazione. Questo processo deve essere guidato dall’intelligenza umana, così da decidere quale valore produrre e per chi. Nella mia esperienza, anche in altri progetti che coordino in ambito accademico, la condizione necessaria è la presenza di un team multidisciplinare. Non è sufficiente il contributo degli ingegneri o dei data scientist. Se vogliamo sviluppare algoritmi che producano un impatto sociale positivo, dobbiamo integrare competenze provenienti dalle scienze sociali, dalle scienze umane e dall’etica. Il tecnico può individuare una soluzione algoritmica efficiente, ma è nella fase di progettazione che bisogna porsi le domande giuste. Creatività, pensiero critico e capacità di interpretare i contesti diventano fondamentali per orientare l’IA verso benefici sociali concreti. Se il problema viene discusso in modo ampio fin dall’inizio, anche l’implementazione cambia. Per questo la collaborazione interdisciplinare deve accompagnare l’intero ciclo di vita del sistema, dall’ideazione alla messa in produzione.
L’efficacia dei sistemi di intelligenza artificiale dipende dalla qualità dei dati e dalla comprensione dei loro meccanismi decisionali: dati incompleti o non rappresentativi possono generare modelli distorti e decisioni ingiuste. Nel modello cooperativo, a questa dimensione si aggiunge l’obiettivo dichiarato di generare valore sociale. Questo orientamento modifica anche il modo in cui vengono valutate le distorsioni, perché non si tratta solo di migliorare la performance tecnica, ma di verificare che il modello sia coerente con principi di equità e inclusione. La definizione di ciò che costituisce un bias non è lasciata a un singolo attore, ma il risultato di un processo collettivo e multidisciplinare, integrato in una governance che considera il dato come un bene comune e la valorizzazione come uno strumento di impatto sociale.
In questo quadro, la cooperativa di dati potrebbe incidere anche sui processi decisionali pubblici? Pensiamo, ad esempio, al rapporto con le pubbliche amministrazioni, che dispongono di grandi quantità di dati. Un modello cooperativo potrebbe modificare non solo le modalità di gestione dell’informazione, ma anche la produzione di conoscenza utile a orientare le politiche pubbliche?
Tania Cerquitelli: Sì, nel nostro modello la pubblica amministrazione può essere un attore a pieno titolo all’interno della cooperativa, al pari del cittadino. Questo significa che può contribuire mettendo a disposizione i propri dati, partecipando a un progetto condiviso di valorizzazione orientato al bene comune. In questo scenario, il valore sociale generato dall’analisi dei dati può essere utilizzato per supportare le politiche pubbliche. Ad esempio, può contribuire a rendere più efficaci le politiche sanitarie e sociali, migliorando la capacità di comprendere i bisogni collettivi e di intervenire in modo più mirato. La cooperativa, in questo contesto, non rappresenta semplicemente uno strumento tecnico, ma un’infrastruttura di governance che consente di integrare i dati provenienti da soggetti diversi – cittadini, organizzazioni, enti pubblici – in un quadro regolato e partecipativo. In questa prospettiva, il dato è un bene comune da riutilizzare in modo sostenibile e responsabile, affinché il valore generato ricada positivamente sulla collettività.
Un elemento importante è che questo modello può rafforzare la fiducia. Se il cittadino sa che i dati vengono utilizzati per finalità esplicite di interesse collettivo e in un contesto cooperativo trasparente, la disponibilità alla condivisione aumenta. La fiducia cresce quando è chiaro che esiste un ritorno di valore alla comunità e che la produzione di conoscenza non è orientata a interessi esclusivamente economici, ma a benefici condivisi. Non si tratta più di un rapporto unidirezionale, in cui la pubblica amministrazione raccoglie dati e li gestisce autonomamente, ma di una forma di cooperazione che supera la tradizionale separazione tra pubblico, privato e cittadino. In questo senso, la cooperativa di dati può contribuire a ridefinire la governance dell’informazione, che diventa un processo partecipato in cui la produzione di conoscenza è uno strumento per orientare decisioni più inclusive e consapevoli.
Oltre al caso che ha citato, esistono altri ambiti in cui le condizioni operative sono già mature per sperimentare modelli di cooperative di dati? E quali indicatori – quantitativi e qualitativi – ritiene necessari per misurare nel medio periodo l’impatto sociale di questi progetti?
Tania Cerquitelli: Esistono progettualità parallele, in particolare in ambito pubblico, che stanno ragionando su modelli affini a quello della cooperativa di dati. Il tema della governance collaborativa dei dati e della loro valorizzazione a fini sociali sta emergendo in modo sempre più esplicito anche nelle istituzioni e il punto cruciale è che oggi esiste una maturazione tecnologica che rende questi modelli realizzabili. Le infrastrutture, le tecniche di anonimizzazione, la generazione di dati sintetici, gli strumenti di tracciabilità sono disponibili.
La valutazione dell’impatto sociale deve essere integrata fin dall’inizio nel modello. Se l’obiettivo dichiarato è generare valore sociale, è necessario dotarsi di un framework coerente di misurazione, basato su un set integrato di indicatori quantitativi e qualitativi, in grado di misurare sia i risultati ottenuti sia la qualità dei processi di governance e di partecipazione. Innanzitutto, gli indicatori quantitativi devono essere costruiti in relazione allo scopo perseguito. Se, ad esempio, l’obiettivo è rendere un servizio più inclusivo, occorre misurare quante persone precedentemente escluse riescano ad accedervi dopo l’introduzione del modello. I KPI (key performance indicator) devono quindi essere strettamente legati alla finalità di valorizzazione del dato. Possono essere monitorati, ad esempio, il numero e la diversità delle persone coinvolte nella cooperativa, i tassi di consenso informato e di revoca, il volume e la qualità dei dati condivisi, la riduzione delle esclusioni nell’accesso ai servizi, i miglioramenti delle metriche operative – come tempi, costi e accuratezza delle decisioni – e la distribuzione dei benefici verso i generatori dei dati. Accanto a questi, sono indispensabili indicatori qualitativi, raccolti attraverso le survey o gli strumenti di ascolto rivolti ai beneficiari. La percezione degli utenti, il livello di fiducia, la soddisfazione rispetto al servizio sono elementi altrettanto importanti. È cruciale rilevare anche la percezione di controllo da parte dei membri, la trasparenza e la comprensibilità delle decisioni algoritmiche e l’equità percepita nella redistribuzione del valore. Infine, la valutazione deve considerare la dimensione temporale. Esiste un impatto immediato, ma spesso gli effetti reali emergono nel medio periodo – sei mesi, un anno – e in alcuni casi solo su orizzonti più lunghi, come tre o cinque anni. Senza questa misurazione nel tempo, il valore sociale rischia di restare una dichiarazione e non un risultato verificabile. Misurare l’impatto significa quindi non solo capire “quanto” valore viene generato, ma anche come viene prodotto e con quali effetti sulla collettività.
Perché un modello come quello delle cooperative di dati possa diffondersi, è necessaria anche una forma di consapevolezza diffusa, che, come sottolineato in precedenza, sembra mancare. Si tratta soprattutto di una sfida tecnica o piuttosto di una trasformazione culturale e sociale più profonda, legata a questioni come l’esigenza di rivedere la responsabilità individuale e la partecipazione nell’era dell’intelligenza artificiale?
Tania Cerquitelli: Il problema non risiede tanto nella mancanza di competenze tecniche quanto, come dicevo, nella carenza di consapevolezza. È necessario un processo di sensibilizzazione su come i dati vengono utilizzati oggi e su cosa significhi realmente concedere il consenso. Accettare in modo indiscriminato qualunque opzione – come avviene spesso con cookie e condizioni d’uso – equivale a rinunciare al controllo delle proprie informazioni senza comprenderne le implicazioni. Le competenze tecniche, in realtà, sono sempre meno una barriera. Le interfacce sono state semplificate al punto che l’interazione avviene in linguaggio naturale, spesso attraverso comandi vocali o strumenti estremamente intuitivi. Non serve saper programmare per utilizzare un sistema di intelligenza artificiale. La vera questione è comprendere che cosa fa lo strumento, quali sono i suoi limiti e quali possibili effetti collaterali può generare. Pensiamo ai modelli linguistici di grandi dimensioni: è importante sapere che le risposte non sono deterministiche, che dipendono dal modo in cui viene formulata la domanda e che possono essere imprecise o addirittura false.
Accanto alla dimensione culturale c’è poi una dimensione sociale. La condivisione dei dati produce effetti collettivi. Se non si conoscono le finalità per cui le informazioni vengono utilizzate, si apre la possibilità che esse siano impiegate per scopi non coerenti con l’interesse generale o, in alcuni casi, dannosi. Per questo, nel modello cooperativo, formazione, educazione e informazione non sono elementi accessori ma strutturali: più consapevolezza significa maggiore capacità di scelta e di partecipazione. Ritengo dunque che la priorità sia sviluppare una competenza critica, non solo tecnica. Utilizzare uno strumento è oggi relativamente semplice; comprendere le sue implicazioni, invece, richiede una maturità culturale e una responsabilità collettiva che vanno costruite. Solo così la condivisione dei dati può diventare una scelta realmente consapevole e sicura, orientata non soltanto all’efficienza tecnologica ma alla produzione di benefici condivisi. In questo senso, la sfida è sociale e culturale, prima ancora che tecnologica.
Una piattaforma culturale, una rivista e uno spazio di approfondimento per capire il presente.
Scopri di più
