Scritto da Giacomo Bottos, Antonio Francesco Di Lauro
10 minuti di lettura
Il 26 e 27 febbraio si è tenuto a Genova “Filosofia, Estetica Cooperativa e Intelligenza Artificiale”, una tappa nazionale della Biennale dell’Economia Cooperativa di Legacoop dedicata a una diversa “episteme” dell’intelligenza artificiale. Due giorni di confronto, workshop e dialoghi tra filosofia, scienza e impresa per approfondire temi quali: le implicazioni etiche dell’intelligenza artificiale, l’interazione uomo-robot, la governance dei dati e il ruolo delle piattaforme digitali come beni pubblici orientati a modelli cooperativi e inclusivi.
Pandora Rivista è media partner dell’evento. Per approfondire i temi trattati abbiamo intervistato Maria Silvia Vaccarezza – Professoressa di Filosofia morale all’Università di Genova e componente del Comitato scientifico della Biennale – che è intervenuta nel panel “IA tra inganno e fiducia: etica, cultura e Intelligenza Cooperativa”. Il programma completo dell’evento è disponibile sul sito di Legacoop Liguria a questo link.
Quali elementi hanno favorito la collaborazione tra l’Università degli Studi di Genova e Legacoop Liguria e quali effetti ha prodotto l’incontro tra la riflessione filosofica e il mondo cooperativo?
Maria Silvia Vaccarezza: Ciò che ha accomunato fin da subito le due realtà è stata la volontà di condividere strumenti e metodi di indagine. Abbiamo osservato come molte delle linee di ricerca coltivate nel nostro Dipartimento – dall’etica alla filosofia politica, dall’estetica agli studi sul ruolo della scienza e della tecnologia – intrecciassero già numerosi interrogativi al centro della riflessione promossa da Legacoop Liguria. I temi che stiamo affrontando congiuntamente erano già centrali nelle nostre ricerche; tuttavia, grazie al lavoro sinergico e all’esperienza maturata sul territorio da Legacoop, siamo riusciti ad applicarli anche ad ambiti che, in precedenza, non avevamo preso in considerazione. Inoltre, questa collaborazione ci ha consentito di svolgere in modo significativo la cosiddetta “attività di terza missione”, ossia la restituzione al territorio e alla società civile dei saperi e delle competenze che, in quanto accademici, sviluppiamo. Quale ulteriore esito positivo di questa intesa, Legacoop finanzierà un contratto di insegnamento a livello magistrale dedicato al tema “Intelligenza artificiale, valori e società”, ambito che abbiamo riconosciuto come particolarmente strategico per il nostro percorso comune. Il sostegno ricevuto a questa linea di sviluppo – espressione della nostra identità interdisciplinare – e la sua restituzione in termini di valore formativo per i nostri studenti rappresentano, a nostro avviso, il modo più efficace per dare continuità a un rapporto che si è rivelato, sin qui, estremamente proficuo.
In che misura il tema dell’intelligenza artificiale si è intrecciato con la riflessione etica, tradizionalmente caratterizzata da una pluralità di tradizioni e orientamenti teorici?
Maria Silvia Vaccarezza: Gli studi contemporanei sull’etica non possono prescindere da una riflessione sull’etica dell’intelligenza artificiale, benché tale ambito si collochi, più propriamente, all’interno del quadro più ampio dell’etica della tecnologia. Tuttavia, a partire dalla diffusione di intelligenze generative sul modello di ChatGPT, il dibattito ha conosciuto un’evidente intensificazione, sia sul piano teorico sia su quello pubblico. Il mio specifico ambito di ricerca è orientato all’analisi del significato dell’educazione morale e allo sviluppo della competenza morale negli agenti umani, intesa come la capacità di formulare giudizi affidabili e di assumere decisioni eticamente giustificate. In questo contesto, l’evoluzione dell’intelligenza artificiale solleva almeno due questioni principali. La prima concerne l’impatto che tali sistemi possono esercitare sulla competenza morale umana, ossia in che misura possano influenzare, potenziare o eventualmente indebolire le nostre capacità deliberative. La seconda riguarda lo statuto stesso di questi sistemi, in altre parole se possano essere considerati meri strumenti sofisticati oppure se possano aspirare alla qualifica di agenti – o addirittura di “esperti morali” – vale a dire entità dotate di una qualche forma di agency, intesa come capacità di incidere autonomamente sul mondo attraverso decisioni operative. Il dibattito rimane ampiamente aperto e coinvolge diversi livelli di analisi: dalla teoria dell’educazione morale alla definizione concettuale di agente, fino al tema della responsabilità e alle possibilità di intervento umano. A ciò si aggiunge una questione ancora più radicale: qualora tali sistemi fossero chiamati a prendere decisioni eticamente sensibili, che tipo di competenza etica si potrebbe loro attribuire? Di conseguenza, la riflessione si concentra anche sugli approcci più adeguati alla progettazione e all’addestramento di questi sistemi, in particolare rispetto alla selezione di principi morali considerati pubblicamente giustificabili. In questo ambito, il confronto teorico si articola ulteriormente tra modelli top-down, fondati sull’incorporazione esplicita di regole e principi, e modelli bottom-up, che propongono invece un apprendimento progressivo attraverso l’analogia con i processi di educazione morale dei bambini e con l’acquisizione progressiva di buone pratiche decisionali.
Quali sono le posizioni prevalenti e come si collocano all’interno di questo dibattito?
Maria Silvia Vaccarezza: È possibile distinguere due macro-approcci: quello generalista e quello contestualista. Il primo può essere ricondotto a teorie etiche come l’utilitarismo o l’etica dei principi di matrice kantiana. In questa prospettiva, occorre individuare principi ritenuti universalmente validi – ad esempio la massimizzazione del benessere e la riduzione della sofferenza nell’ambito dell’utilitarismo, oppure il rispetto dell’umanità come fine e l’agire secondo ragione nella tradizione di Immanuel Kant. Secondo tale impostazione, un sistema dovrebbe essere previamente dotato di un insieme strutturato di principi normativi prima di entrare in interazione con il mondo, così da orientare le proprie decisioni in modo coerente e giustificabile. L’approccio contestualista, per contro, nega che la moralità possa essere adeguatamente descritta come mera applicazione di principi invarianti. Esso concepisce l’agire morale come il risultato di una valutazione olistica della situazione, nella quale la correttezza dell’azione dipende dalla considerazione di una pluralità di fattori contestuali. In questa prospettiva, il buon decisore morale è colui che possiede una disposizione stabile che la tradizione filosofica ha definito “virtù”: non una regola esterna, bensì un tratto del carattere che rende l’agente capace di riconoscere gli elementi moralmente rilevanti, insiti in una situazione, e di deliberare in modo proporzionato alle specificità del caso. Alla luce di ciò, si potrebbe ritenere che questo secondo modello presenti maggiori affinità con le modalità di apprendimento dei sistemi di intelligenza artificiale. Tali sistemi, infatti, non operano sulla base dell’applicazione esplicita di principi universali, ma apprendono servendosi di dati ed esperienze pregresse e sviluppano decisioni che si affinano nel confronto con casi concreti, secondo una logica che, almeno in apparenza, richiama le modalità di apprendimento umane.
Nel dettaglio, quali aspetti di questo tema approfondirà nel panel a cui prenderà parte all’interno della Tappa della Biennale dell’Economia Cooperativa promossa da Legacoop Liguria?
Maria Silvia Vaccarezza: Nel mio intervento intendo approfondire il concetto di agente morale artificiale e stimolare una riflessione sulla possibilità che tali sistemi possano candidarsi a ruoli decisionali in ambiti di rilevanza etica, anche in contesti applicativi concreti. Un esempio emblematico è l’ambito medico, in cui questi sistemi possono essere chiamati a stabilire priorità cliniche, valutare la gravità dei casi in esame e, in tal modo, assumere decisioni moralmente cariche. Ne consegue una domanda cruciale: qualora questi sistemi si qualificassero come agenti morali, quali implicazioni avrebbe ciò per gli esseri umani? È plausibile attribuire loro tale status senza che ciò comprometta la nostra competenza morale? Nel dibattito attuale esistono posizioni ottimistiche che propongono di sviluppare nei sistemi di intelligenza artificiale una sorta di “saggezza artificiale”, con l’obiettivo di delegare loro decisioni sempre più complesse rispetto a quelle attualmente affidate. Tuttavia, questa prospettiva comporta rischi significativi, già osservabili in contesti in cui giovani utenti si rivolgono a tali sistemi per ottenere “consulenze morali”, diagnosi comportamentali o valutazioni psicologiche. Ritengo pertanto che si tratti di un fenomeno che merita particolare attenzione, sia per quanto riguarda l’impiego di questi agenti in contesti professionali sia per l’uso individuale, poiché la delega eccessiva potrebbe incidere sulla nostra capacità di giudizio morale e sulla formazione di competenze etiche autonome.
Il nome scelto per il panel è “IA tra inganno e fiducia: etica, cultura e Intelligenza Cooperativa”. Quali questioni pone da un punto di vista filosofico usare il termine fiducia nei confronti di un agente non umano?
Maria Silvia Vaccarezza: La fiducia è comunemente intesa come una caratteristica delle relazioni interpersonali; perciò, può risultare paradossale applicare questo concetto alle relazioni tra soggetti umani e agenti artificiali. Questo tema solleva questioni importanti, soprattutto rispetto alla trasparenza dei sistemi nel giungere a determinati risultati e alla possibilità di considerarli “alleati affidabili” nelle nostre decisioni. Non si tratta di affermare che gli esseri umani siano sempre trasparenti tra loro, ma esistono comunque criteri consolidati che ci permettono di valutare in che misura sia lecito fidarsi di un altro agente. Con gli agenti artificiali, invece, la fiducia può risultare ingenua o mal riposta: diversi studi mostrano come essi vengano percepiti come più affidabili degli esseri umani, probabilmente in virtù della loro presunta capacità di elaborazione avanzata. Si tratta di un fenomeno reale che non può essere ignorato, bensì occorre analizzarlo criticamente e definire le condizioni in cui sia possibile riporre fiducia in questi sistemi, evitando valutazioni superficiali.
In questo scenario, quali vantaggi offre l’implementazione di un approccio di tipo cooperativo?
Maria Silvia Vaccarezza: L’incontro con Legacoop Liguria ci ha consentito di comprendere come la lente cooperativa possa offrire una chiave interpretativa inedita anche rispetto ai dualismi e agli schematismi che ricorrono frequentemente nell’analisi di questi fenomeni. Tale prospettiva, infatti, permette di superare contrapposizioni rigide – ad esempio tra umano e artificiale, tra delega e controllo – introducendo categorie più relazionali e orientate alla corresponsabilità. È emerso che questo approccio meriterebbe un approfondimento sistematico, anche perché, almeno a livello accademico, non è stato finora considerato come possibile cornice teorica per orientare l’uso di tali sistemi. La prospettiva cooperativa potrebbe, invece, offrire strumenti concettuali utili per ripensare le modalità di integrazione dell’intelligenza artificiale nei contesti sociali e lavorativi. Tutto ciò costituisce un ulteriore incentivo a proseguire la collaborazione, all’interno della quale sta maturando una sensibilità etica e politica condivisa rispetto a queste trasformazioni sul piano teorico, ma anche in vista di possibili applicazioni concrete.
Un altro termine di interesse presente all’interno del titolo del panel è “Intelligenza Cooperativa”. Come descriverebbe questo concetto?
Maria Silvia Vaccarezza: Si tratta di un concetto ancora in fase di elaborazione. Il panel si propone, più che di offrire risposte definitive, di porre le basi per una discussione tanto teorica quanto pratica. La scelta di questa etichetta nasce dall’esigenza di evitare letture rigidamente dualistiche: da un lato, l’idea che i sistemi di intelligenza artificiale possano esautorarci al punto da dovercene disfare; dall’altro, la concezione opposta secondo cui essi sarebbero meri strumenti interamente manipolabili e addomesticabili. In alternativa a questa contrapposizione, si può ipotizzare una costruzione cooperativa – e dunque condivisa – del sapere e degli orizzonti decisionali e pratici. Ciò implica pensare a uno scenario in cui l’intelligenza artificiale possa configurarsi come partner all’interno di una conversazione capace di ampliare i processi di elaborazione cognitiva. In questo senso, il riferimento alla teoria della mente estesa è particolarmente significativo. Secondo questa teoria, infatti, la conoscenza non risiederebbe esclusivamente nella mente individuale, ma sarebbe distribuita anche nei dispositivi e nei supporti esterni che fungono da estensioni delle nostre capacità cognitive. In una prospettiva più sistemica, l’intelligenza artificiale potrebbe dunque essere compresa come nodo di una rete che contribuisce cooperativamente alla costruzione del sapere e, potenzialmente, anche della competenza morale. Un esempio interessante è offerto da una recente ricerca condotta presso l’Università degli Studi di Palermo, dedicata all’interazione tra robot sociali impiegati in contesti di cura e operatori umani che assistono pazienti affetti da Alzheimer. In tale studio, i robot esplicitavano verbalmente il processo decisionale che li conduceva a determinate scelte – ad esempio nell’organizzazione dell’ambiente per i pazienti – rendendo trasparente la propria logica operativa. I risultati mostrano che questa interazione ha contribuito a incrementare la capacità decisionale degli operatori umani, senza sostituirla né indebolirla. Un’esperienza di questo tipo suggerisce la possibilità di un uso cooperativo dei sistemi intelligenti, ossia una relazione che non comprime la soggettività umana, ma al tempo stesso valorizza le potenzialità di tali agenti, riconoscendoli non soltanto come oggetti tecnici, bensì come interlocutori all’interno di un processo condiviso di deliberazione.
Ritiene possibile il superamento del concetto di delega relativo all’utilizzo dell’intelligenza artificiale sostituendolo con quello di interazione?
Maria Silvia Vaccarezza: Ritengo che si possa parlare, in linea di principio, di una sostituzione virtuosa, pur senza aderire a un ottimismo ingenuo. Anche in presenza di progettualità orientate al bene comune, il rischio di una delega eccessiva rimane concreto e può tradursi in forme di esautorazione – talvolta persino di auto-esautorazione – dell’agente umano. Al contempo, sarebbe errato negare la possibilità di un’interazione realmente virtuosa, in grado di potenziare le capacità decisionali senza generare fenomeni di deskilling, soprattutto sul piano etico. L’ipotesi di un arretramento rispetto alla diffusione di questi sistemi non è più realisticamente percorribile. Il problema, dunque, non è se interagire con l’intelligenza artificiale, ma a quali modalità affidarsi. In questa prospettiva, appare necessario promuovere forme di interazione non delegante, nelle quali il sistema non assuma il ruolo di sostituto della deliberazione umana, bensì di supporto che lasci intatta la responsabilità ultima dell’agente. Su questo sfondo si impone un ulteriore livello di riflessione, quello dell’educazione digitale. Non è coerente discutere dell’educazione morale degli agenti artificiali senza affrontare, in modo altrettanto rigoroso, la formazione degli esseri umani chiamati a implementarli e utilizzarli. Una simile educazione non può essere ridotta alla sola alfabetizzazione tecnica, ma deve includere maggiore consapevolezza dei meccanismi di delega e dei loro effetti sulla formazione del giudizio. Dal punto di vista accademico, non è realistico pretendere che gli studenti rinuncino a questi strumenti, anche perché non esistono metodi di controllo effettivi in tal senso. Ciò che è doveroso è orientarli verso un uso riflessivo, che non comprometta lo sviluppo di competenze fondamentali e che non produca una dipendenza tale da impoverire le loro capacità cognitive e morali.
Quali sono i principali rischi, in parte già manifesti, derivanti dall’assenza di un’adeguata educazione digitale?
Maria Silvia Vaccarezza: I rischi sono molteplici. Vi sono quelli più noti e già ampiamente discussi, come le questioni relative ai rischi per la privacy, alle dinamiche di sorveglianza, agli effetti sull’occupazione e alla manipolazione dell’informazione. Quest’ultimo è un tema su cui, nel nostro dipartimento, si sta lavorando in modo significativo, anche attraverso l’analisi dei fenomeni legati ai deepfake, che rappresentano un ulteriore fattore di incremento della disinformazione e mostrano un impatto preminente sulla tenuta democratica degli Stati. A questi si aggiungono rischi connessi alla discriminazione algoritmica. I sistemi di intelligenza artificiale, infatti, tendono a riprodurre – e talvolta ad amplificare – i bias presenti nei dati di addestramento, con conseguenze rilevanti in termini di equità e giustizia. Non meno importante è la questione dell’accesso alla tecnologia, che solleva interrogativi sulla distribuzione delle opportunità e sull’eventuale consolidamento di nuove forme di disuguaglianza. Credo che un effetto ancora insufficientemente tematizzato riguardi l’impatto ambientale: un approccio cooperativo e responsabile all’intelligenza artificiale non può prescindere dalla consapevolezza che l’utilizzo intensivo di questi strumenti comporta costi ecologici significativi. I server e i datacenter che sostengono tali sistemi richiedono infrastrutture ad alto consumo energetico e complessi meccanismi di raffreddamento, spesso basati su un impiego massiccio di risorse idriche, contribuendo ad aggravare una crisi ambientale e idrica già in stadio avanzato. La considerazione di questi fattori rientra pienamente nell’idea di educazione digitale che appare oggi necessaria. Il livello di consapevolezza diffusa rispetto alla portata sistemica di tali trasformazioni è ancora insufficiente. Per questa ragione, si impone un intervento formativo articolato e multilivello.
Capovolgendo la prospettiva sinora considerata, in quale misura il dibattito filosofico sta orientando lo sviluppo e le politiche di regolamentazione dell’intelligenza artificiale?
Maria Silvia Vaccarezza: Se non altro, una parte significativa del dibattito filosofico recente ha mostrato una chiara capacità di incidere sulla discussione pubblica. Alcune voci autorevoli si sono concentrate sul rischio di una super intelligenza autonoma potenzialmente in grado di sfuggire al controllo dei programmatori, fino a ridefinire lo stesso concetto di umanità. Altrettanto autorevoli sono però le posizioni di chi interpreta questi sviluppi come straordinarie opportunità di progresso materiale e morale, se adeguatamente governate, come nel caso di Luciano Floridi. Negli ultimi dieci anni, soprattutto nell’ambito anglo-americano, questa discussione ha inciso profondamente sull’immaginario pubblico, consolidando una frattura tra chi guarda all’intelligenza artificiale con timore esistenziale e chi, al contrario, con entusiasmo quasi salvifico. Parallelamente, è emersa con forza la consapevolezza della portata politica di tali strumenti. Il confronto è stato spesso descritto nei termini di una contrapposizione tra orientamenti “progressisti” e “conservatori”, contribuendo a polarizzare la percezione collettiva. Un punto di riferimento imprescindibile resta il volume di Shoshana Zuboff, Il capitalismo della sorveglianza, che, pur precedendo la diffusione di massa dei large language models, aveva già individuato nella trasformazione delle modalità di accesso e sfruttamento dell’informazione un fattore di erosione dei meccanismi democratici. In epistemologia, si è parlato di “inquinamento epistemico”, ossia di un significativo deterioramento della qualità dell’ecosistema informativo, con effetti diretti sulla formazione dell’opinione pubblica e sull’assetto politico delle società contemporanee.
In questo quadro, la posizione regolativa assunta dall’Unione Europea segnala una crescente consapevolezza circa la necessità di disciplinare tali processi, nel tentativo di non cedere integralmente alla logica di un potere tecnocapitalista privo di contrappesi. Emblematiche, in tal senso, sono state alcune reazioni provenienti dal mondo tecnologico statunitense. Quando il capo del governo spagnolo Pedro Sánchez ha avanzato l’ipotesi di limitare l’accesso ai social media per i minorenni e di introdurre sanzioni per le piattaforme responsabili di danni sociali, Elon Musk ha liquidato la proposta definendo Sánchez “un fascista”. Si tratta di una risposta che mostra quanto il conflitto tra regolazione pubblica e interessi delle grandi piattaforme sia ormai esplicito. Resta il fatto che l’approccio europeo appare, almeno finora, oscillante e talvolta condizionato anche da equilibri geopolitici ed economici, inclusa la necessità di non irrigidire i rapporti con gli Stati Uniti. Proprio per questo, un orientamento più deciso e coerente da parte dell’Unione Europea potrebbe rappresentare un passaggio cruciale. Un obiettivo raggiungibile però non soltanto attraverso una stretta regolativa ma anche con il conseguimento di una maggiore autonomia europea nello sviluppo dell’intelligenza artificiale.
Una piattaforma culturale, una rivista e uno spazio di approfondimento per capire il presente.
Scopri di più
