“Intelligenza artificiale” di Francesca Rossi

«Ci dobbiamo spaventare o dobbiamo accogliere con entusiasmo questa tecnologia?». Inizia così il libro di Francesca Rossi – ricercatrice e docente universitaria e Global Leader di IBM per l’etica dell’intelligenza artificiale – e questa ambiguità, questa dualità, ci accompagnerà fino alla fine.

Intelligenza artificiale è un libro semplice nella sua complessità. L’IA è ormai entrata nella quotidianità di tutti noi, un tema di attualità di cui però si sa poco e male, e Francesca Rossi, in questo contesto, riesce nel difficile intento di schiarire le nubi dell’incertezza, ponendosi l’obiettivo di rendere gli “utenti finali”, ossia noi, consapevoli dei rischi e delle opportunità. Lo fa con un libro dalle dimensioni contenute, accattivante, e con l’intuizione di inserire almeno un approfondimento in ogni capitolo, rendendo ancora più ricco un lavoro già denso di contenuti. Siamo di fronte a una sorta di “Bignami” di questa tecnologia.

Una tecnologia (apparentemente) nuova

Il modo migliore per rispondere alla domanda di cui sopra è conoscere meglio le origini di ciò di cui si sta parlando. Nel percorrerne le varie fasi di sviluppo, e il modo in cui è composta e agisce, l’autrice ci invita anzitutto a chiederci cosa distingua davvero l’intelligenza artificiale da quella umana. E la risposta non è banale. L’intelligenza umana, ci ricorda Rossi, non è fatta solo di logica: è emozione, relazione, esperienza. Un dialogo costante tra pensiero lento e intuizione. Un equilibrio che le macchine non possiedono. Esse, infatti, non ragionano e non conoscono il mondo, né tantomeno lo capiscono. Il dubbio che l’intelligenza della macchina sia reale o apparente divide gli esperti. Secondo l’autrice non possiamo dire in assoluto se è intelligente, ma, al massimo, ci si può chiedere se è efficiente. In uno dei vari contributi presenti in questo libro, il premio Nobel per l’economia Daniel Kahneman pone l’accento sulla versatilità quale caratteristica rilevante dell’intelligenza umana rispetto a quella artificiale, affermando che «l’era dell’intelligenza artificiale generale (AGI) avrà inizio quando il software raggiungerà un insieme così vario di capacità» come noi esseri umani.

Per capire come siamo arrivati fin qui, Rossi ci porta alle origini. Dal momento in cui, nel 1956, viene coniato il termine “intelligenza artificiale” (e la creazione di un’IA limitata, capace di seguire regole, ma incapace di adattarsi), passando per lo sviluppo delle neuroscienze e delle reti neurali che aprono una nuova fase: quella del machine learning. Non più istruzioni, ma esempi. L’IA inizia a imparare da sola, sbagliando, correggendosi, evolvendo. Da qui in poi tutto accelera. L’intelligenza artificiale diventa generativa: non si limita a restituire risposte ma le crea, parola dopo parola, calcolando quale sia la più probabile da scrivere. Un apprendimento non supervisionato, basato solo su dati e testi, senza istruzioni. L’approfondimento dello scienziato giapponese Hiroki Kitano, creatore della Nobel Turing Challenge, chiude la parte “manualistica” del libro: egli è convinto che entro il 2050 l’IA vincerà il Nobel in una disciplina scientifica. Per ora, una cosa è certa: a guidare tutto questo, siamo ancora noi.

Non è l’IA a dover essere etica

Non bisogna cadere nell’errore di ritenere l’IA un’entità a sé, indipendente, e attribuirle caratteristiche umane che non ha. Come per tutti gli argomenti mainstream, si diffonde un sensazionalismo che cavalca queste paure e sfrutta l’ignoranza. Parlando in maniera superficiale di IA che discrimina, bias algoritmici, allucinazioni e deepfake si crea quell’idea dell’intelligenza artificiale come entità superiore, autonoma, verso la quale siamo succubi e vittime. Niente di più sbagliato. L’autrice va contro questo allarmismo, perché non fa che distogliere l’attenzione dalla vera causa di questi problemi: l’essere umano.

Né l’IA né gli algoritmi discriminano, ma riprendono e fotografano discriminazioni già presenti nel mondo reale, o sono influenzati da bias nei dati di training, causati dall’essere umano che li addestra male. Discorso simile si può fare per allucinazioni e deepfake. Le prime sono effettivamente attribuibili all’IA, ma l’essere umano nell’utilizzare questa tecnologia (la quale ricordiamo non ragiona e non ha coscienza della realtà), deve avere un approccio consapevole, che lo porti a capire che questi strumenti non sono infallibili e a utilizzarli sempre con criterio. I secondi, invece, sono il perfetto esempio di IA come strumento (in questo caso negativo) a servizio dell’uomo.

In merito a questa tendenza a inventare cose, interviene a fine capitolo Gary Marcus, Professore emerito di psicologia e scienze neurali alla New York University. che si chiede perché tutto ciò continua ad accadere, e cosa si può fare a riguardo. Rispondendo alla prima domanda, egli considera, tra le cause, il fatto che i modelli attuali «funzionano come schemi di compressione dell’informazione, cioè spezzando tutto ciò che sanno in piccoli pezzi e ricostruendo con modelli generali». Questo procedimento fa sì che si perdano pezzi d’informazione per strada, e trattandosi di sistemi addestrati «con miliardi di parametri su trilioni di bit di dati, tramite milioni o trilioni di operazioni di un computer» è pressoché impossibile individuare dove sorge una specifica allucinazione e/o prevedere gli errori in anticipo.

Riguardo la seconda domanda la risposta è forse ancora più drastica: «Nessuno può risolvere il problema in modo affidabile». Marcus suggerisce una tesi: non è possibile trovare una soluzione utilizzando solo la tecnologia attuale poiché, come già accennato, essa non si basa sulla memorizzazione e il recupero dei fatti, ma sulla previsione statistica di ciò che diranno le persone. Concludendo, afferma: «Per risolvere il problema ci potremmo trovare nella condizione di dover tornare alla casella di partenza e ripensare completamente il nostro approccio all’IA».

È fondamentale dunque, a maggior ragione dopo quanto affermato da Gary Marcus, un uso consapevole dell’IA. Rossi sostiene che «non è l’IA a dover essere etica, ma l’intero ecosistema attorno all’IA deve comportarsi eticamente». Fondamentale, quindi, un approccio che non riguardi la macchina in sé ma l’intero sistema che le ruota attorno: dal comportamento di chi la programma e produce, passando per chi la utilizza (gli utenti finali), fino all’intervento nella regolazione dell’impatto che ha sulla società. È fondamentale «declinare i valori da seguire in relazione a codici di condotta specifici, come quelli che si applicano in ambito professionale», attraverso un intervento ampio, strutturato e costante nel tempo.

Lavoro, scuola, politica: governare l’impatto

Dall’etica si passa ad applicazioni più pratiche: lavoro, scuola, politica. Anche qui l’intelligenza artificiale non è artefice ma strumento. E in quanto strumento, ha bisogno di qualcuno che sappia dove indirizzarla.

Nel mondo del lavoro l’IA non è la prima tecnologia a far discutere. Ma mai prima d’ora si era vista una trasformazione così rapida e capillare, con un impatto potenziale elevato in ogni settore. Secondo McKinsey, entro il 2030 quasi un terzo delle ore lavorative negli Stati Uniti potrebbe essere automatizzato. Ma Rossi ci invita a non cadere nel catastrofismo. Quei posti di lavoro si trasformeranno. Altri, nuovi, nasceranno. E la domanda di figure esperte nell’ambito dell’IA (si stima oltre 97 milioni di persone) è destinata a crescere.

Anche nel campo dell’istruzione vale lo stesso principio: l’intelligenza artificiale non va proibita, ma integrata. Può supportare studenti e insegnanti, personalizzare i percorsi, migliorare la didattica, ma solo se usata con criterio. Serve un nuovo patto educativo che tenga insieme tecnologia e pensiero critico.

Veniamo alla sanità. Secondo Loubna Bouarfa, fondatrice di OKRA.ai e membro dell’Advisory Board dell’Oxford Internet Institute, le potenzialità dell’uso dell’IA in campo medico sono enormi: maggior efficienza dell’offerta sanitaria e dei risultati a beneficio dei pazienti, e, soprattutto, miglioramento del triage (la valutazione del grado di priorità dei pazienti). Questo aumento in termini di precisione e celerità può contrastare quello che per Bouarfa è il principale pericolo odierno nel settore sanitario: l’inerzia. In una società dove ormai si ottiene tutto e subito e si è persa la capacità di aspettare (in particolar modo tra i più giovani), le piattaforme tecnologiche che offrono accesso gratuito e rapido a medici e farmaci possono ovviare a questa problematica. C’è tuttavia il rischio che tali piattaforme possano essere di stampo privatistico, e che quindi usino questi dati «non solo per il benessere dei consumatori, ma anche per scopi pubblicitari, per consulenze alle compagnie assicurative e per altre attività non correlate alla salute». Fondamentale dunque, secondo Bouarfa, che sia il settore pubblico a adottare rapidamente tali tecnologie. Infatti, invece di arricchire ipotetiche compagnie private con i propri dati, si potrebbe arrivare a uno scenario in cui «contribuire con i propri dati a un sistema basato sulla condivisione dati sarebbe un gesto analogo alla donazione di organi». Un approccio dunque umano, forse utopistico vista la direzione in cui sta andando il mondo, ma capace di mettere al centro il benessere di molti, a discapito del profitto di pochi.

E infine c’è la politica, chiamata a governare una tecnologia che corre più veloce delle leggi. L’Unione Europea ha provato a farlo con l’AI Act, primo esempio di regolazione organica a livello globale. Un contributo dell’eurodeputato Brando Benifei (anche relatore generale dell’AI Act al Parlamento Europeo) cerca di spiegare il regolamento nel suo complesso e l’obiettivo generale, che consiste nel «creare fiducia, tutelare i più vulnerabili, in ultima istanza stabilire un modello europeo per lo sviluppo dell’IA che possa essere un modello anche per altri».

Ma da solo non basta. Servono standard condivisi, cooperazione tra Stati e un approccio multilivello, che coinvolga aziende, istituzioni e società civile. Ed è proprio qui che, come spiega Amandeep Singh Gill (l’inviato per la tecnologia del Segretario generale delle Nazioni Unite), il contributo dell’Organismo consultivo delle Nazioni Unite sull’IA (l’AI Advisory Body) diventa centrale. Nato nell’ottobre 2023 per «effettuare studi e avanzare proposte per la governance internazionale dell’intelligenza artificiale», l’organismo prova a fare ordine in un panorama frammentato, dove iniziative nazionali e industriali corrono in parallelo, spesso senza parlarsi. Dopo un bando che ha raccolto oltre 1.800 candidature da 132 Paesi, sono stati selezionati 39 membri rappresentativi di 33 nazionalità e provenienti da governi, società civile, settore privato e mondo accademico: un tentativo concreto di costruire una visione realmente globale, soprattutto perché molte comunità, in particolare del “Sud Globale”, sono state finora escluse. Il documento preliminare prodotto dall’Advisory Body insiste su alcuni principi guida: inclusività (accesso e partecipazione di tutti gli Stati, non solo dei più forti); interesse pubblico (andare oltre il semplice “non nuocere” e investire per garantire benefici diffusi); governance dei dati (snodo decisivo per regole e utilizzi); azione globale e multistakeholder (imparando dalle istituzioni esistenti); allineamento al diritto internazionale e ai valori delle Nazioni Unite, inclusi i diritti umani e gli SDGs.

Ma ai principi il Board affianca funzioni operative: valutazione indipendente e regolare di opportunità e rischi; interoperabilità tra quadri di governance; armonizzazione di standard tecnici e di gestione del rischio; costruzione di capacità, specie dove mancano risorse; maggior collaborazione; monitoraggio dei rischi e coordinamento delle risposte; responsabilità, fino a norme vincolanti che evitino zone grigie. L’idea di fondo è semplice: le Nazioni Unite hanno una legittimità unica per essere un nodo di coordinamento e per facilitare accordi su norme, principi e criteri di responsabilità. Non una soluzione definitiva, ma un tentativo di dare forma a una governance che sia davvero all’altezza della posta in gioco.

Alla luce di quanto analizzato, il principio guida è uno solo: l’intelligenza artificiale è uno strumento a doppio uso. Può emancipare o disumanizzare. E proprio per questo l’autrice parla chiaro: non basta innovare, bisogna saperla governare. Serve una visione collettiva. E, soprattutto, occorre responsabilità. Perché l’IA non è solo una questione tecnica. È, e sarà sempre di più, una questione di potere.

Il futuro è una nostra creatura

Uno dei messaggi più forti che emerge da questo libro – forse il messaggio – è che non può e non deve esserci uno scarico di responsabilità sulle macchine. L’intelligenza artificiale non ha coscienza, volontà o intenzione. Non è autonoma nel senso pieno del termine. Siamo noi – aziende, governi, cittadini – a costruirla, a darle forma, e soprattutto a decidere come usarla.

Le sue contraddizioni sono causate dallo sguardo che le rivolgiamo, dalla percezione che abbiamo. È una tecnologia potente, sì. Ma resta un mezzo, non un fine. Una macchina, non un soggetto. L’IA non è buona o cattiva. È duplice, ambivalente, contraddittoria. E questa dualità può essere sciolta solo da una presa di posizione netta e consapevole. Sta a noi guidarla verso il progresso e il benessere sociale collettivo, evitando derive distopiche.

Francesca Rossi lo ripete più volte: non basta la tecnologia in sé. È fondamentale uno sforzo collettivo. Servono idee, discussione e, ancora una volta, responsabilità. È indispensabile un ecosistema etico, fatto di valori chiari, e di strutture solide che regolino, controllino e vietino, se necessario. Occorre una governance distribuita, multilivello e globale.

Ed è imprescindibile un dialogo continuo tra mondi diversi: giuristi, ingegneri, filosofi, economisti, perché l’intelligenza artificiale pone interrogativi che nessuna disciplina può affrontare da sola. È necessario guidare questa tecnologia indirizzando l’innovazione. Ma prima di tutto è fondamentale avere una visione della strada che si vuole percorrere e della società che vogliamo creare. Solo così ne usciremo migliori.

Scritto da

Andrea Caldarola

Studia presso l’Università Roma Tre, dove frequenta la laurea magistrale in Amministrazione e politiche pubbliche. Laureato in Scienze politiche con una tesi su “La condivisione dati Business-to-Government nel Data Act”, si occupa di diritto e policy dell’ecosistema digitale. Ha approfondito queste tematiche attraverso vari corsi di alta formazione su valori dell’Unione Europea ed ecosistema digitale, transizione tecnologica del Made in Italy e digitalizzazione della Pubblica Amministrazione. Ha svolto inoltre un tirocinio presso la Camera dei Deputati (Commissione Bilancio), collaborando alla redazione di atti e testi normativi.