“Critica della ragione artificiale” di Éric Sadin

Tradotto in italiano come Critica della ragione artificiale (Luiss University Press, 2019), il titolo originale dell’ultimo libro dello scrittore e filosofo francese Éric Sadin è L’intelligence artificielle ou l’enjeu du siècle – letteralmente, “l’intelligenza artificiale o la questione del secolo” –, e rappresenta un riferimento all’opera di Jacques Ellul La technique ou l’enjeu du siècle, comparsa nel 1954 [1].

Questo riferimento situa immediatamente il saggio all’interno di una corrente di pensiero critica nei confronti dello sviluppo tecnologico ed economico moderno, la cui presenza nella storia del pensiero occidentale è antica quanto i processi di modernizzazione sui quali esprime perplessità, riserve o veri e propri attacchi. Celebri esempi ne sono la metafora della “gabbia di durissimo acciaio” usata da Weber per descrivere come la logica utilitarista inerente al sistema capitalistico eroda fino a farlo scomparire il nucleo di valori che conferisce senso all’agire umano [2], o la denuncia di Herbert Marcuse dell’omologazione, dell’alienazione e delle manipolazioni onnipresenti nella società industriale avanzata [3].

L’idea che il progresso tecnico e la crescita economica, perseguiti in origine in nome del miglioramento della condizione umana, si tramutino in una trappola che sottrae all’uomo, sia come individuo sia come collettività, il controllo della propria sorte e dunque in ultima analisi la libertà, è alla base tanto della riflessione di Ellul quanto di quella di Sadin. Proprio nel perseguire la libertà dalle forze della natura e il controllo della natura attraverso la tecnica, ci saremmo sottomessi a un nuovo padrone e saremmo entrati in una nuova condizione di servitù, avendo delegato in una maniera non facilmente reversibile le nostre capacità e responsabilità decisionali a sistemi tecnici sempre più pervasivi, potenti e imperscrutabili, che hanno finito per trascenderci e dominarci.

Questo nuovo tipo di potere si contraddistingue per la sua natura profondamente anti-umanistica, a cui allude il sottotitolo del libro di Sadin, Anatomie d’un antihumanisme radical (Anatomia di un antiumanismo radicale): l’unico criterio intrinseco a cui lo sviluppo tecnico-economico risponde è quello dell’efficienza, della massimizzazione dell’utile, sull’altare del quale ogni altro principio o valore deve venir sacrificato in quanto fonte di inerzia, perdite, in una parola: di inefficienza. La prospettiva della tecnica funziona come un sistema derivato dal solo assioma dell’efficienza e dunque non lascia spazio ad alcuna forma di pluralità e divergenza; divenendo egemonica, essa allora spazza via l’umano come luogo della varietà, dell’apertura verso l’altro, delle mutazioni e contaminazioni, del corporeo e del sensibile.

L’egemonia di questa visione è secondo Sadin oggi quasi completa, ed è sia una causa sia una conseguenza dell’imperante discorso entusiasta nei confronti dell’innovazione digitale che ha il suo principale centro d’irradiazione nella Silicon Valley e che viene adottato da legioni sempre più numerose di policy-makers e intellettuali. Questa innovazione è antropomorfizzata attraverso espressioni come machine learning, neural networks, e lo stesso termine generico di intelligenza artificiale, la cui natura metaforica tende a venire dimenticata in favore di rappresentazioni quasi mitiche di repliche dell’umano ottimizzate e quasi onnipotenti – dimenticando il loro prezzo in termini di riduzionismo e impoverimento culturale. L’intelligenza artificiale del titolo si riferisce a questo insieme di trasformazioni per cui tali tecnologie e l’ideologia che incorporano sono diventate pervasive a livello sociale, economico e culturale.

Quel che rende la situazione attuale ancor più preoccupante rispetto al passato industriale è il fatto che oggi l’asservimento tecnologico dell’umano ha fatto, per così dire, un saluto di qualità, essendo l’intelligenza artificiale sempre più investita di una nuova funzione: «enunciare la verità» (p.10). In altri termini, si diffonde la convinzione che esse forniscano descrizioni e analisi del mondo più accurate e affidabili rispetto a esseri umani che, pur se esperti, sono soggetti a distrazioni, distorsioni, passioni, e inoltre sono incapaci di assimilare e analizzare quantità di informazioni altrettanto vaste con altrettanta velocità. Il giudizio e l’intuizione umani vedono la loro sovranità epistemologica ridursi quasi di giorno in giorno, mentre sempre più tipi di valutazioni, raccomandazioni, spiegazioni, sintesi sono affidate ad algoritmi, dal campo medico all’intrattenimento, dall’urbanistica al settore militare.

Pare che il reale, celato alle nostre difettose capacità, si riveli finalmente per grazia dell’infallibile e instancabile trattamento di informazioni delle intelligenze artificiali. E, se dapprima esse sono investite di funzioni meramente consultive, il cambiamento culturale e ideologico in corso per cui le nostre società si convincono della loro superiorità cognitiva rende brevissimo il passo verso funzioni ingiuntive, di fatto o finanche dal punto di vista ufficiale – il nesso tra verità e potere è ineluttabile.

Per mostrare come si sia giunti a questa radicale attribuzione e cosa essa significhi, Sadin ricostruisce la storia dell’informatica e delle ideologie che ne hanno ispirato lo sviluppo e l’adozione, tra le quali spicca la cibernetica, approccio teorico diffusosi negli Stati Uniti negli anni Cinquanta basato sull’idea di meccanismi capaci di auto-regolarsi e sull’associato ideale di una perfetta regolazione automatica di ogni sistema, non escluso quello sociale.

Questo ideale rappresenta secondo il filosofo una radice profonda degli sviluppi e delle applicazioni attuali dell’intelligenza artificiale. Più in generale, dietro al nostro entusiasmo per i giudizi automatizzati, si cela un «rifiuto della nostra vulnerabilità» (p.157), un profondo desiderio di liberarsi dell’incertezza e del rischio inerenti nel rapporto tra l’uomo e il reale, abdicando a tutte le responsabilità in favore di enti antropomorfi “aumentati” [4]. Si tratta di un’aspirazione che in forme diverse è rinvenibile lungo gran parte del corso della tradizione filosofica occidentale, dall’idealismo di Platone al migliore dei mondi possibili leibniziano al demone di Laplace. Oggi, per la prima volta, essa trova modo di diventare più di un’aspirazione grazie all’onnipresenza di sensori, agli enormi flussi di dati che generano e al potere computazionale che rende possibile analizzarli e apprendere da essi con le tecniche di data mining e machine learning.

I fenomeni sono captati in tempo reale con estrema precisione, e algoritmi di una complessità che talvolta li rende al di fuori delle possibilità di comprensione per qualsiasi essere umano traggono da questi dati equazioni e proposizioni a cui non solo abbiamo attribuito il potere di enunciare la verità, ma che sono sempre di più dotate di autorità, in quanto guidano i nostri comportamenti negli ambiti più disparati della vita. Sadin mostra con vari esempi, e in certi casi con una prospettiva storica, come nell’istruzione, nel lavoro, nella giustizia, nel management, nella guerra, nella medicina, nello svago, sempre più spesso si seguano le istruzioni, a volte persino i comandi di sistemi di intelligenza artificiale, e come esista una pronunciata tendenza verso l’aumento degli ambiti e del livello di penetrazione e di autorità di questi sistemi, sotto l’impulso difficile da resistere del lobbying e delle strategie per l’egemonia culturale messi in atto dagli attori destinati a trarne profitto.

A essere resa obsoleta e dimessa è niente meno che la capacità umana di giudizio, basata sull’intuizione e l’immaginazione: le prerogative di queste facoltà diventano competenza delle intelligenze artificiali in competizione tra loro per colonizzare sempre più spazi della vita [5], e alla lunga, avendo sempre meno occasioni di esercitarsi, tali attitudini essenzialmente umane finiranno per andare perdute o comunque depotenziate [6].

Come risulta particolarmente evidente dall’osservazione delle auto a guida automatica o degli assistenti virtuali, le intelligenze artificiali esercitano il loro potere in maniera sottile e surrettizia, avendo come obiettivo quello di fondersi senza soluzione di continuità con l’esperienza degli utenti, creare intimità, rappresentare un supporto esperienziale discreto ma imprescindibile e sempre all’ascolto – e dunque sempre intento a monitorare. Esse rimuovono le frizioni, gli ostacoli e le difficoltà, mirando a ottimizzare ogni aspetto e momento dei vissuti grazie alla loro superiore capacità di conoscenza e analisi, così da farci abitare un «paradiso artificiale» (p.125) nel quale siamo messi sotto una tutela sempre più invisibile e soft ma nondimeno sempre più ineludibile, continua e totalizzante.

In questo scenario, le diffuse preoccupazioni relative alla privacy e alla presenza di bias algoritmici rappresenterebbero più che altro espedienti per sviare l’attenzione dai gravissimi rischi culturali, psicologici, sociali e per così dire antropologici dell’intelligenza artificiale, trattandosi di problematiche superficiali la cui soluzione non ha alcun impatto sui meccanismi profondi che plasmano lo sviluppo tecnico-economico.

La lotta da condurre, dunque, deve essere una guerra a tutto campo al sistema sociale, tecnico ed economico dominante, avente come fine ultimo la difesa del reale, con la sua pluralità, irriducibilità e imperscrutabilità, contro il suo «sequenziamento» (p.151), la sua mappatura e controllo totali. Rimandando, tra gli altri, a Hannah Arendt e Martha Nussbaum, Sadin sottolinea come si tratti di una mobilitazione imperativa, in quanto una società dominata da un unico principio di verità e autorità e basata sul rifiuto della fallibilità umana è una società tirannica e priva di solidarietà [7].

Secondo il filosofo, «far fallire questo assalto antiumanista è possibile, attraverso una miriade di gesti concreti, costanti e cumulativi, a tutti i livelli della vita individuale e collettiva» (p.182). Primario è rendere diffusa l’interiorizzazione dell’impegno a salvaguardia dell’umanismo, in quanto solo esso può guidare un ventaglio di azioni di rifiuto e resistenza disparate, adattate al contesto e plurali. L’obiettivo, infatti, non deve essere quello di sostituire un’egemonia con una nuova egemonia, bensì costruire comunità in grado di accogliere e favorire «il canto delle divergenze» (p.182).

Centrale nella visione positiva proposta è il lavoro come strumento di realizzazione dell’uomo, una componente essenziale dell’esistenza umana che bisogna rendere liberante e valorizzante, invece di invocarne l’eliminazione attraverso l’automazione accompagnata a schemi di reddito universale. In questo senso, un’idea concreta avanzata è l’istituzione di sistemi di incentivi pubblici per la sperimentazione di «nuove modalità organizzative e produttive» (p.185), nell’ottica più generale di «sostenere tutte quelle iniziative che intendono riappacificarsi con il piacere del lavoro, favorire l’espressione del talento, instaurare uno spirito di convivialità e aiuto reciproco» (p.186), secondo modelli del tipo del lavoro artigianale.

L’epilogo del libro è un monologo attribuito alla personificazione di un polpo che invita l’umanità a distogliere l’attenzione dall’impresa del dominio della natura attraverso la tecnica e ritornare in contatto con la dimensione della spontaneità, intuizione e apertura al reale e i suoi molteplici e sempre mutevoli contesti. Il polpo, per via del suo aspetto proteiforme, rappresenta un modello di sviluppo alternativo incentrato sulla creatività, la contestualizzazione, il pluralismo e l’apertura all’ignoto.

Sadin si pone come critico della tecnica e del modello di sviluppo economico oggi prevalente da un punto di vista olistico che risulta estremamente utile nel collocare le ultime innovazioni nel campo dell’intelligenza artificiale e la loro applicazione e adozione all’interno di un contesto storico e teorico di lunga durata e ampio respiro. L’operazione non è priva di rischi, in particolare il rischio di un’eccessiva semplificazione di fenomeni storici o tesi filosofiche complessi, o il rischio di una certa vaghezza. Tuttavia, il problema forse principale nell’argomento del filosofo, un problema condiviso da molti argomenti “tecnocritici” [8], è rappresentato da una certa idealizzazione del passato, dipinto come ricco di spazi di libertà e auto-realizzazione messi in pericolo dallo sviluppo tecnologico – trascurando come la più diffusa povertà di mezzi e risorse potesse tradursi di fatto in una limitazione ancor maggiore di tali spazi. Si tratta di un problema che in alcuni momenti Sadin riconosce, specialmente parlando della medicina, ma non affronta mai di petto nel corso di questo lavoro. Del doppio volto della tecnica come liberazione e asservimento l’enfasi è posta sul secondo a detrimento della prima senza un convincente tentativo di conciliarli – una conciliazione non facile, la cui elaborazione forse rappresenta uno dei principali rompicapi irrisolti per la critica sociale contemporanea.

Nel frattempo, un lavoro come quello di Sadin è estremamente interessante in quanto offre spunti e strumenti per far emergere e mettere in questione alcuni presupposti profondi del battage pubblicitario e della frenesia che circondano l’intelligenza artificiale. Lo fa collocandoli nel quadro della cultura umanistica occidentale, al quale tendono a sottrarsi sotto il pretesto della natura tecnica del loro oggetto. Tale operazione aiuta a evidenziare l’importanza di riflettere sull’impatto di queste innovazioni e trasformazioni non solo in termini tecnici o economici, ma anche in termini di valori e forme socio-culturali, rivendicando per questi ultimi un ruolo primario e fondante rispetto ai primi.

[1] Ellul, Jacques, La tecnica. Rischio del secolo, Giuffré, 1969.

[2] Weber, Max, L’etica protestante e lo spirito del capitalismo, BUR, 2012.

[3] Marcuse, Herbert, L’uomo a una dimensione: l’ideologia della società industriale avanzata, Einaudi, 2013.

[4] Il tema della cosiddetta umanità aumentata è stato oggetto specifico di un altro libro di Sadin: L’humanité augmentée: l’administration numérique du monde, Éditions L’Échappée, 2013. L’intelligenza artificiale porta a uno stadio ulteriore e, si potrebbe dire, estremo questa tendenza, modellandosi esteriormente sulle facoltà umane ma mirando a costriuirne “repliche” infinitamente più performanti.

[5] L’idea di parlare di una colonizzazione della vita da parte delle tecnologie digitali è tratta dall’articolo “Algorithmic culture and the colonization of life-worlds” di Andrew S. Gilbert (Thesis Eleven, 2018).

[6] Come è stato illustrato, ad esempio, nel molto venduto La gabbia di vetro: prigionieri dell’automazione di Nicholas Carr (Raffaello Cortina, 2015).

[7] Per quanto riguarda il fatto che la verità che non ammette contraddizione o dubbio abbia politicamente una valenza tirannica, il riferimento è ad Arendt, Hannah, Verità e politica (Bollati Boringhieri, 2004). Per quanto riguarda l’idea che la consapevolezza della propria fallibilità è imprescindibile per una società libera da «sfruttamento simbolico ed effettivo» (p. 157) il riferimento è a Nussbaum, Martha, La fragilità del bene: fortuna ed etica nella tragedia e nella filosofia greca (il Mulino, 1996).

[8] Questo termine, presente in francese (“technocritique”), indica le tesi e i pensatori che criticano con un approccio militante l’ideologia del progresso. Esso fu coniato nel 1975 dal filosofo Jean-Pierre Dupuy come titolo di una collana. Recentemente, lo storico François Jarrige ha ricostruito la storia di queste posizioni in Technocritiques. Du refus des machines à la contestation des technosciences (La Découverte, 2014).

Scritto da

Chiara Visentin

Sta svolgendo un dottorato interdisciplinare in Sociologia storica e Studi medievali presso la Cornell University. Ha precedentemente studiato filosofia presso la Scuola Normale Superiore e l’Università di Pisa.