Cartografie del potere: la mostra “Calculating Empires”

Nel libro Atlas of AI. Power, Politics and the Planetary Costs of Artificial Intelligence^[1] la ricercatrice Kate Crawford propone un’analogia tra l’intelligenza artificiale (IA) e un atlante, strumento attraverso cui è possibile leggere la realtà. L’autrice descrive il campo d’azione dell’IA come il tentativo di catturare il pianeta da un punto di vista computazionale, in una vera e propria economia dell’immateriale^[2] che attraverso i dati prova a classificare e rendere leggibile – per certi versi persino prevedibile – ogni aspetto della realtà. Ma aprendo la “scatola nera” dell’intelligenza artificiale Crawford rivela come, insieme a un genio innovatore, al suo interno si possano trovare racconti di dominio e profonde disuguaglianze. Storie di innovazioni, sviluppatesi a partire da strutture sociali, economiche e politiche, che proprio come un atlante mappano le linee di faglia del potere che genera ed è generato dall’immateriale. Questa prospettiva cartografica, che svela processi dalle profonde conseguenze materiali spaziali e temporali, prende forma in un’esposizione artistica ospitata negli spazi dell’Osservatorio di Fondazione Prada a Milano dal 23 novembre 2023 al 29 gennaio 2024. La mostra, intitolata Calculating Empires: A Genalogy of Technology and Power 1550-2025 e realizzata da Kate Crawford insieme al collega ricercatore e artista visuale Vladan Joler, offre un percorso attraverso le origini storiche delle innovazioni contemporanee per una genealogia di quella che è forse una delle questioni cruciali del nostro tempo: il potere dell’intelligenza artificiale e il suo rapporto con la matrice biologica e culturale dell’esistenza umana.

In apertura della mostra troviamo ad accogliere lo spettatore un breve saggio che delinea la natura di Echo, l’assistente vocale di Amazon che ricorre all’intelligenza artificiale. Qui può essere visualizzato in filigrana ciò che si nasconde dietro al gesto spontaneo di chiedere a un assistente vocale consigli culinari o la riproduzione della propria canzone preferita: un’economia estrattiva ad alta intensità energetica che consuma risorse, manodopera e dati. La mappa Anatomy of an AI System, parte della collezione permanente del MoMA di New York e del V&A di Londra, riepiloga i processi che alimentano questa economia illustrandone i nodi logistici e la catena del valore, in un diagramma assonometrico che mostra i principali passaggi necessari al funzionamento di un sistema IA. L’interconnessione tra l’estrazione delle risorse terrestri e l’estrapolazione dei dati ricavati dalle attività e le espressioni umane quotidiane emerge con la presenza fisica delle materie prime dall’alto rischio di approvvigionamento come litio, gallio, tungsteno, quarzo e altre: la sostanza di cui è fatto Echo, che a sua volta giace dissezionato in una teca. A fianco, una serie di brevetti descrive la visione aziendale di Amazon, basata sulla sorveglianza e sull’ottimizzazione della propria manodopera, in cui il futuro del lavoro somiglia alle «fabbriche tayloriste del passato, equipaggiate però di braccialetti che vibrano quando i lavoratori commettono errori e di sanzioni per chi frequenta troppo spesso la toilette»^[3]. Un controllo che si estende sugli utenti finali che si trovano nella chimerica condizione di essere al contempo sia consumatori di prodotti che manodopera non retribuita (dis)impegnata a diffondere i propri dati, utili a efficientare l’IA.

Nella sezione superiore della mostra si sviluppa una narrazione visuale che disegna un arco di cinque secoli ed esplora forme di comunicazione, classificazione, computazione e controllo. Nella buia Calculating Empires Map Room troviamo due mappe comunicanti che ci traghettano in un viaggio nel tempo complementare a quello nello spazio della sezione inferiore. Un percorso che comincia dall’epoca delle grandi esplorazioni e della rivoluzione tipografica per finire ai giorni nostri. Da una parte vediamo il racconto dell’evoluzione dei dispositivi di comunicazione, delle pratiche di raccolta e utilizzo dei dati, delle architetture computazionali e di hardware; dall’altra l’esplorazione dell’intreccio di queste tecnologie nelle pratiche di classificazione e controllo biopolitico e militare: carceri, sorveglianza, misurazione del tempo, istruzione, colonialismo e sistemi militari. La mostra si conclude con una wunderkammer che espone oggetti dal 1500 a oggi e una piccola biblioteca che invita i visitatori a contribuire al racconto del rapporto tra essere umano, potere e tecnologia.

Kate Crawford e Vladan Joler. Crediti foto: Patrick Toomey Neri / Fondazione Prada

Crawford e Joler presentano l’esposizione come un compendio aperto con l’obiettivo di generare riflessioni politiche sui pericoli della centralizzazione del potere e sul controllo individuale e sociale. I due ricercatori-artisti offrono la propria visione delle molteplici forme di dominio, rivelando l’intreccio tra la microfisica del potere che agisce sui corpi e la macrofisica del potere che muove i processi logistici e informativi globali. Una dinamica di cui si alimentano i sistemi di intelligenza artificiale che sfruttano l’eredità degli imperi coloniali del passato e le differenze tra salari e mercati, in un processo di accelerazione dell’accumulo di capitale possibile grazie alla “mietitura” del mondo reale^[4]. E se l’industria tecnologica tende alla centralizzazione del potere e del controllo, in un contesto come quello attuale questo si salda con un sistema internazionale in frammentazione dove la competizione strategica accelera a scapito della cooperazione. Così accade che i potenti strumenti di deep learning e i data center debbano inevitabilmente diventare più efficienti a meno di non soccombere al dominio di altri – Stati o attori non-statali –, poiché rappresentano l’interesse nazionale supremo nella sfida del progresso della tecnica. A fianco di questa sfida rimangono però anche i quesiti riguardanti l’esistenza umana per come l’abbiamo conosciuta nell’era dell’antropocene, che oggi la crisi climatica ci impone di ripensare e su cui l’esposizione invita a riflettere.

Intrinseco alla rassegna di Calculating Empires, volta all’analisi dell’intelligenza artificiale, si palesa un aspetto intrigante che sottolinea l’invito a non concentrarsi solamente sugli scopi etici della IA, ma altresì sui connotati etici dei mezzi che sostengono gli intricati meccanismi di questi imperi del calcolo. Un invito a leggere le tecnologie partendo dalle esperienze di chi è privo di potere e subisce già gli effetti dei processi che muovono i media computazionali e influenzano interi ecosistemi. Questi sono i minatori, gli appaltatori e i crowdworker vitali per la minoranza delle big tech al vertice della piramide estrattiva – di risorse tradizionali e di data mining – che sfrutta un sistema di disuguaglianze. Una minoranza che contemporaneamente discute di pericoli futuri esponendo scenari escatologici e apocalittici, tra utopia e distopia tecnologica^[5], mentre gli effetti della privatizzazione delle infrastrutture fondamentali per la tecnologia sono già ampiamente presenti e dannosi^[6]. Sembra evidente quindi quanto il progresso tecnico non consideri ancora adeguatamente i costi pagati dalle persone che lavorano a questa illusione dell’automazione, nonostante si vedano all’orizzonte virtuose decisioni prese anche sul piano istituzionale come l’accordo politico europeo sull’AI Act. La democratizzazione dell’IA richiede una riflessione profonda sulle asimmetrie di potere esistenti per sfidare il paradigma attuale, che privilegia i centri di potere dominanti in Paesi economicamente sviluppati, dove la voce delle persone maggiormente danneggiate non viene ascoltata. Senza questa riflessione, secondo Crawford, suggerire di democratizzare l’IA per ridurre le asimmetrie equivale a sostenere la democratizzazione della produzione di armi al servizio della pace^[7].

Nell’itinerario tra tecnologia, capitale e potere dell’esposizione all’Osservatorio di Fondazione Prada viene gettata luce sull’oscurità dell’IA e sul processo capitalistico di astrazione delle condizioni materiali di produzione a cui corrisponde un’incrementale estrazione di risorse. Calculating Empires è una mostra che lascia stupefatti per la capacità di cartografare la storia, i processi, le rivoluzioni, le invenzioni e le colonizzazioni che hanno portato la società occidentale a meravigliarsi delle potenzialità di ChatGPT. Il grande merito di Kate Crawford e Vadan Joler è quello di esortare a perdersi nei disegni e nelle parole per poi ritrovarsi a riflettere sulla natura politica del progresso oltre il duro determinismo tecnologico. Per continuare a chiederci qual è il fine degli strumenti che utilizziamo e quanto – o addirittura chi – sacrifichiamo pur di ottenerli.

Per la concessione delle foto che accompagnano l’articolo si ringrazia Fondazione Prada.

^[1] Pubblicato in Italia nel 2021 dalla casa editrice il Mulino con il titolo Né intelligente né artificiale. Il lato oscuro dell’IA.

^[2] Per approfondire le diverse implicazioni del capitalismo immateriale si vedano: Stefano Quintarelli, Capitalismo immateriale, Bollati Boringhieri, Torino 2019; André Gorz, L’immateriale. Conoscenza, valore e capitale, Bollati Boringhieri, Torino 2003.

^[3] Kate Crawford, Né intelligente né artificiale. Il lato oscuro dell’IA, il Mulino 2021, p. 320.

^[4] Ivi, p. 321.

^[5] A proposito di diverse “fazioni” nel settore dell’intelligenza artificiale vedasi, tra gli altri, Nitasha Tiku, Doomsday to utopia: Meet AI’s rival factions, «The Washington Post», 9 aprile 2023; Bruce Schneier e Nathan Sanders, The A.I. Wars Have Three Factions, and They All Crave Power, «The New York Times», 28 settembre 2023. A proposito della filosofia sottesa alla ricerca di una “superintelligenza” si veda Andrea Daniele Signorelli, Cos’è il lungotermismo, la nuova fanatica utopia della Silicon Valley, «Il Tascabile», 24 marzo 2023.

^[6] Si veda a proposito il recente rapporto redatto dall’ONG Oxfam e presentato al World Economic Forum di Davos: Report | Oxfam International, INEQUALITY INC. How corporate power divides our world and the need for a new era of public action, 15 gennaio 2024.

^[7] Kate Crawford, op. cit. 325.

Scritto da

Daniele Molteni

Laureato in Relazioni internazionali all’Università Statale di Milano, lavora come editor e collabora con diverse realtà giornalistiche. È interessato a tematiche riguardanti la filosofia politica, la politica estera, la geoeconomia, i mutamenti sociali e politici e gli effetti della tecnologia sulla società. Ha partecipato al corso 2023 di “Traiettorie. Scuola di lettura del presente”.