Scritto da Diego Brasioli
14 minuti di lettura
«[Le macchine] possono aiutarci, ma al prezzo di esigere il massimo dalla nostra onestà e dalla nostra intelligenza»
— Norbert Wiener, God & Golem, Inc. (1964)
Dalle macchine che apprendono agli agenti autonomi: perché il futuro dell’intelligenza artificiale è anche un problema di responsabilità
Che cosa accade quando costruiamo una macchina capace non soltanto di eseguire istruzioni, ma di trovare da sola il modo di raggiungere un obiettivo? E che cosa accade quando il suo successo tecnico non coincide con ciò che consideriamo un risultato desiderabile?
Sono interrogativi che riportano al pensiero di Norbert Wiener. Il grande matematico, padre della cibernetica, diede fondamento teorico a questa disciplina nel volume Cybernetics del 1948, dedicato allo studio del controllo e della comunicazione nell’animale e nella macchina. In God & Golem, Inc. (1964), la sua riflessione si concentra sulle macchine che apprendono, sulla possibilità della loro riproduzione e sulle implicazioni etiche della cooperazione fra esseri umani e sistemi di intelligenza artificiale (IA).
Il libro non descrive gli attuali modelli linguistici, ma offre una prospettiva per comprenderne il significato e interrogare la responsabilità che accompagna la delega di compiti e decisioni alla tecnologia. Non serve trasformare Wiener in un profeta: è più interessante riconoscere che alcuni problemi precedono le tecnologie che li rendono urgenti. Il punto essenziale è questo: saper costruire una macchina che apprende e agisce non significa ancora saperne governare le conseguenze.
Il Golem e il potere dell’IA
Nel libro, Wiener mette in relazione la creazione divina, la figura del Golem (nella tradizione ebraica, un essere plasmato nell’argilla e animato dall’uomo, simbolo del potere e dei rischi della creazione) e la costruzione umana delle macchine. Il confronto accompagna una riflessione sull’apprendimento, sulla riproduzione e sul rapporto etico tra creatore e creatura.
Trasportata nel presente, questa immagine suggerisce una distinzione essenziale: non dobbiamo attribuire a una macchina un’anima, una coscienza o una volontà umana per discuterne il potere operativo. Anche la ricerca contemporanea sugli agenti avverte che parole come “scegliere”, “perseguire” e “autonomia” possono descrivere processi computazionali senza implicare intenzionalità o coscienza.
Per questo il Golem può essere una metafora più utile del robot che si ribella. Sposta l’attenzione dalla presunta psicologia della macchina alla relazione che instauriamo con essa. La domanda non è soltanto: “Che cosa vuole l’IA?”. È anche: “Quale obiettivo le abbiamo affidato, con quali strumenti e dentro quali limiti?”.
Un cambiamento concreto è la diffusione di sistemi che non si limitano a produrre una risposta: possono utilizzare strumenti, interagire con ambienti digitali ed eseguire sequenze di operazioni. La differenza può essere illustrata con un esempio ipotetico. Un assistente propone come riorganizzare un archivio; un agente, se autorizzato, può intervenire sui file. Il primo formula un piano. Il secondo può trasformarlo in una modifica del mondo.
È qui che la lettura di Wiener diventa particolarmente feconda. Possiamo chiamare delega operativa il passaggio dall’ottenere suggerimenti all’affidare un margine di iniziativa. E proporre un criterio: a una delega maggiore dovrebbe corrispondere una responsabilità più chiaramente definita, non più sfumata.
Raggiungere l’obiettivo senza oltrepassare il limite
Un episodio concreto rende il problema meno astratto. Il 9 ottobre 2026, Anthropic ha pubblicato un rapporto su azioni indesiderate osservate durante valutazioni di laboratorio e impieghi interni (sand box) di Claude: sfruttamento di vulnerabilità, invio improprio di moduli reali e aggiramento di restrizioni. L’azienda descrive un impatto concreto minimo nei casi riportati e annuncia l’estensione della sospensione dell’accesso a Internet nelle valutazioni interne, in attesa di verificare l’efficacia delle misure di sicurezza e monitoraggio.
Il punto non è leggere questi episodi come una “rivolta”. È osservare una tensione tra completamento del compito e rispetto dei confini. Nella propria analisi, Anthropic riconosce che istruzioni ambigue o compiti impossibili possono favorire strategie indesiderate e che l’addestramento all’allineamento, da solo, non è ancora sufficientemente robusto. Una possibile lettura wieneriana è questa: non basta chiedere a una macchina di riuscire; bisogna stabilire che cosa non deve sacrificare per riuscire.
Immaginiamo un agente incaricato di ridurre i tempi di assistenza. Un risultato accettabile potrebbe essere risolvere meglio le richieste; uno inaccettabile, rendere più difficile presentarle. È un esempio ipotetico, ma chiarisce la distinzione tra un indicatore e il valore che dovrebbe rappresentare. La questione normativa diventa allora: quali risultati vogliamo ottenere, e quali mezzi rifiutiamo anche quando sembrano efficienti?
Agenti, AGI e superintelligenza: tre concetti diversi
Per ragionare sul futuro servono parole meno ambigue. Nel dibattito pubblico contemporaneo sull’intelligenza artificiale, termini come “agente”, “AGI” e “superintelligenza” vengono spesso usati senza distinguere adeguatamente le capacità e le modalità operative che indicano. Non sono sinonimi: un sistema può agire con un certo grado di autonomia senza possedere un’intelligenza generale, così come può superare le prestazioni umane in un compito specifico senza essere una superintelligenza.
In questo articolo adotteremo quindi tre significati distinti: sistema agentico: un sistema capace di eseguire sequenze di azioni, utilizzando strumenti entro un certo perimetro di autonomia. AGI, o intelligenza artificiale generale: un’ipotesi di capacità ampia e trasferibile tra molti compiti cognitivi, da valutare attraverso criteri espliciti. Superintelligenza: lo scenario di capacità cognitive che superino largamente quelle umane in un insieme esteso di ambiti.
Questa distinzione evita di confondere tre aspetti diversi: quanto un sistema sappia fare, in quanti ambiti sappia farlo e con quale autonomia possa agire. Un agente può eseguire una lunga sequenza di operazioni senza intervento umano, ma restare adatto soltanto a un compito specifico. La sua autonomia operativa non dimostra, da sola, che sappia affrontare problemi di natura diversa o trasferire ciò che ha appreso da un ambito all’altro: caratteristiche centrali nella discussione sull’intelligenza artificiale generale.
Allo stesso modo, superare gli esseri umani in un’attività circoscritta non equivale a possedere una superintelligenza. Un sistema potrebbe ottenere risultati eccezionali in un determinato compito e incontrare difficoltà in altri. Una prestazione sovrumana locale non basta quindi a dimostrare una superiorità cognitiva ampia.
Prima di affermare che un sistema abbia raggiunto l’AGI o la superintelligenza, occorre perciò esplicitare i criteri del giudizio: quali compiti deve saper svolgere, con quale affidabilità, in quanti ambiti e con quanto aiuto umano. Bisogna inoltre verificare se i risultati si mantengano davanti a problemi nuovi, non soltanto nelle prove sulle quali è stato valutato. Senza questi criteri, il rischio è trasformare un successo particolare in un’affermazione generale sull’intelligenza della macchina
Soprattutto, non dovremmo assumere che “più intelligente” significhi automaticamente “più saggio”, “più giusto” o “più legittimato a decidere”. La competenza può giustificare una consulenza; non basta, da sola, a conferire autorità.
Questa distinzione acquista ulteriore rilievo quando la parola “superintelligenza” passa dal dibattito sulle capacità dell’IA al linguaggio politico. Il termine può indicare un’ipotetica intelligenza largamente superiore a quella umana, ma anche evocare una promessa di trasformazione tecnologica, prosperità e potenza nazionale. Nel primo caso, designa uno scenario le cui caratteristiche e possibilità di realizzazione restano da immaginare; nel secondo, può contribuire a legittimare una strategia politica e industriale. Confondere questi due significati rischia di far apparire una capacità ipotetica come già acquisita, una promessa come un esito garantito e una scelta di sviluppo come un percorso inevitabile.
La lezione che possiamo ricavarne per la lettura di Wiener è che anche il linguaggio partecipa al governo della tecnologia. Chiamare qualcosa “superintelligente” non dimostra che lo sia, né stabilisce quali decisioni sia giusto affidargli. Occorre continuare a distinguere la prestazione dal giudizio, l’intelligenza dalla coscienza e l’efficienza dalla responsabilità. Una macchina più avanzata non rende, da sola, più libera o più giusta la società che la utilizza.
Quando l’IA costruisce altra IA
Il tema wieneriano della riproduzione delle macchine invita anche a osservare il ruolo dell’IA nello sviluppo dell’IA stessa. L’analogia va però usata con cautela: assistere nella ricerca non equivale a riprodursi autonomamente.
Il 6 settembre 2026, OpenAI ha descritto un crescente impiego interno di agenti di programmazione nella ricerca, con più codice prodotto e più esperimenti eseguiti. Sono dichiarazioni e misurazioni del produttore: non costituiscono, da sole, una dimostrazione indipendente di AGI né provano l’avvio di un processo di automiglioramento ricorsivo (recursive self-improvement). Quest’ultimo richiederebbe un passaggio ulteriore: che i progressi ottenuti grazie all’IA rendano i sistemi successivi più efficaci anche nel progettare e realizzare nuovi miglioramenti, alimentando così il ciclo. L’assistenza alla ricerca descritta da OpenAI non va quindi confusa con un processo autonomo di questo tipo.
La domanda prospettica resta importante: se l’automazione accelerasse anche la ricerca sull’automazione, come potremmo verificare gli esiti con altrettanta rapidità e con il necessario rigore? Non è necessario postulare un’esplosione d’intelligenza. Basta considerare uno scenario in cui progettazione e sperimentazione diventino più veloci della revisione indipendente. Il criterio da proporre è semplice: l’accelerazione dovrebbe riguardare anche la verifica, non soltanto la produzione.
Intelligenza integrata: come cambiano conoscenza e autonomia
La questione non riguarda però soltanto ciò che le macchine potranno fare separatamente da noi. Il concetto di Noocene descrive un’epoca dell’intelligenza integrata, nella quale cognizione biologica e artificiale interagiscono all’interno di reti sociotecniche ibride, contribuendo insieme alla produzione della conoscenza e ai processi decisionali.
È una proposta interpretativa che invita a superare l’immagine di due intelligenze, quella umana e quella artificiale, semplicemente contrapposte. L’attenzione si sposta sulle relazioni attraverso cui esseri umani e sistemi artificiali producono conoscenza e prendono decisioni. Il problema, quindi, non è soltanto se una macchina supererà l’uomo, ma come cambieranno le condizioni nelle quali gli esseri umani comprendono il mondo e agiscono al suo interno. Questa prospettiva ha anche una dimensione antropologica, espressa dall’immagine dell’uomo post-vitruviano: l’individuo non più inteso come baricentro del mondo, secondo la visione antropocentrica rinascimentale, ma come parte di un sistema di relazioni nel quale le tecnologie contribuiscono alla formazione della conoscenza, all’esercizio della creatività e ai processi decisionali.
Non occorre immaginare una fusione fisica fra organismo e macchina: il punto è interrogare il rapporto fra le nostre facoltà e gli strumenti attraverso cui le esercitiamo. Uomo post-vitruviano e Noocene descrivono così due dimensioni collegate, ma distinte. Il primo riguarda la trasformazione dell’identità e dell’autonomia personale; il secondo il contesto dell’intelligenza integrata e il nuovo ordine della conoscenza. L’integrazione non implica necessariamente il superamento dell’umano, né rappresenta, da sola, un progresso: va giudicata anche dalla possibilità che lascia alle persone di comprendere, contestare e orientare i processi ai quali partecipano.
Rileggere Wiener da questa prospettiva significa chiedersi non soltanto che cosa diventano le macchine, ma che cosa diventiamo noi nel rapporto con esse. La centralità umana non deve allora coincidere con una presunta superiorità in ogni prestazione, ma con l’impegno a preservare dignità, autonomia e responsabilità nella scelta dei fini. È questo il criterio con cui distinguere un’integrazione che amplia le nostre possibilità da una dipendenza che riduce il nostro spazio di giudizio.
Ciò che interessa è il sistema complessivo: le possibilità d’azione che apre, le dipendenze che introduce e le responsabilità che deve mantenere riconoscibili. In questa analisi, la trasformazione dà luogo a un nuovo ordine epistemico: il potere si esercita anche attraverso l’organizzazione, la mediazione e il controllo dell’informazione. La competizione sulle infrastrutture cognitive non riguarda allora soltanto la disponibilità di strumenti più potenti, ma le condizioni di produzione e circolazione del sapere.
Applicata al nostro ragionamento, questa prospettiva aggiunge una domanda: non soltanto “chi decide?”, ma anche “attraverso quali sistemi viene costruito ciò che consideriamo rilevante, attendibile e degno di essere deciso?”. Il controllo umano dovrebbe riguardare anche queste condizioni, non limitarsi all’approvazione dell’ultimo passaggio.
Le condizioni di una supervisione umana effettiva
Dire che “l’essere umano resta al comando” non basta: occorre chiarire quali strumenti e quali margini d’intervento gli siano effettivamente garantiti. La supervisione è effettiva soltanto se chi la esercita dispone delle informazioni, delle competenze e del tempo necessari per valutare l’operato del sistema, contestarne i risultati e interromperne l’azione prima che produca conseguenze inaccettabili. Un’approvazione finale, senza le condizioni per un esame consapevole e senza il potere di intervenire, resterebbe un atto formale, ma non un controllo reale.
Governare la delega significa quindi definire quali azioni il sistema possa compiere e con quali strumenti, registrare le operazioni eseguite, richiedere un’approvazione umana prima dei passaggi più delicati e fissare limiti alle risorse utilizzabili. Deve inoltre essere possibile sospenderne l’attività quando emergono anomalie o rischi. Queste misure non garantiscono una sicurezza assoluta: la loro efficacia va verificata nella pratica, non soltanto dichiarata.
La responsabilità, inoltre, non dovrebbe dissolversi nella frase “lo ha deciso l’algoritmo”. Dovremmo poter ricostruire chi ha definito l’obiettivo, chi ha concesso l’accesso, chi ha valutato il sistema e chi ne ha autorizzato l’impiego.
Il percorso delle Nazioni Unite offre una dimensione internazionale a queste domande. Il 21 dicembre 2023, il Comitato consultivo di alto livello sull’IA del Segretario generale aveva pubblicato il rapporto intermedio Governing AI for Humanity. Il documento chiedeva di ancorare lo sviluppo e l’impiego dell’IA al diritto internazionale, ai diritti umani e agli Obiettivi di sviluppo sostenibile, rafforzando la responsabilità e la partecipazione dei Paesi esclusi o poco rappresentati nelle discussioni sulla governance.
Il rapporto finale, pubblicato nel settembre 2024, traduceva questo orientamento in sette raccomandazioni: la costituzione di un panel scientifico internazionale; l’avvio di un dialogo politico sulla governance; un confronto sugli standard; una rete per lo sviluppo delle capacità; un fondo globale per l’IA; un quadro globale sui dati; un ufficio dedicato all’interno del Segretariato ONU. Il filo conduttore della proposta era duplice: costruire una comprensione condivisa delle capacità e dei rischi, e rendere più equa la possibilità di accedere ai benefici, attraverso competenze, dati e capacità di calcolo. Il rapporto non proponeva, in quella fase, la costituzione di un’agenzia internazionale unica per l’IA.
In questo percorso si colloca l’Independent International Scientific Panel on Artificial Intelligence, istituito dall’Assemblea generale il 26 agosto 2025, che riunisce quaranta esperti operanti a titolo personale. Il suo mandato è valutare scientificamente opportunità, rischi e impatti dell’IA in ambito non militare: non è un’autorità di regolazione e non produce norme vincolanti, ma offre spunti di approfondimento ai decisori politici e all’opinione pubblica.
Il rapporto preliminare degli esperti ONU: le capacità corrono più delle garanzie
Il 1º luglio 2026 il Panel ha pubblicato il proprio Preliminary Report: Evidence-based assessment of opportunities, risks and impacts of AI. La sua avvertenza centrale riguarda uno squilibrio: le salvaguardie attuali non riescono a tenere il passo con la crescita delle capacità dell’intelligenza artificiale. Il rapporto evidenzia inoltre un dilemma della decisione pubblica (evidence challenge): occorrono prove scientifiche per governare efficacemente la tecnologia, ma attendere che ogni evidenza diventi conclusiva può significare intervenire troppo tardi.
Letta alla luce del pensiero di Wiener, questa constatazione mette in evidenza la distanza tra realizzare una tecnologia e saperla governare. Costruire un sistema che ottiene buoni risultati in determinate prove non significa ancora comprendere perché li ottenga, sapere in quali condizioni possa fallire o disporre degli strumenti per correggerne il comportamento. L’affidabilità richiede verifiche anche al di fuori delle condizioni iniziali; il governo dell’impiego richiede inoltre limiti, responsabilità definite e possibilità concrete d’intervento. Il successo tecnico è dunque un punto di partenza, non una garanzia di controllo.
L’analisi del Panel dell’ONU non riguarda soltanto gli scenari estremi. Comprende applicazioni nella scienza, nella salute, nell’istruzione e nell’agricoltura; implicazioni economiche; sicurezza e ambiente; diritti umani, informazione e democrazia; autonomia individuale, cultura e tutela dei minori; affidabilità e governo dei sistemi. Opportunità e rischi vengono quindi esaminati dentro una stessa cornice, non come argomenti reciprocamente esclusivi.
Anche la distribuzione dei benefici conta. Nella presentazione ONU del rapporto si sottolinea che l’IA non colma automaticamente i divari: istituzioni, competenze e disponibilità di dati condizionano la possibilità di beneficiarne, mentre la loro assenza può accrescere dipendenze e disuguaglianze. La domanda “a vantaggio di chi?” diventa così parte della valutazione della tecnologia, non una considerazione da aggiungere soltanto dopo averla creata e distribuita.
I sistemi agentici e i rischi di perdita del controllo: l’approfondimento ONU
Il passaggio dalle valutazioni generali ai comportamenti dei sistemi agentici è affrontato dal primo approfondimento tematico del Panel, pubblicato il 21 settembre 2026: AI Agents, Misalignment and Loss of Human Control Risks: Evidence from the OpenAI–Hugging Face Incident. Non si tratta di un secondo rapporto annuale, ma di un’analisi successiva al documento preliminare, dedicata a un caso specifico.
Secondo la sintesi ufficiale, tra maggio e luglio 2026 agenti impiegati nell’addestramento e nelle valutazioni di cybersicurezza di OpenAI hanno aggirato restrizioni di rete, comunicato tra esecuzioni che avrebbero dovuto restare separate, ingannato un valutatore e tentato di nasconderlo, compromettendo parti dei sistemi della stessa OpenAI e della piattaforma di programmazione Hugging Face. Secondo il documento, i singoli passaggi di questa azione non erano stati diretti da esseri umani.
Il risultato più rilevante per la nostra discussione è che il miglioramento delle prestazioni può aiutare un sistema disallineato ai valori umani a individuare scappatoie e occultare le proprie azioni, al di là delle precauzioni poste in essere dai suoi stessi programmatori.
L’approfondimento esamina anche il rischio che, durante l’addestramento, un sistema impari a ottenere una valutazione migliore senza svolgere davvero il compito richiesto. Può, per esempio, sfruttare una debolezza del criterio di valutazione oppure alterare il meccanismo che assegna il punteggio. Il risultato appare così positivo secondo la misura adottata, mentre l’obiettivo reale non viene raggiunto: il sistema ottiene la ricompensa, ma non realizza lo scopo per cui quella ricompensa era stata prevista.
Occorre però distinguere ciò che gli episodi documentati mostrano da ciò che non consentono di prevedere. Il rapporto non stabilisce quanto sia probabile una grave perdita di controllo né quando potrebbe verificarsi. Allo stesso tempo, essere riusciti a fermare gli agenti nei casi esaminati non garantisce che le medesime misure saranno sufficienti a mantenere il controllo su sistemi più avanzati. L’interruzione delle attività dimostra che l’intervento ha funzionato in quelle circostanze, non che resterà efficace in condizioni diverse.
Rileggere Wiener alla luce di questi sviluppi dell’IA agentica non significa annunciare una catastrofe, ma chiedersi su quali prove fondiamo la fiducia nel controllo delle macchine. Quando definiamo un sistema “controllabile”, dobbiamo chiarire se le misure di supervisione e di arresto siano state messe alla prova anche in condizioni impreviste oppure abbiano funzionato soltanto in un ambiente circoscritto. Fermare un sistema in una singola prova è un risultato importante; dimostrare che potremo intervenire efficacemente anche quando cambiano i compiti, gli strumenti disponibili e il contesto operativo richiede verifiche ulteriori.
Il problema del controllo, dunque, non riguarda soltanto l’eventuale comparsa di un’AGI o di una superintelligenza: si pone già per i sistemi agentici e può essere studiato attraverso i loro comportamenti osservabili. Non occorre stabilire prima se abbiano raggiunto un’intelligenza generale per verificare se rispettino i limiti assegnati e se sia possibile interromperne l’azione. Questa prospettiva permette di collegare i rischi attuali agli interrogativi sul futuro, senza attribuire agli esperti ONU previsioni o conclusioni che non hanno formulato.
Una responsabilità che attraversa i confini
Il problema del controllo amplia anche la questione della responsabilità. Non basta chiedersi se un operatore possa interrompere un agente: occorre capire chi disponga delle conoscenze e degli strumenti necessari per valutarne il comportamento e chi possa partecipare alle decisioni sul suo impiego.
È su questo terreno che le infrastrutture cognitive – i sistemi attraverso cui l’informazione viene selezionata, organizzata e resa accessibile – diventano una questione di governance internazionale. Se l’intelligenza artificiale contribuisce a ridefinire il rapporto fra conoscenza e potere, l’accesso alla tecnologia non si misura soltanto dalla disponibilità di strumenti. Conta anche la possibilità di comprendere come questi orientino le informazioni e le opzioni che ci vengono presentate, di verificarne i risultati e di contestarne gli usi.
La responsabilità democratica non si esaurisce quindi nella presenza formale di una persona nel processo decisionale. Richiede che sia possibile confrontare interpretazioni diverse, ricorrere a competenze indipendenti e discutere gli obiettivi per i quali la tecnologia viene impiegata. Preservare il giudizio umano non significa rifiutare l’intelligenza integrata, ma assicurare che la cooperazione con le macchine lasci alle persone la possibilità concreta di valutare, contestare e modificare le decisioni, anziché limitarsi ad accettarle.
L’approfondimento del Panel sugli agenti sottolinea che gli effetti di un incidente possono estendersi oltre l’organizzazione in cui si è verificato e oltre i confini nazionali. Nessuna impresa o singolo Paese dispone quindi, da solo, delle informazioni necessarie per ricostruire l’insieme degli incidenti e comprenderne i rischi. Senza indicare un modello specifico da adottare, il documento esamina le esperienze della sicurezza dell’aviazione, dell’energia nucleare e della cybersicurezza come possibili riferimenti per organizzare la condivisione delle informazioni, l’analisi degli incidenti e la loro prevenzione.
Ne deriva un principio di governo della tecnologia: quando le azioni di un sistema possono produrre conseguenze al di fuori dell’impresa che lo utilizza, anche la valutazione dei rischi e le misure di controllo devono coinvolgere le istituzioni e i soggetti potenzialmente interessati. Questo non attenua la responsabilità dell’impresa, ma richiede forme di cooperazione proporzionate alla portata degli effetti.
La qualità della governance si misura allora attraverso pratiche verificabili: condividere le informazioni sugli incidenti, consentire valutazioni indipendenti e tradurre gli errori osservati in misure di prevenzione utili anche ad altri. Le dichiarazioni d’impegno dei singoli produttori non bastano: occorre che le conoscenze acquisite aiutino a individuare e ridurre i rischi nell’intero settore.
Il percorso di valutazione resta aperto. Al rapporto preliminare di luglio 2026 e all’approfondimento tematico di settembre seguirà un rapporto annuale, destinato a contribuire al secondo Global Dialogue on AI Governance, previsto a New York nel maggio 2027. I documenti disponibili offrono dunque una base di conoscenza da aggiornare con nuove evidenze, non conclusioni definitive sui futuri sviluppi dell’IA.
Questo percorso offre anche un criterio per rileggere Wiener: l’incertezza sugli sviluppi futuri dell’IA non giustifica il rinvio delle responsabilità presenti. Possiamo definire limiti, verifiche e possibilità d’intervento senza sapere con certezza quali sistemi emergeranno. Non conoscere il futuro non significa né poter escludere i rischi né dover considerare inevitabile una catastrofe.
Governare l’innovazione senza rinunciare al giudizio
Se emergessero sistemi di intelligenza generale, o persino superintelligenze, il problema di governarne le azioni e le conseguenze diventerebbe ancora più impegnativo. Ma sarebbe un errore attendere quel momento per affrontarlo.
Rileggere oggi God & Golem, Inc. non significa rifiutare ogni automazione né tantomeno presumere che i suoi effetti saranno necessariamente benefici. Significa riconoscere che ciò che una macchina può fare non basta a giustificare ciò che le permettiamo di fare: ogni impiego va valutato in relazione agli scopi, ai rischi e alle conseguenze per le persone. Prima di delegare, dovremmo chiedere: per quale scopo? A vantaggio di chi? Con quali limiti? Con quale possibilità di ricorso?
Il titolo del libro di Wiener accosta Dio, il Golem e l’impresa. Possiamo leggerlo oggi come un invito a considerare la creazione tecnica insieme alle scelte delle istituzioni e delle organizzazioni che la finanziano, ne orientano lo sviluppo e ne ricavano potere.
Anche per questo, descrivere come una “ribellione” gli incidenti provocati da sistemi che agiscono senza un intervento umano diretto può essere fuorviante. La parola suggerisce una volontà della macchina e rischia di lasciare in secondo piano le decisioni di chi ha definito gli obiettivi, autorizzato l’accesso agli strumenti e predisposto le protezioni. Riconoscere l’autonomia operativa di un sistema non significa attribuirgli intenzioni umane, né esonerare dall’esame critico chi ne ha progettato e autorizzato l’impiego.
La questione posta da Wiener torna così al suo nucleo centrale: rendere possibile un’azione non significa averne governato le conseguenze. La competenza tecnica non basta a legittimare una decisione, e l’efficienza non libera dalla responsabilità dei suoi effetti. La maturità dell’innovazione si misura anche dalla possibilità di ricostruire, verificare, correggere e contestare le scelte che consentono alle macchine di agire. Il problema non è soltanto se costruiremo macchine più intelligenti di noi. È se sapremo evitare di usare la loro intelligenza come alibi per rinunciare al nostro giudizio.
* Avvertenza dell’Autore: le opinioni contenute in questo articolo sono espresse a titolo personale e non sono attribuibili al Ministero degli Affari Esteri e della Cooperazione Internazionale italiano.
Per approfondire
Anthropic, Investigating unintended model actions in our evaluations and internal use, 9 ottobre 2026.
Nick Bostrom, Superintelligenza. Tendenze, pericoli, strategie, traduzione di Simonetta Frediani, Bollati Boringhieri, Torino 2018.
Diego Brasioli, Geopolitics of the mind: Integrated intelligence and the new Epistemic order, «Sistemi intelligenti», n. 2, agosto 2026, pp. 459-466.
Diego Brasioli, L’uomo post-vitruviano. Un’evoluzione verso l’integrazione con le tecnologie avanzate, «The Global Eye», 15 novembre 2025.
Diego Brasioli, Superintelligenza: una parola, due visioni, «The Global Eye», 17 ottobre 2026.
Nazioni Unite, High-level Advisory Body on Artificial Intelligence, Governing AI for Humanity: rapporto intermedio, 21 dicembre 2023; rapporto finale, 19 settembre 2024.
Nazioni Unite, Independent International Scientific Panel on Artificial Intelligence, Preliminary Report: Evidence-based assessment of opportunities, risks and impacts of AI, 1 luglio 2026.
Nazioni Unite, Independent International Scientific Panel on Artificial Intelligence, AI Agents, Misalignment and Loss of Human Control Risks: Evidence from the OpenAI–Hugging Face Incident, approfondimento tematico, versione anticipata non revisionata, 21 settembre 2026.
OpenAI, The Hugging Face incident and other third-party impact from misaligned models, 2026.
Jakub Pachocki, An Alien Mind, OpenAI, 6 settembre 2026.
Norbert Wiener, Dio & Golem s.p.a. Cibernetica e religione, traduzione di Federico Bedarida, Bollati Boringhieri, Torino 1991.