Una ritrattazione che non c’è
Gli interventi più recenti di Emily Bender – la linguista che nel 2021 ha coniato, con Timnit Gebru e altri, la celebre formula dei «pappagalli stocastici» – hanno lasciato presumere a molti un ripensamento. Commentando i sistemi multimodali, Bender ha riconosciuto che i modelli testo-immagine «si può sostenere soddisfino la definizione di comprensione di Bender & Koller 2020, sebbene in modo estremamente sottile»; e la nuova monografia scritta con Alex Hanna, The AI Con (uscita anche in Italia per Fazi), è stata letta da alcuni come una concessione: la critica più intransigente avrebbe finalmente ammesso che i grandi modelli linguistici possiedono almeno una forma debole di comprensione.
A leggere i testi con attenzione, però, la concessione non c’è. Nel capitolo dedicato all’hype dell’IA, Bender e Hanna ribadiscono al presente, anno 2025, l’identica tesi del 2021: la formula dei pappagalli stocastici serve a rendere vivido come i modelli si limitino a manipolare la forma del linguaggio, senza né comprensione né intenzione comunicativa. Nessuna ritrattazione; semmai una difesa rafforzata, perché a chi obietta che gli LLM «dicono cose nuove», e dunque non sarebbero pappagalli, Bender risponde che dire cose nuove è precisamente ciò che l’aggettivo «stocastico» significa. L’apertura sui multimodali, lungi dall’essere una resa, è anzi l’applicazione rigorosa della sua stessa teoria del 2020, dove la comprensione richiedeva un ancoraggio a qualcosa fuori dal linguaggio: i multimodali quel fuori, almeno in parte, ce l’hanno.
Il fraintendimento, dunque, è un fraintendimento. Ma proprio per questo è interessante, perché un equivoco che circola non è mai soltanto un errore: è il sintomo di un bisogno che da qualche parte preme. E il bisogno che preme, qui, è abbastanza chiaro. Il dibattito pubblico sull’intelligenza artificiale – in Italia come altrove, ma con accenti italiani particolarmente vistosi – è rimasto incagliato in una dicotomia diventata insostenibile: i sistemi capiscono o non capiscono? sono intelligenti o sono pappagalli? hanno qualcosa di simile a una mente, oppure no? Tra queste due opzioni, una larga parte dell’opinione informata ha cominciato a sospettare che entrambe siano insoddisfacenti. E in mancanza di un terzo termine se lo inventa, proiettando sui critici concessioni che non hanno fatto, perché sente che da qualche parte la critica deve pur cedere.
La tesi che si intende sostenere è che il terzo termine esiste, ma non sta nella linguistica né nelle scienze cognitive. Sta nel diritto. E il diritto, da molto più tempo di quanto si creda, sa come trattare entità che producono effetti senza essere soggetti pieni.
La diagnosi di Bender: rigorosa, e insufficiente
La posizione di Bender va presa sul serio, perché è la più solida tra le critiche all’antropomorfizzazione dell’IA. La sua tesi, formulata in più lavori con Alexander Koller (2020) e con Timnit Gebru e altre (2021), e ora ripresa nel libro divulgativo del 2025, si può riassumere così. Il linguaggio umano è essenzialmente un’operazione comunicativa: presuppone un parlante che intende qualcosa, un ascoltatore che interpreta quell’intenzione, e un mondo a cui le parole si riferiscono. Un grande modello linguistico non possiede né intenzione comunicativa né accesso al mondo: è addestrato a predire, dato un contesto di parole, la parola successiva più probabile. Il risultato può essere statisticamente plausibile, anche elegante, talvolta corretto; ma la procedura che lo produce è strutturalmente diversa dalla comunicazione umana. Chi confonde le due cose proietta sul sistema una soggettività che il sistema non possiede. L’illusione è forte perché il cervello umano è cablato per leggere intenzione dietro le parole: di fronte a un testo coerente, è difficile non immaginare una mente dietro di esso. Ma questa difficoltà non significa che la mente ci sia.
Questa diagnosi è corretta. È anche, va detto, una diagnosi che il diritto dovrebbe ascoltare con attenzione, perché ha conseguenze immediate sul problema della responsabilità: se il sistema non ha intenzione comunicativa, esso non può essere imputato di ciò che «dice» nel modo in cui imputiamo un parlante umano. Una diffamazione prodotta da un chatbot non è una diffamazione nel senso classico; un consiglio medico generato da un LLM non è un parere professionale nel senso classico; una previsione di rischio recidiva sputata da un algoritmo non è una valutazione discrezionale nel senso classico.
Eppure – e qui inizia il limite della cornice di Bender – questa diagnosi non basta. Non basta perché lascia aperto, anzi rilancia, un problema che nessun discorso linguistico può risolvere: la diffamazione prodotta dal chatbot continua a essere diffamatoria nei suoi effetti reputazionali; il consiglio medico generato dall’LLM continua a influenzare la decisione del paziente; la previsione algoritmica continua a determinare se l’imputato resta o no in custodia cautelare. Gli effetti normativi ci sono, anche se il soggetto cognitivo non c’è. E il diritto, a differenza della linguistica, non può limitarsi a notare che il soggetto manca. Deve dirci chi risponde di quegli effetti, e secondo quale forma di responsabilità.
Che la formula-slogan abbia esaurito la propria capacità descrittiva è del resto un rilievo che comincia a circolare anche fuori dall’ambito giuridico. In una lettura ravvicinata degli ultimi interventi di Bender, Francesco D’Isa ha mostrato come la tesi semantica forte si sia progressivamente ritirata su un terreno protetto: riclassificata da ipotesi empirica a metafora, essa conserva la propria forza evocativa ma perde ogni esposizione alla confutazione, oscillando tra una difesa minima – «è soltanto un’immagine» – e un uso ancora descrittivo, che pretende di dire come i sistemi «funzionino effettivamente». La diagnosi è acuta, e la conclusione che ne trae – abbandonare la postura assolutista, imparare a tenere insieme i problemi sociali dei sistemi e la loro effettiva potenza tecnica – è condivisibile. Ma è una conclusione che si ferma un passo prima: indica che il dibattito deve diventare quantitativo, «in che misura, di che tipo, con quali conseguenze pratiche», senza però nominare lo strumento con cui quella misura si prende. È qui che il discorso giuridico può raccogliere il testimone. Perché la domanda «con quali conseguenze pratiche» non è una domanda linguistica né etica: è, propriamente, una domanda di imputazione.
Bender ci dice giustamente che la macchina non comprende. Ma resta dentro una cornice secondo cui ciò che conta giuridicamente è stabilire se il sistema sia o non sia un soggetto cognitivo – e quindi, fallita questa verifica, il problema si dissolverebbe nella domanda alternativa: chi ha programmato la macchina? chi l’ha messa in commercio? chi l’ha usata? La triade classica produttore–distributore–utente. Il guaio è che questa triade è troppo grossolana per cogliere ciò che effettivamente accade quando un sistema generativo produce un effetto giuridicamente rilevante. Cogliere meglio richiede un vocabolario diverso. Ma prima di proporlo, conviene guardare l’altra metà del cielo del dibattito.
Le architetture della comprensione: lo stesso errore, rovesciato
Dall’altro lato del dibattito stanno coloro che, contro Bender, sostengono che qualcosa di simile alla comprensione nei modelli ci sia, o stia per esserci, o possa essere costruito. Yann LeCun, da anni, propone architetture alternative ai modelli autoregressivi – le JEPA, Joint Embedding Predictive Architectures – che dovrebbero apprendere rappresentazioni latenti del mondo invece di limitarsi a predire il prossimo token. Il presupposto è che esista una differenza qualitativa tra modellare la continuità statistica del linguaggio e modellare la struttura causale, fisica, intenzionale del mondo. Una posizione in apparenza molto distante è quella, recente, di chi propone di disciplinare il ragionamento degli LLM attraverso scaffold simbolici esterni: protocolli che separano la fase abduttiva (generare ipotesi) dalla fase deduttiva (verificarne la consistenza) dalla fase induttiva (corroborarle empiricamente), assegnando a ciascuna un’affidabilità diversa e impedendo che le congetture deboli si propaghino come fossero conclusioni validate. È il caso, ad esempio, del Quintetto Gamma e del cosiddetto «Transformer Mandate» proposti di recente da Sankalp e Shlok Gilda.
Queste posizioni – molto diverse tra loro – hanno però un tratto strutturale in comune. Anch’esse, come quella di Bender, ragionano dentro la cornice ontologica del soggetto cognitivo. La differenza è solo che, dove Bender nega che il sistema possieda comprensione, questi approcci cercano di costruirla: o internamente, attraverso architetture diverse dal token-prediction (JEPA); o esternamente, attraverso scaffold logici che dovrebbero ratificare la qualità epistemica dell’output (Gilda). In entrambi i casi, la domanda di fondo resta la stessa: come facciamo a far diventare il sistema un soggetto un po’ meno difettoso? come gli aggiungiamo ciò che gli manca – comprensione, world model, verifica logica – perché possa funzionare come un agente epistemico legittimo?
È una domanda interessante. Ma è anche, dal punto di vista del diritto, la domanda sbagliata. O meglio: è una domanda che apparterrà utilmente all’ingegneria e all’epistemologia per molti anni a venire, ma che lascia intatto il problema giuridico. Perché il diritto non aspetta che il sistema diventi un soggetto adeguato per dover trattare i suoi effetti. I sistemi attuali, imperfetti, opachi, talvolta inattendibili, sono già in produzione – nei tribunali, nelle banche, negli ospedali, nelle aule scolastiche, negli uffici della pubblica amministrazione. Producono già effetti giuridicamente rilevanti. E il diritto deve già sapere chi ne risponde.
C’è, sotto questa simmetria tra critici e costruttori, un presupposto ancora più profondo che vale la pena portare alla luce. La formula del pappagallo vive interamente di un avverbio: «solo». Dire che un modello è soltanto un pappagallo stocastico significa affermare che nessun accumulo quantitativo – di dati, di parametri, di strati – potrà mai rovesciarsi in una proprietà di natura diversa da quella del materiale di partenza. È, in termini hegeliani, la negazione del nodo: il rifiuto di ammettere che esista una soglia lungo la quale l’incremento di misura cessa di essere mero incremento e produce un salto qualitativo – l’acqua che a cento gradi non si scalda «di più» ma cambia stato, il deserto che nessun granello è e che pure, oltre una certa quantità, emerge come realtà d’ordine superiore. Il punto non è la composizione, l’accumulo che resta esterno e additivo; è l’Aufhebung, il superamento che insieme conserva e annulla il proprio materiale. Gli LLM non estrapolano il già-dato né si limitano a ricomporlo: operano su una soglia in cui la ricomposizione si rovescia in una funzione che il materiale ingerito non possedeva. Lo si è visto, in modo quasi letterale, nella vicenda di Project Panama – tra mezzo milione e due milioni di volumi acquistati da Anthropic, privati del dorso, scansionati e poi distrutti per addestrare Claude, secondo gli atti desecretati nel 2026 nel caso Bartz v. Anthropic – e tuttavia l’output non è una pila di pagine rimescolate. Non a caso quell’ordinamento ha qualificato la scansione come uso trasformativo: per assolverla, il diritto ha dovuto presupporre ciò che la formula del pappagallo nega – che da quel materiale emerga qualcosa che non è la sua riproduzione. Chi insiste sul solo è costretto a sostenere che la quantità non possa mai diventare qualità: tesi che il pensiero dialettico ha confutato due secoli fa, e che davanti a un sistema multimodale con ragionamento esteso non è più nemmeno difendibile sul piano empirico. Resta vero – e va detto con la stessa fermezza – che il salto di misura non garantisce quale qualità emerga: non autorizza a parlare di coscienza né di un soggetto pieno. Autorizza, semmai, a riconoscere ciò che è davvero in gioco. Ed è esattamente qui che il diritto può prendere la parola dove la linguistica e l’ingegneria si fermano.
Tanto Bender quanto LeCun, tanto i critici quanto i costruttori, restano insomma prigionieri di una domanda preliminare – «il sistema possiede o no qualcosa di simile a una soggettività?» – alla quale legano la possibilità stessa di trattarlo giuridicamente. Ma il diritto non ha bisogno di rispondere a quella domanda. Sa, da molto tempo, fare a meno del soggetto pieno.
Soggettività di secondo ordine: una vecchia abitudine del diritto
Il diritto, contrariamente a quanto immagina chi lo conosce solo da fuori, non si è mai limitato a riconoscere soggetti pieni – esseri umani adulti, capaci, intenzionali, responsabili dei propri atti. Ha sempre dovuto trattare entità che producono effetti senza essere soggetti in questo senso forte. La persona giuridica è la più ovvia: una società per azioni non è un soggetto cognitivo, non possiede intenzioni, non comprende contratti; eppure stipula, risponde, fallisce. Il diritto romano trattava lo schiavo come res capace di obligationes; il diritto canonico ha riconosciuto a fondazioni e benefici un’autonomia patrimoniale; il diritto marittimo ha imputato per secoli responsabilità alle navi (l’actio in rem), il diritto degli animali in certe tradizioni ne ha trattato il comportamento come fonte di obblighi del proprietario. E poi, nel diritto interno: il minore che danneggia, l’incapace che dispone, l’interdetto che agisce. In tutti questi casi gli effetti giuridici si producono, le responsabilità si distribuiscono, le imputazioni si fanno – anche se nessuno dei «soggetti» coinvolti soddisfa i criteri della soggettività piena.
Hans Kelsen aveva visto questo punto con chiarezza estrema, ed è utile riprenderlo qui. L’imputazione giuridica – cioè l’operazione attraverso cui un evento viene riferito a un soggetto – non è una scoperta di un fatto psicologico, ma un’operazione normativa. Non scopriamo che la società ha voluto, decidiamo che a essa va imputata la volontà dei suoi organi. Niklas Luhmann, con la teoria dei sistemi, ha portato l’intuizione fino in fondo: nei sistemi sociali complessi, l’agente non è un centro psichico ma un punto di imputazione. Esiste perché il sistema giuridico ha bisogno di lui per chiudere il proprio circuito operativo. La sua «soggettività» è funzione della struttura, non sua proprietà ontologica.
Chiamo «soggettività di secondo ordine» questa modalità di esistenza giuridica: la condizione di un’entità che produce effetti normativi senza possedere una soggettività cognitiva piena, e i cui effetti devono comunque essere imputati, distribuiti, sanzionati. Non è un’invenzione concettuale per l’intelligenza artificiale: è la generalizzazione di una pratica che il diritto ha sempre esercitato. Il punto, oggi, è che i sistemi generativi entrano in questa categoria in modo nuovo, con caratteristiche che la categoria tradizionale non basta a contenere.
La persona giuridica, infatti, era ancora un’entità docile alla finzione: dietro di essa stavano organi umani identificabili, decisioni umane ricostruibili, una struttura proprietaria visibile. L’imputazione potevamo farla risalire – attraverso una catena finta ma tracciabile – a centri umani di volontà. Il sistema generativo rompe questa catena. Non perché sia più «autonomo» della società per azioni – metafora sbagliata, antropomorfica anch’essa – ma perché i suoi effetti emergono da una topologia di decisioni stratificate (training, fine-tuning, prompt engineering, deploy, configurazione, contesto d’uso) che nessun singolo punto della catena può rivendicare come «sua». Questo è un problema giuridico nuovo. Ma è un problema giuridico nuovo nella forma, non nella struttura: continua a essere il problema di imputare effetti normativi a entità che non sono soggetti pieni.
Abduzione operativa, colpa di architettura
Per nominare ciò che i sistemi generativi effettivamente fanno si può ricorrere all’espressione abduzione operativa. Charles Sanders Peirce aveva distinto tre forme di inferenza: l’abduzione, che genera ipotesi plausibili a partire da dati incompleti; la deduzione, che ne ricava conseguenze necessarie; l’induzione, che le sottopone a verifica empirica. Nella sua architettura, l’abduzione è il momento congetturale, fertile ma fragile: produce candidati alla verità, non verità. Soltanto l’attraversamento dei tre momenti, in un soggetto epistemico capace di operare le distinzioni, trasforma una congettura in conoscenza.
Un sistema generativo non attraversa la triade. Produce direttamente ipotesi, e queste ipotesi non aspettano di essere verificate per produrre effetti: agiscono. La diagnosi suggerita, la classificazione amministrativa proposta, la previsione di rischio calcolata, la moderazione di contenuti applicata non sono congetture in attesa di ratifica; sono operazioni che entrano immediatamente nella catena causale del mondo. È questo che si può definire abduzione operativa: una abduzione che non passa per il filtro della deduzione e dell’induzione, e che produce effetti normativi direttamente, in virtù della propria collocazione architetturale. Non importa se il sistema «comprenda» o no – nel senso di Bender, certamente non comprende. Ciò che importa è che la sua congettura agisce, in un punto in cui il diritto si aspettava che agisse un soggetto ratificatore.
Da qui discende il bisogno di una forma di responsabilità diversa da quella classica. La colpa, nella tradizione giuridica, si distribuisce su due assi: la volontà (intenzionalità o negligenza di un soggetto) e la prevedibilità (capacità di rappresentarsi gli effetti del proprio comportamento). Entrambi gli assi presuppongono un soggetto pieno, riconducibile a un centro psichico unitario. Ma se l’effetto emerge da una topologia distribuita – chi ha scelto i dati di addestramento, chi ha calibrato i pesi, chi ha definito il prompt di sistema, chi ha integrato il modulo nel flusso decisionale, chi lo ha usato senza supervisione adeguata – nessuno di questi punti, isolatamente preso, è «il» responsabile. Eppure tutti, insieme, costituiscono l’architettura che ha reso possibile l’effetto.
Chiamo «colpa di architettura» la forma di responsabilità che corrisponde a questa configurazione: non colpa di chi ha voluto, ma colpa di chi ha progettato (o adottato, o configurato, o mantenuto) un’architettura nella quale era prevedibile che effetti del tipo verificatosi si producessero, e che non ha predisposto i contropoteri adeguati. È una colpa che si distribuisce topologicamente – lungo la catena che va dal training al deploy al contesto d’uso – e che non può essere concentrata su un singolo agente senza tradire la struttura effettiva della causazione. La responsabilità, in altre parole, diventa essa stessa topologica: si misura non sulla volontà di un soggetto ma sulla posizione di ciascun attore nell’architettura che ha prodotto l’effetto.
Questo vocabolario – soggettività di secondo ordine, abduzione operativa, colpa di architettura, responsabilità topologica – non pretende di risolvere i problemi posti dall’IA generativa. Pretende soltanto di nominarli nei termini in cui il diritto può effettivamente affrontarli, senza dover prima attendere che l’epistemologia o le scienze cognitive decidano se le macchine comprendano. La risposta a quella domanda preliminare può essere posticipata, o lasciata aperta. Il diritto non ha questo lusso.
La guerra precedente
Il dibattito pubblico sull’intelligenza artificiale, comprese le sue voci più critiche e più autorevoli, sta combattendo con strumenti sofisticati una guerra che si concluderà, comunque vada, in modo non dirimente per il problema vero. Stabilire con precisione se gli LLM comprendano – questione filosoficamente legittima, tecnicamente interessante, retoricamente vivace – non ci dirà quasi nulla su come imputare gli effetti che essi già producono, su quale forma di colpa attribuire al loro fallimento, su quale architettura di responsabilità vogliamo darci. Anche se Bender avesse «ritrattato» – cosa che, ricordiamolo, non ha fatto – il problema giuridico sarebbe rimasto intatto. Anche se LeCun riuscisse a costruire un’architettura JEPA capace di rappresentazioni stabili del mondo, il problema giuridico resterebbe intatto. Anche se le proposte di scaffold simbolico riuscissero a disciplinare il ragionamento degli LLM secondo protocolli verificabili, il problema giuridico resterebbe intatto.
Il diritto può fornire il vocabolario per uscire dall’impasse, ma a condizione di lasciarsi contaminare – dalla semiotica, dalla teoria dei sistemi, dalla filosofia continentale che ha pensato la soggettività fuori dai suoi termini classici. La generazione di giuristi che si forma oggi sui sistemi generativi non potrà cavarsela ripetendo le categorie ottocentesche della colpa e della causalità. Dovrà ripensarle. La buona notizia è che gli strumenti, in parte, ci sono già. La cattiva è che bisogna metterli al lavoro, e farlo prima che la prossima guerra – quella sull’imputazione degli effetti operativi di sistemi senza soggetto – sia già stata persa per inerzia categoriale.
Riferimenti bibliografici
Emily M. Bender, Timnit Gebru, Angelina McMillan-Major e Shmargaret Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, in «Proceedings of FAccT 2021», ACM, New York 2021, pp. 610-623.
Emily M. Bender e Alex Hanna, L’inganno dell’intelligenza artificiale. Come resistere a Big Tech e costruire il futuro che vogliamo (trad. it. di Roberto Laghi), Fazi, Roma 2026 (ed. or. The AI Con. How to Fight Big Tech’s Hype and Create the Future We Want, Harper, New York 2025).
Emily M. Bender e Alexander Koller, Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data, in «Proceedings of ACL 2020», ACL, 2020, pp. 5185-5198.
Francesco D’Isa, La metafora più famosa sull’IA non è più valida, «The Bunker», 22 maggio 2026.
Georg Wilhelm Friedrich Hegel, Scienza della logica (1812-1816), trad. it. di Arturo Moni, rev. di Claudio Cesa, Laterza, Roma-Bari 2011, libro I, sez. III (“La misura”).
Hans Kelsen, La dottrina pura del diritto (1960), trad. it. di Mario G. Losano, Einaudi, Torino 2021.
Yann LeCun, A Path Towards Autonomous Machine Intelligence, Open Review, version 0.9.2, 27 giugno 2022.
Niklas Luhmann, Il diritto della società (1993), a cura di Luisa Avitabile, Giappichelli, Torino 2013.
Enrico Maestri, Contro la riduzione bayesiana dell’intelligenza artificiale, «Pandora Rivista», n. 2, 2025.
Enrico Maestri, Giustizia ex machina. Filosofia giuridica delle tecnologie digitali, Luca Sossella Editore, Roma 2026.
Charles Sanders Peirce, Opere, a cura di Massimo A. Bonfantini, Bompiani, Milano 2003.
Nicholas Shackel, The Vacuity of Postmodernist Methodology (sulla struttura argomentativa motte and bailey), in «Metaphilosophy», XXXVI, 3, 2005, pp. 295-320.
Una piattaforma culturale, una rivista e uno spazio di approfondimento per capire il presente.
Scopri di più
