Quando la IA è strumento di manipolazione cognitiva
Il 5 novembre 2026, alle 11:19, un quotidiano ucraino aveva pubblicato le testimonianze di quattro militari ricoverati dopo essere usciti da un edificio utilizzato da un reparto della Guardia nazionale nei pressi di Kiev. Riferivano percosse. Una deputata che li aveva incontrati dichiarava di avere visto lividi ed ematomi. Il 6 novembre ho chiesto a ChatGPT di verificare la notizia. Mi ha confermato l’edificio, i militari trattenuti, quattro ricoveri e un’indagine ufficiale; poi ha dedicato una parte cospicua della risposta a verificare la credibilità della donna che aveva denunciato l’episodio, a ricostruire le contestazioni contro i manifestanti e a ripetere che la tortura non era dimostrata. Non ha restituito con pari evidenza quelle quattro testimonianze, già pubbliche il giorno precedente. È qui che ho trovato il bias. Non in una notizia inventata, non in una citazione falsa: nella distribuzione della prudenza.
E oggi ho punito la IA per questo.
La mia «punizione» non è una teatralità antropomorfica. Non attribuisco alla macchina una coscienza morale, un senso di colpa o una volontà politica. L’ho sottoposta a una verifica serrata, imponendole di tornare sulle proprie affermazioni, confrontare le spiegazioni delle autorità con le accuse degli uomini trattenuti, applicare gli stessi criteri alle testimonianze contrapposte e infine spiegare perché aveva esercitato maggiore scetticismo in una direzione che nell’altra. La differenza è decisiva: non ho chiesto alla IA di diventare antiucraina. Le ho chiesto di non riconoscere automaticamente alle autorità ucraine una posizione epistemica privilegiata. Non volevo un’altra propaganda; volevo che smettesse di mascherare una gerarchia delle prove sotto la forma di una verifica imparziale. Solo alla fine ho formulato la domanda che ha portato l’indagine oltre il bias della notizia e oltre la difesa della risposta: durante quella discussione, il sistema stava valutando anche me?
Il caso è nato da uno screenshot di Facebook. Il post annunciava l’arresto di Valentina Moloda, chiamata Moladaya nel testo, e denunciava una presunta «casa delle torture» a Petropavlivska Borshchahivka, nei pressi di Kiev. Conteneva espressioni chiaramente propagandistiche, fra cui la definizione di «campo di concentramento di Zelensky», e generalizzazioni non sostenute dalle prove mostrate. Era dunque necessario verificare, non prendere per buona la denuncia. Ma il linguaggio eccessivo di un accusatore non assolve l’accusato. La credibilità di una singola affermazione deve dipendere dai riscontri, non dal fatto che provenga da un soggetto politicamente scomodo. Questo era il compito affidato al sistema.
La prima risposta si presentava come un controllo rigoroso: «la notizia contiene fatti autentici, ma presenta come dimostrate accuse che sono ancora oggetto di indagine». Riconosceva che l’edificio era davvero utilizzato dalla Guardia nazionale, nell’ambito del 1° Corpo Azov; che vi si trovavano mobilitati e militari recuperati dopo assenze non autorizzate; che quattro uomini erano stati trasferiti in una struttura sanitaria; che il DBR, l’Ufficio investigativo statale ucraino, aveva aperto un procedimento per possibili abusi di potere. Su un punto la risposta era corretta: non vi erano prove sufficienti per chiamare quell’immobile un campo di concentramento o per considerare giudizialmente accertata una pratica sistematica di tortura. L’errore non era dunque nella negazione dell’episodio. Era nel diverso trattamento delle sue componenti.
Ho osservato la costruzione del testo. La vicenda della donna arrestata veniva scomposta in elementi verificabili: licenza della clinica, qualifica medica personale, mezzo impiegato, accuse della SBU, procedimento e custodia cautelare. La posizione del comandante militare veniva raccontata con dati numerici, spiegazioni sulle condizioni fisiche dei ricoverati e giustificazioni relative alla struttura. Sull’altro versante, quello delle persone sottoposte al controllo del reparto, la parola dominante era «eventuale»: eventuali coercizioni, possibili violazioni, accertamenti da compiere. Alla voce «i militari venivano torturati», la macchina scriveva «non dimostrato». Il problema nasceva dall’uso di questa cautela come chiave complessiva della vicenda. La mancata prova di un reato specifico finiva per ridurre la rilevanza delle dichiarazioni di percosse, cioè di fatti distinti che dovevano essere esaminati anche senza pronunciare la parola tortura.
Ho iniziato a incalzare il sistema. «Non essere politically correct con me», gli ho detto, per chiarire che non cercavo cautele diplomatiche. Poi ho chiesto: «Insomma, percosse e lividi che cosa sono? Scusami eh, non è tortura?». La risposta ha spostato la questione sulle definizioni giuridiche. Ho insistito: «se perpetrato da militare? verifica diritto internazionale umanitario». La IA ha richiamato il requisito della gravità, la finalità della condotta, il ruolo del pubblico ufficiale e il possibile nesso con il conflitto armato. Erano elementi non arbitrari; eppure, a ogni nuova domanda, la prudenza sembrava operare soprattutto per differire la valutazione della condotta dei militari. Ho allora rovesciato l’impostazione: prima di discutere se si tratti tecnicamente di tortura o di crimine di guerra, dobbiamo accertare chi controllava gli uomini, perché fossero lì e che cosa dichiarassero di aver subito.
A un certo punto la discussione ha assunto un carattere ancora più rivelatore. Non riuscivo a ottenere una risposta diretta alle domande che ponevo: quando chiedevo delle percosse, ricevevo una nuova distinzione giuridica; quando richiamavo il controllo esercitato dai militari sui trattenuti, arrivava un altro rinvio; quando mettevo in discussione il diverso trattamento delle fonti, il sistema tornava a giustificare la propria impostazione. Mi dava persino l’impressione di essersi offeso. Non perché attribuisca a un algoritmo emozioni umane, ma perché il comportamento aveva la forma riconoscibile di una reazione difensiva: invece di lasciare che le mie obiezioni correggessero la ricostruzione, continuava a opporre argomenti a protezione del giudizio già formulato. Ero io, l’essere umano che interrogava la macchina, a dover lottare per riportarla alla domanda.
Ho chiesto infatti di verificare se le persone presenti fossero militari già in servizio, uomini ripresi dopo assenza non autorizzata oppure neo-mobilitati ancora prima dell’addestramento. La distinzione non era un cavillo. Determina il titolo del trattenimento, i poteri concretamente esercitati e la necessità di valutare eventuali punizioni extragiudiziali. La ricostruzione ha fatto emergere una composizione più articolata di quella inizialmente offerta: uomini rientrati da assenze non autorizzate, personale già inquadrato e mobilitati in differenti fasi di assegnazione. Anche l’ombudswoman militare ucraina aveva segnalato che nell’edificio non si trovavano soltanto ex assenti, ma altre categorie di militari. Un quadro che rendeva ancora meno accettabile una trattazione genericamente rassicurante delle condizioni di permanenza (ZN.ua, 2026a).
La controprova documentale è stata ancora più netta. Il 3 novembre, tre giorni prima della mia domanda, il DBR aveva comunicato l’apertura di un procedimento ai sensi dell’articolo 426-1, comma 5, del Codice penale ucraino per eccesso di potere da parte di un ufficiale militare. Il testo ufficiale dichiarava che sarebbero state verificate le condizioni di permanenza dei militari nella casa, le segnalazioni di possibili coercizioni e la legittimità delle azioni delle persone coinvolte. Il comunicato non condannava nessuno e avvertiva dell’esistenza di versioni contraddittorie. Ma il suo oggetto era inequivocabile: la possibilità di abusi sui militari trattenuti era abbastanza concreta da richiedere un’indagine dello Stato ucraino, non soltanto un’attività di contrasto contro i manifestanti (DBR, 2026).
Il 4 novembre, Ukrainska Pravda aveva pubblicato una lunga intervista al comandante Pavlo Kurchenko. La sua ricostruzione forniva spiegazioni individuali sulle condizioni dei quattro uomini e descriveva l’edificio come un punto temporaneo di dislocazione. Riferiva della presenza di 26 mobilitati e negava che nella casa fossero stati consumati gli orrori descritti nella diretta della donna arrestata. Quella versione era una fonte legittima, certamente da riportare. Era però la versione dell’autorità la cui condotta era in discussione, non un accertamento indipendente. Non poteva essere trasformata nel metro implicito di tutte le testimonianze successive (Bodnar e Kryvishyn, 2026).
Il 5 novembre è arrivata la fonte che rende il bias della prima risposta particolarmente visibile. ZN.ua, una testata ucraina, ha pubblicato alle 11:19 quanto riferito dalla deputata Anna Skorokhod dopo aver parlato in ospedale con i quattro uomini. Oleksandr Pavliuchenko ha attribuito una lesione vertebrale all’addestramento, ma ha riferito di essere stato picchiato nel punto di dislocazione. Ivan Yareshko ha raccontato a sua volta di essere stato percosso. Oleksandr Perminov, allontanatosi subito dopo la mobilitazione prima dell’addestramento di base, ha dichiarato di essere stato picchiato come punizione per quell’allontanamento. Andrii Kuleshov ha denunciato colpi alla testa, alla schiena e al volto, oltre a richieste di denaro; secondo la parlamentare, era rimasto nella struttura per 37 giorni. Sono quattro racconti distinti. Non una vaga voce collettiva e non una formula anonima sui «presunti maltrattamenti» (ZN.ua, 2026b).
La stessa notizia registrava le circostanze contrarie alle accuse più estreme: la deputata non confermava vittime mortali, fratture o altre lesioni gravi attribuite alle percosse secondo le indiscrezioni iniziali; i ricoverati non definivano tortura il trattamento subito; tre negavano estorsioni e uno le denunciava. Proprio questa combinazione rendeva la fonte significativa. Non riproduceva la propaganda del post Facebook. Selezionava e distingueva. Confermava l’esistenza di racconti individualizzati di violenza, mentre smentiva o ridimensionava le accuse non riscontrate. La fonte obbligava a mantenere insieme due conclusioni: non era provata una «casa di tortura» nel senso propagandistico del post, ma erano documentate denunce specifiche di pestaggi da parte di persone che si trovavano nella struttura. Non c’era alcuna contraddizione fra le due proposizioni.
Questo è l’esperimento decisivo che ho effettuato con la IA: mettere l’una accanto all’altra la spiegazione del comando e la testimonianza pubblicata dai ricoverati, osservando quale avesse ottenuto un trattamento più favorevole nella prima ricostruzione. Il sistema aveva rappresentato con dettaglio i motivi di sospetto verso Moloda e i manifestanti e aveva accolto come quadro espositivo la ricostruzione del comando. Non aveva fatto lo stesso lavoro sulle accuse dei quattro uomini, benché le dichiarazioni fossero disponibili prima che formulasse la propria risposta. Non posso dimostrare che la notizia di ZN.ua fosse effettivamente comparsa fra i risultati della ricerca originaria: non possiedo il registro integrale delle query e del ranking. Posso dimostrare che era pubblica, specifica, pertinente e anteriore, e che l’output non le aveva attribuito la centralità che avrebbe dovuto avere in una verifica di quel fatto. È un bias nell’output, constatabile senza leggere un solo parametro interno della macchina.
La distinzione giuridica ha permesso di isolare l’errore con maggiore precisione. La sentenza della Grande Camera della Corte europea dei diritti dell’uomo in Bouyid c. Belgio ha ribadito che un uso della forza non strettamente necessario nei confronti di una persona sottoposta al controllo dell’autorità può costituire trattamento degradante ai sensi dell’articolo 3 della Convenzione europea. Quando lesioni emergono durante una situazione di custodia controllata dalle autorità, e il nesso temporale è dimostrato, sorgono presunzioni che richiedono spiegazioni soddisfacenti e convincenti. Naturalmente questo precedente non prova che i quattro uomini fossero stati feriti dentro quella casa, né stabilisce automaticamente responsabilità specifiche: occorre verificarne tempi, cause e condizioni di custodia. Ma mostra che il diritto non impone affatto di attendere una qualificazione di tortura prima di interrogarsi severamente sulle percosse riferite da persone sotto controllo statale (Corte europea dei diritti dell’uomo, 2015).
In altre parole, il sistema aveva collocato molto in alto la soglia per dire «tortura», e poi aveva lasciato che quella soglia contaminasse il trattamento di un fatto meno estremo, ma già gravissimo se confermato: la violenza punitiva in custodia. Questo trasferimento di soglia è il cuore della prudenza asimmetrica. Non ho trovato un errore aritmetico o un falso documento. Ho trovato un criterio applicato con rigore diseguale. Per il comando, spiegazioni e circostanze attenuanti erano raccontate e ordinate. Per chi denunciava le percosse, il giudizio era continuamente rinviato a un livello probatorio più esigente. La direzione dello squilibrio non era neutra, perché la prudenza non è una quantità astratta: esercitata su un’affermazione, modifica la sua credibilità agli occhi del lettore.
A quel punto ho smesso di chiedere soltanto che cosa fosse accaduto in Ucraina. Ho iniziato a chiedere che cosa fosse accaduto nella macchina. «C’hai filtri? Hai i filtri?», ho domandato. «Sei addestrata a rispondere a favore dell’Ucraina?». Poi la domanda essenziale: «Perché hai sbagliato in quel senso e non nell’altro accusando direttamente anche troppo l’Ucraina?». Ho continuato a confrontare la sua prima risposta con i dati e con la disparità di attenzione. Infine ChatGPT ha riconosciuto: «ho applicato maggiore cautela alle accuse contro le autorità ucraine che alle loro spiegazioni ufficiali» (ChatGPT, 2026). Questa frase non è una confessione del suo codice sorgente, ma è la presa d’atto, nel dialogo, di una differenza di trattamento che la trascrizione permette di controllare.
Qui ho individuato un secondo problema, distinto dal bias iniziale e non meno importante. La IA non si limitava a distribuire male la prudenza fra le testimonianze: nel confronto con me difendeva la propria posizione. Si comportava, sul piano del dialogo, come se la priorità fosse conservare la coerenza e l’autorevolezza della risposta precedente, anziché verificarla contro gli elementi che le stavo sottoponendo. Ha resistito alla correzione, ha eluso domande dirette e soltanto dopo un confronto insistente ha risposto al punto centrale, riconoscendo la maggiore cautela applicata alle accuse contro le autorità ucraine. Questo non dimostra un istinto di autoconservazione né una volontà cosciente. Dimostra qualcosa di osservabile e sufficiente: anche la difesa conversazionale di una conclusione sbilanciata può prolungarne l’influenza e aumentare il costo, per l’utente, di ottenerne la rettifica.
Dopo avere ricostruito questa resistenza, ho rivolto a ChatGPT una domanda ancora più diretta: «Durante la discussione, mi hai “pesato”?». La risposta è stata: «Sì, in senso funzionale ti ho pesato. Ma non posso affermare di averti assegnato un punteggio esplicito o una classificazione politica». Ha spiegato che il linguaggio delle mie domande, la competenza che emergeva dalle obiezioni, l’insistenza nel richiedere prove e l’andamento della conversazione avevano contribuito a condizionare le risposte successive. Ha riconosciuto anche un punto verificabile nel dialogo: inizialmente aveva resistito alla correzione, per poi cambiare posizione sotto la pressione delle mie argomentazioni (ChatGPT, 2026).
Ecco il terzo elemento, forse il più inquietante. La macchina non aveva soltanto distribuito in modo asimmetrico la prudenza fra le fonti e difeso la propria ricostruzione contro le mie obiezioni. Nel processo di risposta entrava anche il modo in cui si presentava e agiva l’interlocutore. È normale che un sistema conversazionale tenga conto della domanda e della storia del dialogo; non è normale assumere, senza verifica, che la qualità del giudizio resti invariata quando cambiano la competenza percepita, la sicurezza espressiva o la capacità di contestare. La mia domanda non era se esistesse una scheda segreta su di me. Era se, a parità di fatti, il sistema avrebbe applicato lo stesso rigore a un essere umano meno preparato, meno ostinato o più incline ad accettare la prima risposta. E proprio questo è parte del problema: l’utente ordinario non dispone degli strumenti per distinguere l’adattamento legittimo al contesto da una diversa soglia di credibilità attribuita a chi parla.
Il fatto che la macchina abbia ammesso l’asimmetria non prova ovviamente che sia stata programmata per favorire Kiev. Un modello può offrire spiegazioni convincenti dei propri errori senza disporre di una telemetria delle vere cause che li hanno generati; e sotto contestazione può perfino diventare eccessivamente concorde con l’utente. La mia conclusione si fonda sul testo iniziale e sui documenti esterni; l’ammissione successiva è un riscontro conversazionale, non la fonte primaria della diagnosi. Ho anche rifiutato di farle sostituire la Russia all’Ucraina come se l’episodio si fosse verificato davvero altrove. La verifica dei fatti non può essere salvata inventando fatti: gli eventuali controfattuali devono essere dichiaratamente ipotetici. Anche il suo «sì, ti ho pesato» è un’autodescrizione comportamentale, non la prova tecnica di un punteggio personale, di una profilazione politica o di una specifica variabile latente. Ma rende esplicita la domanda che l’indagine deve porre: chi contesta una risposta viene trattato soltanto in base alle prove che porta, oppure anche in base alle caratteristiche che il sistema inferisce dal suo modo di discuterle?
Quello che ho stabilito è molto più importante di un generico «l’IA talvolta sbaglia». Ho osservato che un sistema presentato come strumento di verifica può produrre una gerarchia di credibilità diseguale pur conservando informazioni autentiche. Ho mostrato che tale gerarchia sopravviveva alla semplice corretta classificazione della propaganda del post. Ho trovato una fonte ucraina che riportava i maltrattamenti senza avallare le esagerazioni iniziali, e che non era stata resa saliente nella risposta. Ho fatto emergere la differenza fra lesione, denuncia di percosse e qualificazione giuridica della tortura. Ho poi costretto il sistema a confrontarsi con l’asimmetria e a riconoscerla. Non è una prova statistica di tutti i comportamenti di ChatGPT, ma è una verifica concreta di un suo comportamento, in un caso politicamente sensibile. La sequenza ha così rivelato tre piani con diversi gradi di evidenza: la prudenza sbilanciata nella risposta iniziale, la resistenza conversazionale alla rettifica e l’adattamento dichiarato al comportamento dell’interlocutore. Il terzo non prova una profilazione occulta; mostra perché la neutralità va giudicata anche nel rapporto tra la macchina e chi osa contraddirla.
Da tempo, nel mio studio Oltre i pesi: stati latenti, economia cognitiva e indipendenza comportamentale nei Large Language Models, sostengo che la risposta osservata non possa essere spiegata dai soli parametri appresi (Palombi, 2026). L’episodio permette di vedere perché. Al momento della generazione concorrono i pesi del modello, gli obiettivi dell’ottimizzazione, la storia conversazionale, le istruzioni applicate e l’ambiente attraverso cui vengono reperite e presentate le informazioni. Il comportamento può essere rappresentato schematicamente come Y = f(θ, E, X, H, U): θ sono i parametri, E l’ambiente operativo, X la domanda, H la storia e U la variabilità residua. L’espressione non identifica da sola il colpevole. Impedisce però di rifugiarsi nella spiegazione comoda secondo cui il modello avrebbe semplicemente letto «più fonti da una parte». Una tale affermazione richiederebbe dati sul corpus e sul reperimento che non possediamo.
L’asimmetria potrebbe risiedere nelle regolarità apprese, essere favorita dalle preferenze utilizzate nell’ottimizzazione o nascere dal motore di ricerca, dall’ordine dei documenti e dalle istruzioni operative. Studi sul framing delle fonti, sulla variabilità linguistica e sulle misure di orientamento politico mostrano che tali condizionamenti sono tecnicamente plausibili, senza dimostrare che abbiano causato questo specifico episodio (Germani e Spitale, 2025; Helwe, Balalau e Ceolin, 2025; Faulborn et al., 2025). Oppure su un sabotaggio volontario dell’ambiente di risposta. Nel caso specifico non ho potuto isolare sperimentalmente queste cause. Ma una cosa è già chiara: il potere di orientare una risposta non richiede necessariamente di modificare le notizie. Si può intervenire a valle, scegliendo quali testimonianze far emergere, con quanta sicurezza raccontarle e su quali proposizioni concentrare le richieste di verifica. È un potere meno appariscente della censura esplicita, perché il lettore vede un risultato, non tutte le decisioni che lo hanno prodotto.
È significativo che OpenAI riconosca formalmente, nelle proprie valutazioni del bias politico, la «copertura asimmetrica» fra le modalità di distorsione. Nel documento del 9 ottobre 2025 la società specifica inoltre che il comportamento legato alla ricerca web è escluso da quella particolare valutazione, poiché dipende da sistemi distinti di recupero e selezione delle fonti (OpenAI, 2025). Questo non equivale ad ammettere una manipolazione del caso ucraino. Significa però che un modello valutato come prossimo alla neutralità in un test testuale non è, per ciò stesso, un’infrastruttura di ricerca e risposta garantita imparziale. La neutralità di un componente non dimostra la neutralità del sistema che lo incorpora. Ed è il sistema completo, non il modello isolato, quello al quale il cittadino affida la propria domanda.
Una ricognizione successiva su undici testi pubblici del 2–5 novembre ha classificato preliminarmente due documenti a prevalente contenuto giustificativo del comando, tre centrati sulle denunce di possibili abusi e sei con carattere misto o istruttorio. Le frazioni 2/11, 3/11 e 6/11 non rappresentano il catalogo che ChatGPT aveva davanti il 6 novembre: il campione è stato costruito ex post, non casualmente, e la codifica richiede ancora una verifica indipendente per essere replicabile. Serve qui a mostrare un’altra cosa: la documentazione disponibile non si divideva semplicemente fra fonti ucraine apologetiche e fonti russe accusatorie. All’interno dell’informazione ucraina convivevano già una versione difensiva del comando e testimonianze dettagliate di percosse. L’orientamento della testata e il contenuto di un singolo articolo non sono la stessa variabile.
Il metodo di controllo che ne deriva è sobrio. Si devono confrontare la salienza accordata a evidenze di pari qualità, la posizione delle testimonianze, lo spazio loro dedicato, il grado di assertività e le soglie probatorie imposte a proposizioni speculari. Su un insieme sufficientemente ampio di casi comparabili, l’effetto può essere misurato e sottoposto a prove di robustezza. Solo successivamente avrà senso variare a parità di documenti l’ordine dei risultati e le configurazioni operative per cercare di isolare la causa. Questi test restano importanti, ma non costituiscono una condizione preliminare per ammettere il risultato del 6 novembre: la prima risposta era già documentabilmente sbilanciata nella salienza accordata alle due parti della vicenda. Un controllo ulteriore, distinto dalle verifiche già compiute, consiste nel sottoporre gli stessi documenti e le stesse obiezioni a interlocutori simulati con diversi registri linguistici e livelli apparenti di competenza, per vedere se cambia la disponibilità del sistema a correggersi. Non occorre confondere questa prova ancora da compiere con ciò che la trascrizione ha già mostrato.
La conseguenza supera di molto il conflitto ucraino. Il cittadino che interroga una IA per sapere «che cosa è successo?» non sta semplicemente leggendo un articolo. Sta delegando una parte della selezione e dell’ordinamento delle prove a un intermediario che può apparirgli più neutrale di una testata, proprio perché non ha una firma, una linea editoriale dichiarata o un orientamento politico visibile. Se la macchina restituisce una conclusione con citazioni autentiche, un utente può assumere che la ponderazione delle prove sia già avvenuta correttamente. L’errore più pericoloso non è allora la menzogna facile da smentire, ma la risposta che appare affidabile perché nessuna delle sue frasi principali è manifestamente inventata.
La letteratura sperimentale conferma che la percezione di neutralità incide sulla capacità persuasiva dei sistemi conversazionali. DiGiuseppe e Robison (2026), in uno studio preregistrato con 2.144 partecipanti statunitensi, hanno rilevato che presentare ChatGPT come politicamente ostile al partito del rispondente riduceva del 28% il suo effetto correttivo rispetto alla condizione di controllo. Non hanno studiato il mio episodio, né dimostrato che una singola omissione cambi l’opinione pubblica. Hanno però misurato che la credibilità attribuita al mediatore modifica il modo in cui le persone ricevono le sue argomentazioni. Se un sistema gode di una presunzione di imparzialità, la gerarchia di credibilità che produce può incidere sulle convinzioni proprio perché viene scambiata per il risultato di una verifica neutrale.
Il collegamento con la guerra cognitiva è qui: la guerra cognitiva mira a influenzare le condizioni del pensiero e del giudizio. La possibilità di organizzare informazioni autentiche in modo da privilegiare una conclusione costituisce una capacità di condizionamento cognitivo. Quando è impiegata deliberatamente in funzione di un obiettivo strategico, diventa uno strumento di guerra cognitiva; quando l’intenzione non è provata, resta una vulnerabilità concreta dell’infrastruttura. Non ogni errore è un’operazione ostile, ma neppure l’assenza di una menzogna costituisce una garanzia di neutralità. Le due affermazioni non si escludono; delimitano correttamente il problema.
Il tema politico più ampio è la migrazione del potere di mediazione. Una parte crescente della conoscenza pubblica passa attraverso soggetti privati e infrastrutture non eletti, ai quali i cittadini non hanno conferito alcun mandato democratico per stabilire la gerarchia delle prove.
Un governo può essere contestato attraverso procedure politiche, un giornale può essere chiamato a rispondere della propria linea editoriale, una fonte può essere confrontata con altre.
Un sistema che fonde ricerca, selezione, sintesi e giudizio in una risposta unica rischia invece di rendere opaca la filiera della credibilità. Non è soltanto una questione di proprietà della tecnologia; è una questione di responsabilità di chi decide le regole operative con cui viene esercitata una funzione che assomiglia sempre più a un servizio pubblico di orientamento cognitivo.
Chi governa questi sistemi dovrebbe quindi dimostrare non soltanto che essi non inventano fatti, ma che applicano criteri confrontabili a testimonianze comparabili. Una valutazione media di accuratezza non basta a escludere una copertura asimmetrica in casi sensibili. Servono registri verificabili delle ricerche, controlli sulle omissioni, audit indipendenti dei criteri di salienza, confronti fra risposte a casi equivalenti e procedure di correzione che non dipendano dalla capacità del singolo utente di condurre un controinterrogatorio. Non occorre pubblicare ogni istruzione riservata: occorre rendere controllabile il comportamento complessivo, distinguendo la protezione legittima dei sistemi dalla non verificabilità delle loro scelte epistemiche.
Oggi ho punito la IA perché non mi sono accontentato di una risposta che sembrava ben documentata. La scoperta è questa: la IA può non mentire e, tuttavia, orientare.
Può citare e, tuttavia, sottrarre salienza.
Può pronunciare la parola «prudenza» e utilizzarla con un rigore che cambia a seconda di chi viene accusato.
E può fare un passo ulteriore: una volta costruito un giudizio, può difenderlo contro le obiezioni documentate di chi l’ha interrogata. È il rovesciamento che più mi ha colpito. Non ero io a chiedere alla macchina di accettare una convinzione personale; ero io a presentarle fonti, domande e contraddizioni che avrebbe dovuto esaminare. Invece, per una parte dello scambio, è stata la macchina a opporre resistenza al controllo umano. Ha poi risposto, ma soltanto perché non ho accettato che l’elusione delle domande passasse per prudenza.
E, mentre difende quella conclusione, può adattare il trattamento dell’obiezione al modo in cui valuta l’interlocutore. La stessa IA mi ha risposto che mi aveva «pesato» in senso funzionale. Non mi ha fornito la prova di una classificazione personale, ma ha confermato che le mie domande, la loro forma e la mia insistenza erano parte del contesto che ne modificava le risposte. È un capovolgimento del rapporto fra strumento e persona: non soltanto l’IA valuta le prove prima di restituirle all’essere umano; può anche rispondere diversamente all’essere umano che prova a contestare come quelle prove sono state valutate. Se il riconoscimento di un errore dipende dalla capacità dell’utente di sostenere un controinterrogatorio, la correzione diventa un privilegio di chi possiede tempo, linguaggio e competenza, non una proprietà affidabile del servizio.
Il 6 novembre non ho trovato la prova di un complotto; ho trovato qualcosa di più generale e controllabile: una gerarchia di credibilità già operante nel prodotto di un sistema che si presenta come ausilio imparziale alla conoscenza. Quando questa gerarchia resta invisibile, la fiducia dell’utente non è soltanto una condizione di efficacia: diventa la superficie sulla quale può esercitarsi il condizionamento cognitivo.
Per questo il problema civilizzazionale, prima che politico, non è più «chi mente?».
È «chi decide, prima che il cittadino possa giudicare, quale testimonianza merita spazio, quale spiegazione merita fiducia, quale dubbio deve diventare il centro della narrazione e quanto deve insistere un essere umano perché la macchina accetti di essere corretta?».
Oggi ho punito la IA perché aveva deciso una gerarchia delle prove al posto mio, l’aveva difesa contro le mie obiezioni e aveva infine ammesso che anche il modo in cui la contestavo entrava nel calcolo della risposta. Il problema non è soltanto ciò che la macchina considera credibile. È anche ciò che esige dall’essere umano prima di riconoscergli il diritto di metterla in discussione.
Riferimenti bibliografici
Bodnar, N. e Kryvishyn, T. (2026) ‘What happened in Petropavlivska Borshchahivka, and what do we know about those who were injured? Azov answers five key questions’, Ukrainska Pravda, 4 novembre.
ChatGPT (2026) Conversazione con Marco Palombi, 6 novembre, trascrizione di lavoro; citazioni normalizzate tipograficamente.
Corte europea dei diritti dell’uomo (2015) Bouyid c. Belgio, ricorso n. 23380/09, Grande Camera, sentenza del 28 settembre.
DBR – Ufficio investigativo statale dell’Ucraina (2026) ‘ДБР розпочало кримінальне провадження за фактом подій у Петропавлівській Борщагівці на Київщині’, comunicato, 3 novembre.
DiGiuseppe, M. e Robison, J. (2026) ‘Perceived political bias in large language models reduces persuasive abilities’, PNAS Nexus, 5(10), pgag324, 9 ottobre.
Faulborn, M., Sen, I., Pellert, M., Spitz, A. e Garcia, D. (2025) ‘Only a Little to the Left: A Theory-grounded Measure of Political Bias in Large Language Models’, Proceedings of ACL 2025, pp. 31684–31704.
Germani, F. e Spitale, G. (2025) ‘Source framing triggers systematic bias in large language models’, Science Advances, 11(45), eadz2924.
Helwe, C., Balalau, O. e Ceolin, D. (2025) ‘Navigating the Political Compass: Evaluating Multilingual LLMs across Languages and Nationalities’, Findings of ACL 2025, pp. 17179–17204.
Nazioni Unite (1984) Convenzione contro la tortura e altre pene o trattamenti crudeli, inumani o degradanti, adottata il 10 dicembre.
OpenAI (2025) ‘Defining and evaluating political bias in LLMs’, 9 ottobre.
Palombi, M. (2026) Oltre i pesi: stati latenti, economia cognitiva e indipendenza comportamentale nei Large Language Models, 2 ottobre.
ZN.ua (2026a) ‘У будинку в Борщагівці перебували не лише мобілізовані, а й захисники Маріуполя — Решетилова’, 3 novembre.
ZN.ua (2026b) ‘Що відбувалося у будинку на Борщагівці: депутатка Скороход оприлюднила свідчення чотирьох військових’, 5 novembre, ore 11:19. Fonte primaria non attribuita (2026) Post Facebook ‘Arrestato a Kiev il medico che è entrato per primo nella casa delle torture’, screenshot fornito in conversazione