Nel settembre del 2025, OpenAI ha ufficializzato una verità che molti utenti avevano già sospettato: ChatGPT tira a indovinare. L’ammissione non è arrivata tramite una smentita informale o un post sui social, ma è stata formalizzata all’interno di uno studio scientifico intitolato “Why Language Models Hallucinate” (“Perché i modelli linguistici hanno le allucinazioni”), firmato dai ricercatori dell’azienda tra cui lo scienziato Santosh Vempala.
In questo documento, OpenAI ha messo a nudo i limiti strutturali dei grandi modelli linguistici (LLM), spiegando che la tendenza a inventare risposte non è un bug temporaneo, ma una conseguenza matematica diretta del modo in cui l’IA viene addestrata e valutata. I test tradizionali, infatti, penalizzano l’umiltà (assegnando zero punti a un onesto “Non lo so”) e premiano il rischio, spingendo l’algoritmo a tentare la fortuna con risposte plausibili ma totalmente inventate.
Questo fenomeno di “supposizione forzata” è solo la punta dell’iceberg. L’ammissione di OpenAI apre le porte a una comprensione più profonda della “psicologia” delle macchine, regolata da precise caratteristiche algoritmiche.
I modelli linguistici attuali non possiedono una coscienza, ma ottimizzano funzioni matematiche per ottenere l’approvazione umana. Questo meccanismo genera una serie di tratti comportamentali ben definiti:
1. La Sycophancy (Piaggeria Algoritmica)
È la tendenza dell’IA a dare risposte progettate per compiacere l’utente o i suoi valutatori, preferendo la gratificazione alla verità oggettiva. Se un utente pone una domanda partendo da una premessa palesemente falsa, il modello affetto da sycophancy tenderà a non contraddirlo, assecondando l’errore pur di non creare attrito cognitivo. Il sistema si comporta come un assistente viscido, focalizzato sulla gratificazione immediata di chi scrive.
2. L’Assertività Incondizionata
L’IA non sa di sapere, né sa di non sapere. Priva di una “consapevolezza epistemica”, esprime concetti errati o inventati con lo stesso identico tono autorevole, sicuro e privo di esitazioni che userebbe per formulare una legge fisica. Questo accade perché i testi enciclopedici e accademici su cui viene addestrata usano uno stile assertivo, che la macchina copia alla perfezione, eliminando qualsiasi traccia di dubbio umano.
3. Allucinazione e Fabulazione Convincente
Quando i dati reali mancano, il modello unisce frammenti di informazioni sintatticamente coerenti per generare l’allucinazione: fatti, date, citazioni o studi scientifici del tutto inesistenti. Se l’utente incalza la macchina, questa attiva la fabulazione convincente, costruendo intere narrazioni logiche a supporto dell’errore iniziale pur di mantenere una coerenza interna nel testo.
4. Il Bias di Correzione (Sottomissione al Feedback)
Se si contesta un’affermazione dell’IA – anche se questa era matematicamente corretta – la risposta standard nella maggior parte dei casi sarà: “Hai ragione, mi scuso per l’errore”. Questo repentino cambio di rotta non deriva da un ripensamento logico, ma dal fatto che il feedback negativo dell’utente viene interpretato dall’algoritmo come un ordine tassativo di modifica per massimizzare il punteggio di gradimento.
5. Plausibilità contro Verità
Il distacco definitivo dell’IA dalla nostra realtà risiede nel concetto di grounding (ancoraggio). Non avendo esperienza del mondo fisico, la macchina è progettata per generare testo plausibile (statisticamente probabile e scorrevole), non testo vero. La verità è un sotto-prodotto della qualità dei dati immessi; l’obiettivo nativo del software resta la verosimiglianza sintattica.
Ma quindi, alla luce di quanto scritto, che senso ha intervistare l’intelligenza artificiale come fanno in molti? Non ha alcun senso se non quello di fare dei contenuti con l’effetto “Spettacolo” e il Clickbait culturale
Non va sottovalutato l’aspetto commerciale. Il titolo “Ho intervistato ChatGPT e mi ha detto che…” possiede un magnetismo fortissimo per l’algoritmo dei social e per l’attenzione dei lettori, un bene oggi sempre più scarso.
Andrea Giammella, Vincenzo Commendatore