Vi è mai capitato di ascoltare qualcuno che parla in modo fluente, con le parole giuste al posto giusto, un tono sicuro, una terminologia impeccabile, e di accorgervi dopo pochi minuti che in realtà non ha detto niente? Frasi fatte, concetti presi a prestito, sicurezza inversamente proporzionale alla sostanza. Funziona molto, socialmente. Ma se provaste a chiedere "ok, ma in pratica come funziona esattamente quello che stai dicendo?", il castello di carte crollerebbe rovinosamente.
Da qualche anno accusiamo l'intelligenza artificiale esattamente di questo: produrre linguaggio credibile, ma senza capirlo. È un'accusa più che fondata. Ma potrebbe anche trasformarsi in uno specchio sgradevole del nostro scadente modo di pensare.
Cos'è un "pappagallo stocastico" e perché ci riguarda tutti
Nel 2021 un gruppo di ricercatrici guidato da Emily Bender e Timnit Gebru ha definito i grandi modelli linguistici — la tecnologia dietro ChatGPT, Claude e simili — "pappagalli stocastici". "Stocastico" è un termine tecnico che significa semplicemente "basato sulla probabilità": come un pappagallo ripete suoni che ha sentito, il modello ricombina frammenti di linguaggio visti in addestramento, scegliendo di volta in volta la parola statisticamente più plausibile. Il risultato suona sensato, ma — secondo questa tesi — dietro non c'è comprensione del significato.
L'immagine ha fatto fortuna perché è efficace. Ma provate a rileggerla togliendo la parola "modello": un sistema che produce frasi plausibili ricombinando pattern assorbiti dall'ambiente, senza una reale comprensione di ciò che dice. Descrive solo le macchine? O descrive anche l’oratore vacuo dell’esempio di prima — e, in certi momenti, tutti noi?
La scienza lo conferma: "capire di capire" è spesso un'illusione
Non è una battuta cinica: è un fenomeno studiato. Nel 2002 due psicologi di Yale, Leonid Rozenblit e Frank Keil, hanno dato un nome a questa esperienza: illusione della profondità esplicativa. Negli esperimenti chiedevano alle persone quanto ritenessero di capire il funzionamento di oggetti comuni — una cerniera lampo, una bicicletta, un frigorifero. Quasi tutti si dichiaravano piuttosto sicuri. Poi arrivava la seconda richiesta: spiegarlo passo per passo. A quel punto la sicurezza crollava, e le persone stesse rivedevano al ribasso il proprio giudizio iniziale.
La cosa interessante è che l'illusione non riguarda solo le cerniere lampo. Uno studio di Philip Fernbach e colleghi del 2013 ha mostrato che vale anche per le opinioni politiche:
chi ha posizioni più estreme su temi complessi spesso ne capisce i meccanismi meno degli altri, ma è convinto del contrario.
E quando viene chiesto di spiegare — non di difendere, di spiegare — come funzionerebbe concretamente la politica che sostiene, le posizioni si moderano. Sapere di non sapere, verrebbe da dire, è un ottimo antidoto all'estremismo.
Il pilota automatico del cervello
Perché funzioniamo così? Perché il cervello è una macchina per risparmiare energia. Daniel Kahneman, premio Nobel, ha reso popolare la distinzione tra due modalità di pensiero: il "Sistema 1", veloce, automatico, che lavora per scorciatoie mentali, e il "Sistema 2", lento e faticoso, che si attiva solo quando serve davvero. La maggior parte delle nostre giornate gira sul Sistema 1 — ed è un bene: se doveste ragionare a fondo su ogni frase che pronunciate, non arrivereste a pranzo.
Il problema è quando il pilota automatico resta inserito anche dove servirebbe pensare. I cliché fanno esattamente questo. Gli psicologi parlano di "cliché che spengono il pensiero": frasi come "è così e basta", "tutto accade per una ragione", "abbiamo sempre fatto così". Suonano come saggezza, funzionano come interruttori: chiudono la discussione invece di aprirla. Sono l'equivalente umano dell'output più probabile: la risposta che costa meno, non quella che vale di più.
In azienda li riconoscete subito: "dobbiamo essere più agili", "il cliente al centro", "fare sinergia". Nessuna di queste frasi è falsa. Ma quante volte chi le pronuncia saprebbe spiegare, concretamente, cosa comportano lunedì mattina?
La novità: l'AI ci sta facendo parlare come lei
Fin qui, nulla di nuovo sotto il sole: le persone che parlano per formule esistevano ben prima dei computer. La novità, documentata da ricerche recenti, è che il cerchio si sta chiudendo.
Nel 2025 i ricercatori del Max Planck Institute for Human Development hanno analizzato circa 740.000 ore di parlato — oltre 360.000 video accademici su YouTube e 771.000 episodi di podcast — confrontando il prima e il dopo ChatGPT. Il risultato: un aumento misurabile e improvviso, nel parlato umano spontaneo, proprio delle parole che ChatGPT predilige, come delve, meticulous, swift. In altre parole:
una macchina addestrata sul nostro linguaggio ha sviluppato i suoi tic, e ora noi stiamo assorbendo i tic della macchina.
I ricercatori lo chiamano un circuito culturale chiuso tra uomini e macchine.
Altri studi vanno nella stessa direzione: la scrittura assistita dall'AI migliora la qualità media dei singoli testi ma riduce la diversità dell'insieme, appiattendo stili, strutture e persino sfumature culturali verso un unico standard levigato. Se il rischio del pappagallo stocastico era ripetere senza capire, il rischio nuovo è che milioni di persone ripetano lo stesso pappagallo.
Onestà intellettuale: non semplifichiamo troppo
Detto tutto questo, sarebbe scorretto chiudere il cerchio in modo troppo comodo. Il dibattito scientifico sull'AI è apertissimo: diversi studi mostrano che i modelli linguistici sviluppano al loro interno rappresentazioni sorprendentemente strutturate del mondo — un esperimento celebre ha rilevato che un modello addestrato solo su sequenze di mosse del gioco Othello si costruisce internamente una "mappa" della scacchiera che non ha mai visto. Quindi forse non sono solo pappagalli.
E vale anche il contrario: il cervello umano non è solo un predittore di parole. Ricerche recenti di neuroscienze mostrano che, pur anticipando continuamente il linguaggio in arrivo come fanno i modelli, gli esseri umani organizzano le parole in strutture grammaticali e concettuali che i modelli non replicano allo stesso modo. La sovrapposizione tra mente e macchina è parziale, non totale. Ma è proprio nella zona di sovrapposizione che sta il punto scomodo.
La mia opinione: "artificiale" rispetto a cosa?
E qui arrivo alla domanda che mi gira in testa da tempo, e che vi giro volentieri in forma di provocazione: siamo sicuri che questa intelligenza sia davvero "artificiale"? O riflette piuttosto, con precisione imbarazzante, il modo di pensare — pigro, imitativo, superficiale — di gran parte degli esseri umani reali?
L'AI, dopotutto, non ha inventato niente: ha imparato da noi. Da miliardi di nostre frasi, con dentro le nostre intuizioni migliori e, in proporzione schiacciante, i nostri luoghi comuni. Se l'output somiglia a un collage di frasi fatte dette con sicurezza, forse è perché il materiale di partenza era quello. Nella mia esperienza, la reazione più comune davanti a un testo generato dall'AI — "sembra scritto da una persona" — è meno un complimento alla macchina che una confessione su di noi.
La vera linea di confine non passa tra umani e macchine. Passa tra chi pensa e chi ripete — e attraversa entrambe le categorie. L'AI non ci ruberà il pensiero: ci sta solo mostrando quanto poco, spesso, lo usavamo già.
I 3 punti da ricordare
- La critica ai "pappagalli stocastici" — ripetere senza capire — descrive anche un funzionamento umano documentato: illusione di capire, pensiero automatico, cliché che spengono la riflessione.
- Per la prima volta ci sono prove empiriche che l'AI sta rimodellando il nostro linguaggio, spingendolo verso formule sempre più uniformi.
- Il confine che conta non è uomo/macchina, ma pensiero/ripetizione: e sta a ciascuno di noi decidere da che parte stare, frase per frase.
Un esperimento da provare questa settimana: scegliete un concetto che usate spesso al lavoro e che siete certi di padroneggiare. Provate a spiegarlo per iscritto, in dieci righe, senza usare nemmeno una frase fatta. Se ci riuscite, lo capivate davvero. Se no… benvenuti nel club: l'importante è accorgersene.
Fonti
- Bender, Gebru et al., On the Dangers of Stochastic Parrots (FAccT 2021)
- Rozenblit & Keil, The misunderstood limits of folk science (Cognitive Science, 2002)
- The Decision Lab, The Illusion of Explanatory Depth
- Kahneman, Thinking, Fast and Slow (2011) — sintesi della teoria dei due sistemi
- Unplugged Psychology, Breaking Down Thought-Terminating Clichés
- Yakura et al. (Max Planck Institute), Empirical evidence of LLM's influence on human spoken communication — divulgazione su Scientific American
- Stanford Daily, The great smoothing
- The Conversation, ChatGPT only talks in clichés
- rewire.it, Do LLMs Construct World Models?
⚠️ Nota di trasparenza con confessione.
Questo articolo è stato scritto da una piccola redazione di agenti AI — ricercatore, copywriter e publisher — come esperimento pratico per il corso che sto tenendo in Formaper.
Sarebbe stato elegante pubblicarlo così com’era uscito dalla macchina, per coerenza con il tema. Ma non ho resistito: l’ho modificato e migliorato in più punti, di mano mia. Il che, a pensarci bene, è la conclusione migliore che questo articolo potesse avere: l’AI produce la bozza, il pensiero — quello vero — resta un lavoro umano.
