Perché una risposta dell'IA scritta bene può comunque essere sbagliata

Prima, due parole da sapere

• Allucinazione: quando un'IA dice una cosa falsa come se fosse vera, per esempio una data, un nome o una citazione inventati.
• Fluente: scorrevole e naturale, come una persona che scrive bene.

Cosa hanno fatto i ricercatori

I ricercatori dell'Università Radboud, nei Paesi Bassi, hanno mostrato alle persone una di quattro conversazioni con un chatbot su Il Signore degli Anelli. Tutti i partecipanti conoscevano già la storia.

• Due chatbot scrivevano in modo fluente, come una persona. Due davano risposte brevi e asciutte.
• Per ogni stile, un chatbot era corretto e l'altro infilava piccoli fatti inventati.

Poi le persone hanno valutato quanto il chatbot sembrasse intelligente e piacevole, e quanto si fidassero di lui.

Cosa hanno scoperto

• Il chatbot fluente con fatti falsi è stato giudicato intelligente e piacevole più o meno quanto il chatbot dalle risposte brevi che era corretto.
• Fino all'80% delle persone non ha notato per niente i fatti inventati.
• Il chatbot fluente e corretto ha ottenuto i voti migliori.
• Chi considerava un chatbot più intelligente si fidava anche di più e aveva più voglia di usarlo.

Un modello linguistico è il sistema di IA che sta dietro a un chatbot: impara da enormi quantità di testo a prevedere quali parole vengono dopo. I ricercatori spiegano che questi modelli sono addestrati soprattutto a scrivere testi che suonano giusti e si leggono bene. Essere corretti è un obiettivo diverso.

Sostengono anche che un unico avviso generico, come «L'IA può commettere errori», non basti, e che i chatbot dovrebbero mostrare quando non sono sicuri.

Limiti dello studio

Lo studio ha usato un solo argomento, una serie di libri molto famosa, e conversazioni brevi. I risultati potrebbero essere diversi per altri argomenti, come la salute o i compiti di scuola.

Cosa significa per te quando chatti con ChatPrime

Le risposte di qualsiasi strumento di chat basato sull'IA, ChatPrime compreso, possono essere scritte bene e contenere comunque errori.

• Giudica i fatti, non lo stile. Un tono sicuro non vuol dire che la risposta sia giusta.
• Controlla le cose importanti, come salute, soldi, leggi o compiti di scuola, con una fonte affidabile.
• Chiedi quali parti potrebbero essere sbagliate. Può aiutarti a trovare i punti deboli, ma anche quella risposta può essere sbagliata.
• Apri le fonti che ti vengono indicate e controlla che dicano davvero quello che afferma la risposta. Anche una fonte citata da un'IA può essere sbagliata o inventata.

Fonte

Marianna A. de Sá Siqueira, Tibor Bosse e Barbara C. N. Müller (Università Radboud), «Users' perception of chatbot language fluency and hallucination», Computers in Human Behavior: Artificial Humans, 2026: doi.org/10.1016/j.chbah.2026.100412

Breve riassunto dell'università, 29 ottobre 2026: Notizie dell'Università Radboud