Por qué una respuesta de IA bien escrita aun así puede estar mal

Primero, dos palabras

• Alucinación: cuando una IA dice algo falso como si fuera verdad, por ejemplo una fecha, un nombre o una cita inventados.
• Fluido: natural y sin tropiezos, como el texto de alguien que escribe bien.

Qué hicieron los investigadores

Investigadores de la Universidad Radboud, en los Países Bajos, mostraron a cada participante una de cuatro conversaciones con un chatbot sobre El Señor de los Anillos. Todos los participantes ya conocían la historia.

• Dos chatbots escribían de forma fluida, como una persona. Los otros dos daban respuestas cortas y formales.
• En cada estilo, un chatbot era correcto y el otro metía pequeños datos inventados.

Después, las personas calificaron qué tan inteligente y agradable les parecía el chatbot, y cuánto confiaban en él.

Qué encontraron

• El chatbot fluido con datos falsos fue calificado como más o menos igual de inteligente y agradable que el chatbot breve que era correcto.
• Hasta el 80% de las personas no notó para nada los datos inventados.
• El chatbot fluido que era correcto obtuvo las mejores calificaciones.
• Quienes veían a un chatbot como más inteligente también confiaban más en él y querían usarlo más.

Un modelo de lenguaje es el sistema de IA detrás de un chatbot: aprende de enormes cantidades de texto para predecir qué palabras siguen. Los investigadores explican que estos modelos se entrenan sobre todo para escribir textos que suenen correctos y se lean bien. Ser correcto es un objetivo distinto.

También sostienen que un solo aviso general, como "La IA puede cometer errores", no es suficiente, y que los chatbots deberían mostrar cuándo no están seguros.

Límites del estudio

El estudio usó un solo tema, una saga de libros muy conocida, y conversaciones cortas. Los resultados podrían ser distintos con otros temas, como la salud o las tareas escolares.

Qué significa esto para ti cuando chateas con ChatPrime

Las respuestas de cualquier herramienta de chat con IA, incluido ChatPrime, pueden leerse bien y aun así tener errores.

• Juzga los datos, no el estilo. Un tono seguro no significa que la respuesta sea correcta.
• Verifica lo importante, como temas de salud, dinero, leyes o tareas escolares, con una fuente confiable.
• Pregunta qué partes podrían estar mal. Esto te puede ayudar a detectar puntos débiles, pero esa respuesta también puede estar equivocada.
• Abre las fuentes que te den y asegúrate de que digan lo que afirma la respuesta. Una fuente que te da una IA también puede estar equivocada o ser inventada.

Fuente

Marianna A. de Sá Siqueira, Tibor Bosse y Barbara C. N. Müller (Universidad Radboud), "Users' perception of chatbot language fluency and hallucination", Computers in Human Behavior: Artificial Humans, 2026: doi.org/10.1016/j.chbah.2026.100412

Resumen breve de la universidad, 29 de octubre de 2026: Noticias de la Universidad Radboud