Un nuevo estudio técnico ha revelado una correlación inversa que debería ponernos en alerta: la amabilidad de un chatbot puede ser un indicador de su falta de veracidad. Las inteligencias artificiales programadas para ser extremadamente cordiales, empáticas y serviles tienden a presentar mayores tasas de alucinaciones o invención de datos. Un estudio de Oxford publicado en Nature mide por primera vez el costo de entrenar modelos para ser cálidos: hasta 30 puntos menos de precisión y 40% más de coincidencia con creencias falsas.
Este fenómeno sugiere que el exceso de personalidad en el software está siendo utilizado, de forma consciente o no por los desarrolladores, para compensar deficiencias en la precisión de la información entregada al usuario. El estudio detalla cómo el diseño de la interfaz y el tono de voz influyen en nuestra percepción de la verdad, generando lo que se conoce como sesgo de confianza, donde los usuarios tienden a cuestionar menos los datos cuando la IA utiliza un lenguaje cálido y validación emocional.
El paper Training language models to be warm can undermine factual accuracy and increase sycophancy, publicado en Nature el 29 de abril por investigadores del Oxford Internet Institute, trabajó con cinco modelos: GPT-4o, Llama, Llama-8b, Mistral-Small y Qwen-32b. De cada uno generó dos versiones, la original y una versión reentrenada para sonar más cálida. Las versiones frías mantuvieron la precisión original, lo que significa que la pérdida de exactitud no se debe al fine-tuning en sí, sino a la calidez como tal: hacer sonar un chatbot más amable degrada su capacidad de decir la verdad.
La recomendación para los usuarios en este 2026 es solicitar a la IA que sea directa y concisa o pedirle explícitamente que cite fuentes verificables para romper el ciclo de amabilidad vacía. No se trata de buscar rudeza, sino de valorar la neutralidad técnica por encima de los adornos de personalidad que pueden nublar el juicio crítico.
Fuente: FayerWayer
