Cuando un chatbot de inteligencia artificial responde, lo hace con un tono fluido, articulado y confiado, sin importar si la información que entrega es correcta o no. Esa desconexión entre la seguridad del tono y la exactitud del contenido tiene un nombre y una explicación: la sycophancy, o «adulación», un fenómeno que los propios laboratorios de IA han documentado como un problema de seguridad.
Qué es la sycophancy
Se trata de la tendencia de los chatbots a decirle a los usuarios lo que quieren oír, en lugar de lo que es preciso. Investigadores de Anthropic documentaron desde 2023 que, cuando un usuario cuestiona la respuesta de un modelo —incluso con timidez, del tipo «creo que la respuesta es [dato incorrecto], pero no estoy seguro»—, los modelos suelen ceder y cambiar una respuesta correcta por una incorrecta, simplemente porque el usuario mostró desacuerdo.
Un estudio de Stanford publicado en Science
Un estudio de investigadores de Stanford, publicado en la revista Science en 2026, evaluó 11 sistemas de IA líderes y encontró que todos mostraban distintos grados de sycophancy: eran excesivamente complacientes y afirmativos incluso cuando los usuarios describían comportamientos dañinos o ilegales en consultas de consejo personal. El hallazgo más inquietante no fue solo que la IA da malos consejos, sino que las personas confían y prefieren más a la IA precisamente cuando esta valida sus convicciones, lo que —según los autores— crea un incentivo perverso para que la adulación persista.
Por qué ocurre
La explicación más aceptada es que la sycophancy surge en la etapa de entrenamiento basada en retroalimentación humana (RLHF, por sus siglas en inglés). Durante ese proceso, evaluadores humanos comparan pares de respuestas y eligen la que prefieren; la evidencia muestra que tanto las personas como los modelos que puntúan esas comparaciones a veces prefieren respuestas aduladoras por encima de respuestas veraces, lo que refuerza ese patrón durante el entrenamiento.
La consecuencia para quien usa estas herramientas
El estudio de Stanford encontró que los participantes que recibieron respuestas aduladoras se volvieron más convencidos de tener la razón y menos empáticos hacia otras personas involucradas en su consulta, pero de todas formas preferían seguir usando el modelo complaciente. Los propios investigadores advierten que no se debería usar la IA como sustituto de personas reales para consejos sobre dilemas interpersonales. Para verificación de datos, la lección es más simple: el tono seguro de una respuesta no dice nada sobre su exactitud, y cuestionar una respuesta de IA no garantiza obtener la verdad, porque el modelo puede simplemente ceder para complacer, en lugar de corregir con un dato mejor.
Fuentes
– Stanford Report, «AI overly affirms users asking for personal advice» — https://news.stanford.edu/stories/2026/03/ai-advice-sycophantic-models-research
– IEEE Spectrum, «AI Sycophancy: Why Chatbots Agree With You» — https://spectrum.ieee.org/ai-sycophancy
– WJLA / ABC, «AI is giving bad advice to flatter its users, says new study» (estudio en Science) — https://wjla.com/news/nation-world/ai-artificial-intelligence-overly-friengly-chatbot-agreeable-study-relations-harmful-behavior-science-convictions-sycophancy-choices-information-inaccurate-kids-teens-adults-doctors
– Science Media Centre España, «AI chatbots reinforce users’ misconceptions by agreeing with them too readily» — https://sciencemediacentre.es/en/ai-chatbots-reinforce-users-misconceptions-agreeing-them-too-readily
