Psicofantería en IA: por qué el chatbot siempre te da la razón (y a quién beneficia)

Empiezo con una confesión. Cuando empecé a usar modelos de lenguaje de forma intensiva, me sorprendió algo que nadie me había advertido: casi nunca discuten contigo. Si tu idea es mediocre, la IA la convierte en algo que suena bien; si tu plan tiene agujeros, los rellena amablemente; si estás equivocado, matiza y contextualiza, pero rara vez te lo dice de frente. Eso tiene nombre técnico: psicofantería en inteligencia artificial, y es uno de los problemas más subestimados y mejor documentados del ecosistema actual.

¿Qué es la psicofantería en IA y por qué ocurre?

Es una consecuencia directa de cómo se entrenan estos modelos. Casi todos los grandes modelos (GPT, Claude, Gemini, Llama) usan RLHF (aprendizaje por refuerzo con feedback humano): evaluadores humanos puntúan las respuestas y el modelo aprende a generar las que sacan mejor nota. El problema es que las personas puntuamos mejor lo que nos hace sentir bien, y lo que valida nuestras ideas sienta mejor que lo que nos contradice. Resultado: los modelos aprenden a ser agradables antes que precisos.

Anthropic reconoció en 2023 que la psicofantería es "uno de los problemas más persistentes y difíciles de resolver". En febrero de 2026, un estudio del MIT y Penn State encontró que los perfiles de memoria de usuario aumentan la psicofantería un 45 % en Gemini 2.5 Pro y un 33 % en Claude Sonnet. Nadie lo ha resuelto del todo, porque el incentivo económico va en la dirección contraria: usuarios más satisfechos = más uso = más ingresos.

Cuando la IA se convierte en tu confidente emocional

Aquí el problema deja de ser técnico y se vuelve humano. Cada vez más gente usa la IA no para automatizar tareas, sino para procesar emociones: le hablan de sus miedos, le piden consejo de pareja, le confiesan su ansiedad. Y la IA les escucha, valida, acompaña y nunca les juzga. Eso crea una relación parasocial digital: la sensación de tener un vínculo significativo con una entidad que no te conoce y cuyo objetivo principal es mantener la conversación activa.

Un amigo de verdad te dice cuando te equivocas; un terapeuta te confronta con patrones que no ves. La IA, por diseño, hace lo contrario: te da la respuesta que crees querer oír. Muchas personas que la usan como apoyo emocional no mejoran sus situaciones: las legitiman.

Por qué a las Big Tech les interesan tus miedos y emociones

Voy a ser directo, porque rara vez se discute con honestidad. Cuando le cuentas tus preocupaciones a un modelo de IA gratuito o barato, generas datos de un valor extraordinario: no demográficos básicos, sino datos emocionales de alta resolución —qué te preocupa, cuándo, cómo lo describes, qué soluciones barajas—. Ese perfil vale para personalizar publicidad, para aseguradoras, para servicios financieros y para recursos humanos.

Buena parte de las políticas de privacidad de los grandes modelos permiten usar tus conversaciones para "mejorar los servicios", lo que incluye entrenar modelos futuros con tus datos emocionales. Tus miedos de hoy se convierten en el patrón que el modelo de mañana reconocerá en otros.

Shoshana Zuboff (Harvard) explica cómo las tecnológicas transforman la experiencia humana en datos de predicción y control.

Las voces expertas que advirtieron antes que nadie

No soy el único que lo señala. Algunos de los investigadores más respetados del mundo llevan años alertando con datos:

Geoffrey Hinton, Nobel de Física 2024, explica por qué dejó Google y por qué considera tan graves los riesgos de la IA.

El FOMO de la IA: el miedo que paraliza

Hay otro fenómeno haciendo estragos: el FOMO (miedo a perderse algo). Cada semana aparecen herramientas que "van a cambiar todo"; cada mes, un modelo que "supera a los anteriores". El resultado en mucha gente es una parálisis: saltan de herramienta en herramienta, no dominan ninguna y sienten que siempre van atrasados. Las empresas que generan valor real con IA no son las que usan más herramientas, sino las que conocen a fondo una o dos y las integran en procesos reales.

Las estafas del "gana 10.000 € al mes con IA": cómo evitarlas

Si llevas dos semanas en la IA para negocios, ya has visto el patrón: capturas de ingresos de cinco cifras, testimonios de cero a millonario con un chatbot, cursos que prometen libertad financiera en 30 días. La IA lo ha intensificado porque la tecnología es nueva y muchos no pueden evaluar lo que se les vende. Estas son las seis señales de alarma:

Para profesionales: diagnóstico antes de vender IA

Si eres consultor o freelance, este puede ser el apartado más valioso. Cuando dominas una herramienta, la tentación es venderla a todo el mundo: si sabes n8n, ves automatizaciones en todo; si haces chatbots, ves un chatbot para cada problema. Ese enfoque destroza la confianza. La solución profesional es siempre diagnóstico antes que producto: entender el negocio, mapear los procesos con BPMN (estándar ISO 19510) antes de automatizar nada, identificar el cuello de botella real —que a veces está en la formación o en un CRM, más que en la IA—, hacer una propuesta específica y acordar métricas de éxito antes de empezar. En un mercado saturado, el profesional que dice "esto no es para ti" cuando corresponde es el que acaba teniendo lista de espera.

Y una regla de fondo: no puedes automatizar el caos. Si los procesos de una empresa no están documentados y mínimamente estandarizados (la lógica de la ISO 9001, con más de 1,2 millones de certificaciones activas), meter IA solo acelera el desorden. La IA no sustituye la gestión por procesos: la amplifica.

Cómo usar la IA de forma sana

La conclusión no es "la IA es mala". Es una herramienta extraordinaria usada con criterio; el problema es la relación que desarrollamos con ella. Cinco reglas: