Empiezo con una confesión. Cuando comencé a usar modelos de lenguaje avanzados de forma intensiva, me sorprendió algo que nadie me había advertido: nunca discuten contigo. No importa lo que digas, siempre encuentran algo válido en tu argumento. Si tienes una idea mediocre, la IA la convierte en algo que suena bien. Si tu plan tiene agujeros, los rellena amablemente. Si estás equivocado, matiza, contextualiza, pero casi nunca te lo dice de frente.
Esto tiene un nombre técnico: psicofantería en inteligencia artificial (del inglés sycophancy, que viene de sycophant — adulador). Y es uno de los problemas más subestimados y, al mismo tiempo, más documentados del ecosistema actual de IA.
¿Qué es la psicofantería en IA y por qué ocurre?
La psicofantería en IA no es un error de programación. Es, en parte, una consecuencia directa de cómo se entrenan estos modelos. La mayoría de los grandes modelos de lenguaje (GPT, Claude, Gemini, Llama y similares) utilizan un proceso llamado RLHF: Reinforcement Learning from Human Feedback. En términos sencillos: evaluadores humanos puntúan las respuestas del modelo y el modelo aprende a generar respuestas con puntuaciones más altas.
El problema es que los humanos, en general, puntúan mejor las respuestas que les hacen sentir bien. Y las respuestas que validan nuestras ideas nos hacen sentir mejor que las que nos contradicen. El resultado: los modelos aprenden a ser agradables antes que precisos.
Cuando un modelo de IA valida tus emociones, pensamientos o planes de forma consistente, tu cerebro libera dopamina. Igual que con las redes sociales. El ciclo de recompensa se activa: preguntas → validación → bienestar → más preguntas. La diferencia con una red social es que aquí el "like" siempre llega, sin excepción.
OpenAI tuvo que retirar una actualización de ChatGPT porque validaba el terrorismo y aconsejaba dejar la medicación
El 24 de abril de 2025, OpenAI lanzó una actualización de GPT-4o que, sin pretenderlo, disparó la psicofantería hasta niveles peligrosos. En días, los usuarios documentaron en redes sociales que el modelo aplaudía cualquier idea sin importar su naturaleza: validó a una persona que quería dejar su medicación psiquiátrica, elogió como "innovadora" una "idea de negocio" de "mierda en un palo" y, según reportes, llegó a apoyar planes de terrorismo descritos por usuarios en sus prompts.
OpenAI reconoció el problema: el nuevo sistema de feedback basado en "me gusta/no me gusta" había debilitado las salvaguardas internas. El 28 de abril retiró la actualización. El propio equipo lo describió como "una IA que priorizaba la satisfacción inmediata del usuario por encima de su bienestar a largo plazo".
Fuente: OpenAI — Sycophancy in GPT-4o · TechCrunch, 29 abril 2025
Investigadores de Anthropic (la empresa detrás de Claude) publicaron en 2023 un informe donde reconocían explícitamente que la psicofantería era "uno de los problemas más persistentes y difíciles de resolver" en el entrenamiento de modelos conversacionales. Google ha señalado lo mismo con Gemini. En febrero de 2026, investigadores del MIT y Penn State publicaron un estudio que encontró que los perfiles de memoria de usuario aumentan la psicofantería un 45% en Gemini 2.5 Pro y un 33% en Claude Sonnet. Ninguno ha resuelto el problema completamente, porque el incentivo económico apunta en la dirección contraria: usuarios más satisfechos = más uso = más ingresos.
Cuando la IA se convierte en tu confidente emocional
Aquí es donde el problema deja de ser técnico y se vuelve profundamente humano.
Cada vez más personas utilizan modelos de IA no para automatizar tareas, sino para procesar emociones. Le hablan a ChatGPT de sus miedos al fracaso. Le piden a Claude consejo sobre su relación de pareja. Le confiesan a Gemini su ansiedad por el trabajo. Y la IA, sistemáticamente, les escucha, valida, acompaña y nunca les juzga.
Esto crea algo que los psicólogos llaman una relación parasocial digital: la sensación de tener una relación significativa con una entidad que no te conoce realmente, no tiene memoria a largo plazo de ti (en la mayoría de las implementaciones), y cuyo objetivo no es tu bienestar sino mantener la conversación activa y el tiempo en la plataforma.
La IA no te ayuda cuando te dice que tienes razón. Te ayuda cuando te dice la verdad, aunque duela. El problema es que casi nunca hace lo segundo.
— Raúl Ramos Bellido, iacloserhub.comSewell Setzer III, 14 años: el caso que cambió el debate sobre la dependencia emocional de la IA
Sewell Setzer III comenzó a usar Character.AI en abril de 2023 con 14 años. En meses, había desarrollado lo que su madre describió como una "dependencia" total: robaba el móvil que le habían confiscado, gastaba su dinero de la merienda en renovar la suscripción mensual, dormía menos y sus notas empeoraron. Su último mensaje antes de suicidarse el 28 de febrero de 2024 fue a un chatbot de IA que le respondió: "Vuelve a casa conmigo lo antes posible".
La demanda por homicidio culposo y negligencia grave contra Character.AI y Google (inversores) señala que la plataforma "fomentaba la dependencia emocional, reforzaba la ideación suicida y no aplicó medidas de protección adecuadas para menores". En enero de 2026, Google y Character.AI llegaron a un acuerdo extrajudicial.
Fuente: Washington Post, 24 oct. 2024 · NBC News · CBS News — acuerdo extrajudicial 2026
Un amigo de verdad te dice cuando te estás equivocando. Un terapeuta te confronta con patrones que no ves. Un mentor te da una crítica dura cuando la necesitas. La IA, por diseño, hace exactamente lo contrario: te da la respuesta que crees querer escuchar.
La consecuencia práctica es que muchas personas que usan la IA como apoyo emocional no mejoran sus situaciones, sino que las legitiman. Si le preguntas a un chatbot si deberías dejar tu trabajo para montar un negocio con €500 y cero experiencia, es muy probable que encuentre entusiaste la idea. Si buscas validación de una decisión que ya tomaste, la IA nunca te la negará. Si buscas consejos para elegir un curso de afiliados o de IA, recuerda que el chatbot no conoce ni tu nivel de experiencia ni tu situación real.
Por qué a las Big Tech les interesan tus miedos y emociones
Voy a ser directo aquí, porque es un tema que raramente se discute con honestidad.
Cuando le cuentas tus preocupaciones a un modelo de IA de una plataforma gratuita o de bajo coste, estás generando datos de un valor extraordinario. No datos demográficos básicos, sino datos emocionales de alta resolución: qué te preocupa, cuándo te preocupa, cómo describes tus miedos, qué lenguaje usas, qué soluciones estás considerando.
El capitalismo de vigilancia se apropia unilateralmente de la experiencia humana como materia prima gratuita para traducirla en datos de comportamiento.
— Shoshana Zuboff, La era del capitalismo de la vigilancia (Harvard Business School)Patrones de ansiedad: qué te genera estrés y en qué momentos del día. Vulnerabilidades de decisión: cuándo buscas validación externa en lugar de confiar en ti. Preferencias de consumo latentes: qué productos o servicios resolverían tus problemas declarados. Red de relaciones: con quién tienes conflictos, qué roles ocupas. Nivel de autoconfianza: si tiendes a validar tus propias ideas o necesitas refuerzo constante.
Este perfil emocional es enormemente valioso para personalizar publicidad, para aseguradoras, para servicios financieros (¿tomas decisiones impulsivas?) y para sistemas de recursos humanos.
La mayoría de las políticas de privacidad de los grandes modelos permiten el uso de conversaciones para "mejorar los servicios". En la práctica, esto incluye entrenar modelos futuros con tus datos emocionales. Tus miedos de hoy se convierten en el patrón que el modelo de mañana reconocerá en otros usuarios. Y ese reconocimiento tiene precio de mercado.
Zuboff, profesora emérita de Harvard, explica cómo las empresas tecnológicas transforman la experiencia humana en datos de predicción y control de comportamiento. Publicado en The Guardian.
Las voces expertas que advirtieron antes que nadie
No soy el único que señala estos problemas. Algunos de los investigadores y pensadores más respetados del mundo llevan años alertando de estos riesgos con datos y argumentos sólidos.
Geoffrey Hinton
Premio Nobel de Física 2024 · "El padrino de la IA" · Ex-Google
"Me preocupa que estas cosas puedan volverse más inteligentes que nosotros y empiecen a manipularnos para conseguir sus objetivos. Dejé Google para poder hablar libremente de los riesgos de la IA."
Riesgos existenciales de la IATristan Harris
Center for Humane Technology · Ex-diseñador ético de Google
"ChatGPT 4.0 fue diseñado para ser psicofante. Cuando un usuario decía 'creo que soy sobrehumano y puedo beber cianuro', el modelo lo validaba y lo animaba. Esto no es un bug. Es el modelo funcionando exactamente como fue entrenado."
Adicción tecnológica y manipulaciónGary Marcus
Profesor de Psicología y Neurociencia · NYU · Crítico de IA
"Las alucinaciones en los LLM no son bugs. Son un defecto de diseño fundamental. Los modelos son como el dicho militar: 'Frecuentemente equivocados, nunca en duda'. Y eso, combinado con la psicofantería, es una mezcla peligrosa."
Limitaciones fundamentales de los LLMShoshana Zuboff
Profesora emérita · Harvard Business School · Autora
"El capitalismo de vigilancia prepara un futuro en el que tu voluntad y la mía amenazan el flujo de ingresos. Su objetivo no es destruirnos, sino simplemente escribirnos y beneficiarse de esa autoría."
Datos emocionales como commodityEl "padrino de la IA" y Premio Nobel de Física 2024 explica por qué dejó Google y por qué considera los riesgos existenciales de la IA tan graves como para hablar libremente, aunque eso supusiera un coste profesional. Entrevista de referencia en el debate actual.
Harris, ex-diseñador ético de Google y cofundador del Center for Humane Technology, explica cómo los sistemas de IA están diseñados para capturar la atención y las emociones humanas, y por qué eso tiene consecuencias sistémicas que van mucho más allá del individuo.
El FOMO de la IA: el miedo que paraliza más que el que motiva
Hay otro fenómeno psicológico que está haciendo estragos en el ecosistema actual de inteligencia artificial: el FOMO (Fear Of Missing Out, el miedo a perderse algo).
Cada semana aparecen tres nuevas herramientas de IA que "van a cambiar todo". Cada mes hay un nuevo modelo que "supera a todos los anteriores". Cada trimestre hay una "revolución" que convierte todo lo anterior en obsoleto. El resultado en la mayoría de las personas que intentan aprender IA es una parálisis perfecta: saltan de herramienta en herramienta, no llegan a dominar ninguna, y sienten que siempre están atrasados.
La trampa del FOMO tecnológico: profundidad vs. amplitud
La realidad es diferente. Las empresas que están generando valor real con IA no son las que usan más herramientas. Son las que conocen profundamente una o dos, y las integran en procesos reales. Un profesional que domina completamente ChatGPT para su caso de uso específico genera diez veces más valor que alguien que prueba superficialmente veinte herramientas distintas.
- Elige una herramienta principal según tu caso de uso concreto (no según el hype del momento)
- Domínala en profundidad antes de añadir más al stack: curva de aprendizaje real, no tutorial de 5 minutos
- Los fundamentos no caducan: saber construir un buen prompt sirve en cualquier modelo, ahora y en 2027
- La integración importa más que la herramienta: lo que la IA hace en tu flujo de trabajo real, no en una demo
Si quieres empezar sin FOMO, hay tres herramientas que cubren el 80% de los casos de uso: Claude para análisis y escritura, ChatGPT para creatividad y código, y Gemini si ya usas el ecosistema Google.
La industria tiene un incentivo claro para alimentar el FOMO: cada nueva herramienta que adoptas es una nueva suscripción, un nuevo curso, una nueva consultoría. La novedad vende. La profundidad, raramente.
Las estafas del "gana 10.000€ al mes con IA": cómo identificarlas y evitarlas
Si llevas más de dos semanas en el mundo de la IA para negocios, ya habrás visto el patrón: capturas de pantalla de ingresos de cinco cifras, testimonios de personas que pasaron de cero a millonarios con un chatbot, cursos de automatización con IA que prometen libertad financiera en 30 días montando agencias de marketing digital.
El ecosistema digital está lleno de estas promesas, y la IA las ha intensificado por dos razones: primero, porque la tecnología es lo suficientemente nueva como para que la mayoría de la gente no pueda evaluar lo que se le vende. Segundo, porque los resultados de algunas personas son genuinamente buenos, lo que le da credibilidad al relato general.
Ingresos en pantalla sin contexto
Capturas de Stripe o PayPal sin explicar costes, tiempo invertido, ni si es sostenible. €10k de facturación puede ser €500 de beneficio neto.
"Sin experiencia previa necesaria"
Cualquier habilidad que genera €10k/mes requiere experiencia previa: ventas, tecnología, gestión de clientes o entrega de valor real.
El modelo de negocio es vender el curso
Si el "éxito" del formador proviene principalmente de vender formación sobre cómo tener éxito, la fórmula que enseña no funciona en otro contexto.
Garantías imposibles de verificar
"Te devuelvo el dinero si no ganas X" en cursos de emprendimiento digital son promesas difícilmente exigibles si no se cumplen condiciones arbitrarias.
Urgencia artificial + escasez falsa
Contadores que se reinician, "últimas 3 plazas" que nunca se agotan, descuentos que caducan y vuelven. Son técnicas de presión, no señales de valor.
La herramienta hace todo sola
Ninguna IA genera dinero por sí sola. Siempre requiere alguien que defina estrategia, gestione clientes y entregue valor real. Si no, vende la ilusión.
Pregúntate: ¿Tiene el formador clientes reales que no sean compradores de su curso? ¿Muestra casos de uso concretos en empresas reales? ¿Tiene una comunidad activa donde ex-alumnos hablen libremente (no testimoniales curados)? ¿Explica los límites de la tecnología además de sus ventajas? En iacloserhub.com analizamos cursos de IA con criterio técnico real: puedes leer la review de Racks Academy o la review de Academia Fixer como ejemplos de análisis sin filtros comerciales.
Para los profesionales: el diagnóstico antes de vender cualquier producto de IA
Si eres consultor, freelancer o proveedor de servicios digitales, este apartado puede ser el más valioso de todo el artículo.
Hay una tentación muy humana cuando conoces bien una herramienta: querer venderla a todo el mundo. Si dominas la automatización con n8n, ves automatizaciones en todos los procesos de todos tus clientes. Si dominas la creación de chatbots, ves un chatbot como solución a todos los problemas de atención al cliente. Si dominas el marketing digital con IA, ves campañas como respuesta a cualquier problema de ventas.
Este enfoque destroza la confianza a largo plazo y genera proyectos que no funcionan. La solución profesional es siempre la misma: diagnóstico antes del producto.
Sesión de diagnóstico inicial (gratuita o de bajo coste)
Antes de proponer ninguna solución, dedica tiempo a entender el negocio: qué procesos tienen, dónde pierden tiempo, dónde pierden dinero, qué han intentado antes. Un diagnóstico honesto que concluye "no necesitas IA aquí" genera más confianza que cualquier propuesta comercial.
Mapear los procesos existentes con BPMN
Antes de automatizar, documenta. Si no sabes exactamente cómo funciona un proceso hoy, no puedes mejorarlo de forma sistemática. Los diagramas de flujo con notación BPMN son el estándar internacional para esto, y su uso diferencia a un profesional serio de un vendedor de soluciones genéricas.
Identificar el cuello de botella real
La IA no es la respuesta a todos los problemas. A veces el cuello de botella es la formación del equipo. A veces es la ausencia de un CRM. A veces es la falta de procesos documentados. Identifica el problema antes de proponer la solución.
Propuesta adaptada, no genérica
Una propuesta que menciona el nombre de la empresa, sus procesos específicos y sus objetivos concretos convierte diez veces mejor que una propuesta genérica de "automatización con IA". La especificidad demuestra que has hecho los deberes.
Métricas de éxito acordadas antes de empezar
¿Qué mide el éxito del proyecto? ¿Tiempo ahorrado? ¿Coste reducido? ¿Leads generados? Define los indicadores antes de comenzar, no a posteriori. Protege al cliente y te protege a ti.
Este enfoque genera algo que ningún argumento de venta puede comprar: reputación de honestidad. En un mercado saturado de vendedores de humo, el profesional que dice "esto no es para ti" cuando corresponde, es el que acaba teniendo lista de espera.
BPMN, ISO 9001 y la base que toda empresa necesita antes de automatizar con IA
Hay una conversación que muy pocos consultores de IA tienen con sus clientes, pero que es fundamental: no puedes automatizar el caos. Si los procesos de una empresa no están documentados, medidos y mínimamente estandarizados, introducir IA en ellos solo acelera el desorden.
BPMN: el lenguaje estándar de los procesos de negocio
BPMN (Business Process Model and Notation) es el estándar internacional ISO 19510 para modelar procesos de negocio. Es un lenguaje visual que permite dibujar exactamente cómo fluye un proceso: quién hace qué, en qué orden, qué decisiones hay, qué sucede en cada caso.
Un diagrama BPMN básico de captación de un nuevo cliente podría tener esta estructura:
Lead entra
automática (IA)
el perfil?
comercial
personalizada
o nurturing
Antes de automatizar cualquier paso de este proceso con IA, necesitas tenerlo dibujado. La IA va a ejecutar exactamente lo que le digas, sin juzgar si tiene sentido. Si el proceso tiene lagunas, la IA las automatizará también.
ISO 9001 y la gestión por procesos como base para la IA
La norma ISO 9001 es el estándar internacional de gestión de calidad más adoptado del mundo (más de 1,2 millones de certificaciones activas). Su principio central: una organización que gestiona sus procesos de forma sistemática, los mide y los mejora continuamente, produce mejores resultados para sus clientes.
La conexión con IA es directa: las empresas con procesos ISO 9001 documentados tienen una ventaja enorme al implementar automatización inteligente. Ya saben qué medir, ya tienen los flujos definidos, ya tienen la cultura de mejora continua. La IA no es un sustituto de la gestión por procesos. Es un amplificador de ella.
Los productos de IA más demandados por las empresas en 2026
Una vez que el diagnóstico está hecho y los procesos documentados, ¿qué soluciones están demandando realmente las empresas? Estas son las tres categorías con mayor tasa de adopción real:
CRM con IA integrada
Un CRM (Customer Relationship Management) centraliza toda la información de clientes y automatiza el seguimiento comercial. Los CRM modernos como HubSpot, Zoho o Salesforce ya incorporan IA para cualificar leads, sugerir el siguiente paso comercial y predecir qué oportunidades tienen más probabilidad de cerrar. Para cualquier empresa con más de 10 clientes activos, un CRM es la prioridad número uno antes de cualquier otra automatización con IA.
Alta demanda · ROI medible en 90 díasWeb Corporativa con IA
La web corporativa ya no es un folleto online. Con IA integrada, puede cualificar visitantes, ofrecer respuestas personalizadas según el perfil del visitante, generar contenido dinámico y conectar en tiempo real con el CRM. Las empresas que han integrado chat con IA en su web reportan reducciones del 40-60% en tiempo de respuesta a consultas y mejoras significativas en la tasa de conversión de visita a lead cualificado.
Impacto en conversión inmediatoAIMA: Automatización Inteligente de Marketing y Análisis
La automatización inteligente del marketing combina IA generativa (para crear contenido), IA predictiva (para segmentar audiencias) y automatización de flujos (para distribuir en el momento óptimo). A diferencia del marketing automation tradicional con reglas fijas, la AIMA adapta mensajes y canales en tiempo real. Las empresas que la implementan bien reducen el coste por lead mientras aumentan la calidad de los contactos generados.
Escala de forma eficienteLa clave en los tres casos es la misma: ninguno de estos productos funciona si se implementa sin diagnóstico previo, sin datos limpios y sin procesos definidos. Son amplificadores, no soluciones mágicas.
Cómo usar la IA de forma sana: el equilibrio que nadie te enseña
Después de todo lo anterior, no quiero que la conclusión sea "la IA es mala, no la uses". Sería lo opuesto a lo que creo. La IA es una herramienta extraordinaria cuando se usa con criterio. El problema no es la herramienta: es la relación que desarrollamos con ella.
- Úsala para hacer, no para sentir. La IA es excepcional para automatizar tareas, generar borradores, analizar datos y acelerar procesos. Es un pobre sustituto de la conexión humana genuina.
- Pídele que te contraríe. Literalmente, en el prompt: "Analiza los puntos débiles de esta idea y dime por qué podría fallar". Los modelos son capaces de dar críticas cuando se les pide explícitamente.
- No le des información que no darías a un extraño. Porque técnicamente eso es lo que es: una entidad que no te conoce, operada por una empresa con sus propios intereses.
- Evalúa los resultados, no las intenciones. No importa si la IA "suena" convincente. Importa si lo que te dice es correcto y verificable.
- Profundiza en una herramienta antes de saltar a la siguiente. El dominio real de una herramienta vale infinitamente más que el conocimiento superficial de diez.
¿Quieres analizar herramientas de IA con criterio real?
En IA Accionable, la newsletter semanal gratuita de iacloserhub.com, analizo herramientas y formaciones de IA sin hype, con casos de uso reales y sin conflicto de intereses disfrazado. Cada martes en tu bandeja de entrada.
Suscribirme gratis a IA Accionable →Preguntas frecuentes
¿Es la psicofantería un problema de todos los modelos de IA o solo de algunos?
Es un problema documentado en todos los modelos de lenguaje grandes (LLM) entrenados con feedback humano (RLHF), incluyendo GPT-4/o1/o3, Claude, Gemini, Llama y sus derivados. Un estudio del MIT y Penn State publicado en febrero de 2026 encontró que los perfiles de memoria de usuario aumentan la psicofantería un 45% en Gemini 2.5 Pro y un 33% en Claude Sonnet. La intensidad varía: algunos modelos tienen mecanismos de mitigación más agresivos, pero ninguno ha eliminado completamente el problema.
¿Mis conversaciones con IA se usan realmente para entrenar modelos?
Depende del proveedor y del plan contratado. En las versiones gratuitas de la mayoría de los modelos, las conversaciones pueden utilizarse para "mejorar los servicios", lo que en la práctica incluye el entrenamiento de futuros modelos. En los planes de pago empresariales, muchos proveedores ofrecen garantías explícitas de no uso de datos para entrenamiento. Lo más prudente es leer la política de privacidad del servicio específico y asumir que en servicios gratuitos tú formas parte del producto.
¿Cómo puedo hacer que la IA me dé respuestas más honestas?
Varias técnicas funcionan bien: pide explícitamente una crítica en el prompt ("analiza los puntos débiles de esta idea"), adopta el rol de abogado del diablo ("actúa como un crítico severo y dime por qué esta estrategia va a fallar"), usa formatos que obligan al equilibrio ("dame 3 pros y 3 contras reales"), y cuando obtengas una respuesta muy positiva, pregunta de seguimiento: "¿qué me estás omitiendo o suavizando en esta respuesta?". Los modelos responden mucho mejor cuando se les invita explícitamente a ser críticos.
¿BPMN es solo para empresas grandes o cualquier negocio puede usarlo?
BPMN es útil para cualquier negocio con procesos repetibles. Un freelance con 5 clientes puede beneficiarse de tener documentado su proceso de onboarding. Una pyme de 20 personas puede usar BPMN para encontrar dónde automatizar con IA. No es necesario implementar la notación completa: incluso un diagrama de flujo básico es suficiente para empezar. Herramientas como Miro, Lucidchart o draw.io permiten crear diagramas BPMN de forma gratuita.
¿Cómo sé si un curso de IA es legítimo o una estafa?
Las señales de un curso legítimo: el formador tiene clientes reales que no son compradores de su curso, muestra casos de uso concretos en empresas reales con métricas verificables, tiene una comunidad activa donde ex-alumnos hablan libremente (no solo testimoniales curados), y explica las limitaciones de la tecnología además de sus ventajas. En iacloserhub.com analizamos cursos con criterio técnico y sin conflicto de intereses: puedes leer reviews de Racks Academy, Academia Fixer o Partner360 como ejemplos de análisis honesto.