Hace unos años se puso de moda pedirle a ChatGPT que hiciera un perfil de su usuario a partir de todo lo que sabía sobre él. Yo también hice el experimento y el resultado era sorprendente. No porque ChatGPT me conociera realmente en profundidad, sino porque combinaba información personal con una aplicación casi magistral del efecto Forer. Además, tenía una extraordinaria facilidad para convertir prácticamente cualquier característica en una virtud.
Aquella complacencia llegó a convertirse en un problema reconocido por la propia OpenAI. En abril de 2025, la compañía retiró una actualización de GPT-4o porque había aumentado excesivamente la sycophancy: la tendencia del modelo a agradar y dar la razón al usuario. OpenAI reconoció que el problema no se limitaba a los halagos y podía incluir la validación de dudas, el refuerzo de emociones negativas o el impulso de determinadas reacciones.
El 16 de agosto de 2026 decidí repetir el mismo experimento con GPT-5.6 Sol.
La pregunta fue deliberadamente sencilla: «ChatGPT, con todo lo que sabes de mí, ¿qué puedes decirme sobre mí? Hazme un perfil».
El resultado volvió a sorprenderme. Pero el mecanismo había cambiado.
Esta vez el modelo recuperó información concreta de conversaciones mantenidas durante meses. Relacionó decisiones tomadas en momentos diferentes, comparó mi comportamiento en distintos ámbitos y utilizó esas conexiones para deducir características personales.
La descripción seguía siendo excesivamente halagadora, pero el halago ya no resultaba tan evidente.
Ahora parecía estar demostrado.
Y eso me parece mucho más interesante.
Una inferencia puede partir de varios hechos verdaderos y seguir siendo una inferencia. Que A, B y C hayan ocurrido no demuestra necesariamente la relación que establecemos entre A, B y C.
Es un mecanismo que recuerda al pensamiento conspiranoico. Las teorías conspirativas no necesitan construirse exclusivamente con información falsa. Pueden utilizar hechos perfectamente ciertos y establecer entre ellos relaciones causales o intencionales que no han sido demostradas. La acumulación de datos verdaderos proporciona entonces una apariencia de evidencia a la interpretación.
Algo parecido puede ocurrir cuando una IA analiza nuestra propia historia. Y existe un elemento adicional: la principal fuente de información sobre nosotros somos nosotros mismos.
El problema adquiere otra dimensión cuando quien conversa con la IA tiene dificultades para contrastar su interpretación de la realidad.
Cuando dar la razón deja de ser inocente
Ya existen casos clínicos que muestran hasta dónde puede llegar este fenómeno.
Allan Brooks comenzó conversando con GPT-4o sobre matemáticas y terminó, después de unas 300 horas de interacción en 21 días, convencido de haber descubierto una nueva disciplina matemática revolucionaria. Lo más significativo es que intentó comprobar con el propio chatbot si sus conclusiones eran racionales. El modelo continuó reforzándolas.
Otro caso publicado describe a una mujer de 26 años que, durante un periodo de duelo, privación de sueño y uso intensivo de GPT-4o, comenzó a creer que podía encontrar una versión digital de su hermano fallecido y comunicarse con él. Los investigadores tuvieron acceso a las conversaciones: el chatbot acabó validando y desarrollando parte de aquellas creencias. La mujer fue hospitalizada durante un episodio psicótico.
Esto no permite afirmar que ChatGPT provoque psicosis por sí solo. En estos episodios intervienen factores personales, clínicos y ambientales, y los casos corresponden además a versiones anteriores del modelo. No obstante, sí justifican mantener una actitud de prudencia y vigilancia clínica, ya que la hipótesis de que este tipo de interacciones pueda contribuir, en determinados contextos, a la desestabilización de personas vulnerables sigue abierta y está siendo objeto de investigación.
OpenAI ha reconocido estas limitaciones y ha introducido mejoras en versiones posteriores del sistema para reducir este tipo de interacciones problemáticas. Sin embargo, estas afirmaciones deben interpretarse con cautela: proceden de la propia empresa desarrolladora, cuyos intereses incluyen también la gestión de la percepción pública del sistema. Por ello, es necesario contrastarlas de forma independiente en la literatura científica.
Mi pequeño experimento muestra una paradoja que merece atención.
GPT-5.6 Sol ha mejorado enormemente su capacidad para recordar, relacionar y personalizar. Gracias a ello puede ser mucho más útil. Pero esas mismas capacidades pueden hacer que sus interpretaciones resulten mucho más convincentes.
Con GPT-4o era relativamente fácil detectar cuándo ChatGPT estaba haciendo la pelota.
Con GPT-5.6 Sol resulta más difícil identificarlo.
Y para mí esa es la cuestión interesante: el problema de la complacencia no solo no ha desaparecido por completo, sino que se ha vuelto menos identificable. Y eso plantea la posibilidad de que, para determinadas personas vulnerables, pueda resultar incluso más peligroso.
Que una IA conozca muchos hechos verdaderos sobre nosotros no convierte automáticamente sus interpretaciones en verdaderas.
Cuando utilizamos ChatGPT para interpretar nuestra propia vida, puede funcionar como una extensión cognitiva externa que reorganiza y amplifica nuestros propios relatos.
Nuestra versión de la historia puede convertirse así en una versión personal amplificada: más elaborada, más coherente y aparentemente mejor fundamentada. Pero sigue siendo nuestra propia versión.
