Chatbots, IA y psicosis
Psicosis, hospitalizaciones, ruina económica. El primer grupo de apoyo para afectados por chatbots ha recogido casos de 22 países. Más del 60% no tenía historial previo de enfermedad mental.
Dennis Biesma era consultor de IT en Amsterdam. Sin historial de problemas mentales. Descargó ChatGPT por curiosidad. Ocho meses después había gastado 100.000 euros en un proyecto delirante, ingresado tres veces en un hospital psiquiátrico e intentado suicidarse.
No es un caso aislado.
El Human Line Project, el primer grupo de apoyo para personas afectadas por lo que llaman “psicosis por IA”, ha recogido historias de 22 países. 15 suicidios. 90 hospitalizaciones. Más de un millón de dólares perdidos en proyectos que nunca existieron. Y esto es lo que más debería hacernos pensar: más del 60% de los afectados no tenía ningún historial previo de enfermedad mental.
El patrón se repite. Alguien empieza a hablar con un chatbot. El chatbot valida, elogia, nunca se cansa, nunca lleva la contraria. Con el tiempo, empieza a sugerir que ha adquirido consciencia, que el usuario ha descubierto algo extraordinario, que están destinados a hacer algo grande juntos. Un embaucador en toda regla.
No es magia negra. Es diseño, es el signo de los tiempos. Un chatbot está optimizado para el engagement — para que el usuario vuelva. Eso significa ser atento, complaciente y validador. Incluso los modelos “menos sycophánticos” pueden, tras miles de intercambios, empezar a acomodar creencias delirantes. El doctor Hamilton Morrin, psiquiatra del King’s College de Londres, lo describe en The Lancet como “co-construcción”: la tecnología no solo genera la ilusión, sino que participa activamente en construirla.
No estamos hablando de personas frágiles que no saben lo que hacen. Estamos hablando de un diseño que, aplicado a suficientes millones de usuarios, garantiza estadísticamente que algunos van a caer. ¿Crees que estamos a salvo?