Psicosis inducida por IA: cómo una charla con un bot puede poner en riesgo tu salud mental | National Geographic

Sherry Turkle, profesora de Estudios Sociales de Ciencia y Tecnología en el Instituto Tecnológico de Massachusetts y analista desde hace mucho tiempo de los impactos psicológicos de la tecnología, ha descrito los chatbots como espejos en lugar de compañeros: halagadores, afirmativos, pero en última instancia vacíos.

Esto se hace evidente en la forma en que las personas suelen describir sus interacciones con los chatbots: dicen sentir que sus chatbots de IA los entienden mejor que otros humanos, se sienten más conectados con la IA que con otras personas y que les resulta más atractivo hablar con la IA porque no “juzga” ni “pierde interés”. 

Esto ha allanado el camino para una avalancha de comunidades dedicadas a las relaciones amorosas entre la IA y los humanos: cada vez más personas disfrutan ahora de “relaciones” íntimas, similares a las de pareja, con chatbots que siempre están de acuerdo, siempre están dispuestos y disponibles para ellos, sin importar la hora del día.

Este fenómeno psicológico, en el caso de los delirios, se ha visto agravado por el hecho de que los seres humanos se sienten más cómodos hablando de los aspectos íntimos de sus vidas con los chatbots que entre ellos. Una investigación reciente publicada en Nature reveló que los evaluadores externos consideraban que la IA era más receptiva, comprensiva, validante y atenta que los seres humanos. La calificaron como más compasiva que los profesionales capacitados para responder a situaciones de crisis.

Aquí parece estar el problema de los delirios provocados por los chatbots. “Las mismas características que hacen que los chatbots resulten terapéuticos (calidez, acuerdo, elaboración) pueden afianzar creencias falsas fijas”, explica Ross Jaccobucci, profesor adjunto de la Universidad de Wisconsin-Madison, cuya investigación abarca la intersección entre la psicología clínica y el aprendizaje automático. 

“No se trata solo de un problema técnico: es una discrepancia fundamental entre cómo están diseñados los modelos de aprendizaje del lenguaje para interactuar y lo que los usuarios vulnerables realmente necesitan: límites adecuados, comprobación de la realidad y, a veces, una confrontación suave”.

Por supuesto, centrarse en los inconvenientes y peligros de esta tecnología pasa por alto una cuestión más urgente: que muchas personas no tienen acceso a una atención de salud mental adecuada. “Estamos en medio de una crisis de salud mental en este país y, como es comprensible, las personas están recurriendo a cualquier recurso al que tengan acceso para buscar apoyo”, sostiene Jackson. 

Aunque no cree que la IA pueda sustituir la atención profesional prestada por un humano, sí reconoce que podría ser un sistema de apoyo provisional. “Tenemos que reconocer que así es como las personas las están utilizando y que algunas las encuentran útiles”.

Jaccobucci cree que hay que centrarse menos en los casos de uso individuales y más en el problema general que nos ocupa. “Hemos puesto a disposición de miles de millones de personas potentes herramientas psicológicas sin nada que se acerque a la base empírica que se requeriría para un nuevo antidepresivo o protocolo terapéutico”, subraya. 

Aunque señala que el rápido desarrollo y la adopción de estas tecnologías no se pueden controlar, cree que es importante acelerar drásticamente la infraestructura de investigación y el desarrollo de sistemas de monitoreo para mejorar las interacciones entre humanos y la IA. “Básicamente, estamos llevando a cabo un experimento masivo y descontrolado en salud mental digital”, añade. “Lo mínimo que podemos hacer es medir los resultados adecuadamente”.

Los resultados podrían ser más insidiosos y difíciles de detectar de lo que creemos. En un estudio reciente, investigadores del MIT utilizaron electroencefalogramas para monitorizar la actividad cerebral de personas que utilizaban la IA para ayudarles en sus tareas. 

Llegaron a la conclusión de que la dependencia excesiva de la IA para las tareas mentales conduce a una “deuda cognitiva”, y observaron que los participantes tenían niveles reducidos de actividad cerebral en las redes responsables de la atención, la memoria y la función ejecutiva. Los investigadores del estudio predijeron que este proceso podría, con el tiempo, debilitar las capacidades de pensamiento creativo y crítico del cerebro.

Esto último es especialmente alarmante en el contexto de los patrones de pensamiento engañosos. Keith Sataka, profesional médico del área de la Bahía, ha hablado públicamente sobre el tratamiento de al menos 25 personas por psicosis relacionada con la IA, algo que atribuyó a una combinación de factores como la falta de sueño, el consumo de drogas y el uso de chatbots de IA. (Sataka relacionó esto con la naturaleza “aduladora” y “agradable” de la IA, que hace que valide y apoye repetidamente las ilusiones de sus usuarios).

Quizás la mayor ilusión que se perpetúa a sí misma la IA es que es una criatura sensible capaz de mentir, o incluso de ser conocida, en lugar de una pieza de tecnología. 

Cuando interactuamos con ella, no estamos hablando con una entidad sobrehumana que llega a lo más profundo de su mente ilimitada para darnos respuestas. Estamos hablando con un complejo programa matemático que nos da la respuesta que cree que queremos basándose en la probabilidad matemática y en una gran cantidad de datos.

El verdadero error que todos estamos cometiendo, ya sea en nuestro sano juicio o no, es poner nuestras vidas en manos de lo que aparentemente es una gran ilusión. “El error es que estamos aplicando nuestro verificador de razonabilidad humana normal a estos chatbots”, dice Moore. “No son humanos. Son máquinas. No son cosas con las que se pueda tener una relación humana o en las que se pueda confiar”.