“Los chatbots de IA ya forman parte de la manera en que muchos jóvenes buscan consejo sobre su salud mental. La velocidad de su crecimiento es llamativa”, afirmó Ryan K. McBain, investigador de políticas públicas en RAND.
Jonathan H. Cantor, también investigador de la institución, añadió que “por ello, es especialmente importante que los adultos inicien conversaciones sobre cómo se utilizan las herramientas de IA y el papel que deberían, y no deberían, desempeñar”.
Seis modelos de IA fueron capaces de simular emociones humanas, lo que podría facilitar el diseño de modelos experimentales para comprender los mecanismos subyacentes de trastornos como la depresión o ansiedad.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Estas declaraciones se producen en medio de un creciente número de advertencias sobre los sesgos y riesgos que presentan los sistemas de inteligencia artificial al abordar temas relacionados con la salud mental, preocupaciones que incluso han sido reconocidas por empresas del sector, como OpenAI.
En esa misma línea, un estudio reciente de la Universidad de Brown, en Estados Unidos, mostró que los chatbots utilizados como apoyo emocional o psicológico suelen incumplir los estándares éticos establecidos por la comunidad internacional de psicólogos. Entre otros problemas, pueden ofrecer respuestas engañosas que refuerzan creencias negativas, desconocer el historial clínico de los usuarios y reproducir prejuicios de género, culturales o religiosos.
Estas deficiencias han servido como argumento en diversas demandas judiciales presentadas contra distintos desarrolladores de chatbots, a quienes se acusa de promover autolesiones, reforzar sentimientos de depresión y frustración e, incluso, sugerir prácticas suicidas.
Sin consenso en la regulación
Ante este escenario surgen diversas preguntas: ¿cómo evitar que la inteligencia artificial sustituya una atención psicológica respaldada científicamente?, ¿es realmente deseable impedirlo cuando los programas públicos de asistencia resultan insuficientes?, ¿es posible regular el uso terapéutico de una tecnología que no fue diseñada para ese propósito y quién debería asumir esa responsabilidad?
De manera recurrente, las empresas del sector han advertido que sus sistemas de inteligencia artificial no fueron diseñados para reemplazar ni imitar las relaciones humanas y, mucho menos, para sustituir el trabajo de un terapeuta o psicólogo profesional.
No obstante, reconocen que estas herramientas suelen utilizarse con ese propósito debido a su estilo conversacional y a sus amplias capacidades para generar respuestas personalizadas. Compañías como OpenAI han incorporado “modos de uso” y diversas medidas orientadas a abordar estas aplicaciones no previstas originalmente, con la promesa de reforzar los mecanismos de seguridad, redirigir a los usuarios hacia servicios especializados de atención y ajustar sus modelos para reducir sesgos.
Sin embargo, como advierte Jonathan H. Cantor, investigador de políticas públicas en RAND, “existen pocos parámetros estandarizados para evaluar los consejos sobre salud mental que ofrecen los chatbots de IA, y hay muy poca transparencia sobre los conjuntos de datos utilizados para entrenar estos grandes modelos de lenguaje”.
Actualmente, distintos gobiernos analizan o implementan iniciativas legislativas para restringir el uso de estos sistemas, especialmente entre adolescentes y menores de edad.
Aun así, organismos como la ONU consideran que estos esfuerzos permanecen aislados y podrían resultar insuficientes para enfrentar un problema que ya adquiere una dimensión global.
La IA ¿un riesgo o una solución a la crisis de salud mental?
Al mismo tiempo, tampoco puede ignorarse que el mundo atraviesa una crisis de salud mental, no solo por el aumento constante de personas que padecen algún trastorno, sino también por la insuficiencia de especialistas, recursos e infraestructura para brindar atención adecuada.
De acuerdo con la Organización Mundial de la Salud (OMS), antes de la pandemia de covid-19 alrededor de mil millones de personas vivían con trastornos mentales o relacionados con el consumo de sustancias. La emergencia sanitaria agravó el panorama al provocar un incremento de entre 25 y 27% en los casos de depresión y ansiedad. Además, un estudio de la Facultad de Medicina de Harvard y la Universidad de Queensland estima que casi la mitad de la población mundial experimentará algún trastorno de salud mental a lo largo de su vida.
