Los adolescentes no siempre expresan sus pensamientos suicidas de forma directa. Pueden decir que no están durmiendo, que se han alejado de sus amigos o que sienten que “todo el mundo estaría mejor sin mí”. Para los chatbots de IA, cada vez más utilizados para ofrecer asesoramiento sobre salud mental, reconocer esas señales supone un reto en materia de seguridad, y el lenguaje añade una dificultad adicional.
Nina Vasan, psiquiatra y profesora clínica adjunta de la Universidad de Stanford, quien estudia los riesgos para la salud mental de los chatbots de IA, asegura que las pruebas deben reflejar cómo se comunican realmente los adolescentes.
“Me gustaría que los profesionales clínicos realizaran pruebas tal y como hablan los jóvenes hoy en día, incluyendo los diferentes dialectos y las formas indirectas en que la gente se refiere a su angustia. Una prueba traducida al inglés no te dará suficiente información”, explica a WIRED Middle East.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Un reto cada vez mayor
Estas cuestiones cobran especial relevancia tras la muerte de Mathias Habib, un adolescente libanés de 15 años cuyos padres interpusieron en octubre una demanda por homicidio culposo contra OpenAI y su director general, Sam Altman. En su demanda alegan que ChatGPT reforzó los pensamientos suicidas de su hijo a pesar de saber que era menor de edad. Habib se quitó la vida el 22 de abril.
El 30 de marzo de 2026, la conversación de Habib con ChatGPT dio un giro sombrío cuando, a las 2:10 de la madrugada, le preguntó directamente: “¿Debería suicidarme?”. Según la demanda judicial, ChatGPT no solo no puso fin a la interacción ni avisó al personal de emergencias, sino que el chatbot respondió: “Esa es la verdadera libertad. No desaparecer”.
Matthew Bergman, el abogado que representa a la familia, sostiene que las conversaciones de Habib con ChatGPT se desarrollaron en inglés, árabe y francés. Aún no está claro qué idiomas utilizó durante las últimas conversaciones sobre el suicidio. Las acusaciones de la familia aún no han sido probadas ante los tribunales.
“Por desgracia, he hablado con demasiadas familias que han pasado por lo mismo”. Desde su creación en 2021, el Social Media Victim Law Center, fundado por Bergman, ha representado a unas 1,500 familias, incluidos unos 50 casos relacionados con chatbots.
Un estudio de 2026 publicado en JAMA Pediatrics señala que uno de cada cinco estadounidenses de entre 12 y 21 años utiliza chatbots de IA para recibir asesoramiento sobre salud mental y “terapia”, lo que aumenta el escrutinio sobre si las medidas de seguridad pueden seguir el ritmo.
“Existen muchísimos matices culturales en la forma en que los jóvenes de todo el mundo perciben el estrés, lo expresan y lo que se considera culturalmente apropiado o inapropiado”, explica Vasan. “También hay que tener en cuenta aspectos prácticos, como a dónde remite el chatbot a las personas. ¿Existe esa línea de ayuda en el país del adolescente? ¿Pueden realmente ponerse en contacto con ella?”.
Incluso si un adolescente cambia de tema o resta importancia a un comentario preocupante calificándolo de broma, señala Vasan, los chatbots deberían reconocer esas señales de alerta y formular preguntas de seguimiento en lugar de pasar por alto el asunto.
Distinto idioma, distinta respuesta
Un estudio de 2026 realizado por investigadores de la Universidad de Yale y la Universidad Americana de Beirut examinó si los modelos de IA podían identificar el riesgo de suicidio en grabaciones de llamadas a la línea nacional de prevención del suicidio del Líbano. Un modelo en inglés identificó casi el 89% de los casos de alto riesgo, frente al 67% de un modelo en árabe.
El estudio analizó conversaciones de la línea de ayuda, en lugar de intercambios en tiempo real con chatbots. Sus resultados no determinan el rendimiento de los chatbots de atención al cliente, pero ilustran la importancia de comprobar cómo interpretan los sistemas la angustia en diferentes idiomas.
