OpenAI pone a disposición de los padres herramientas de seguridad ChatGPT para sus hijos adolescentes. Esta actualización mundial incluye la posibilidad de que los padres, así como las fuerzas de seguridad, reciban notificaciones si un menor, entre 13 y 18 años, participa en conversaciones de chatbot sobre autolesiones o suicidio.
Estos cambios llegan en un momento en que OpenAI ha sido demandada por unos padres que alegan que ChatGPT desempeñó un papel en la muerte de su hijo. El chatbot supuestamente animó al adolescente suicida a esconder una soga en su habitación fuera de la vista de los miembros de la familia, según informa The New York Times.
Cómo funciona esta actualización
“Una vez que los padres y los adolescentes conecten sus cuentas, el adolescente obtendrá automáticamente protecciones de contenido adicionales. Incluyendo contenido gráfico reducido, retos virales, juegos de rol sexuales, románticos o violentos, e ideales de belleza extremos, para ayudar a mantener su experiencia apropiada para su edad”, se lee en la entrada del blog de OpenAI que anuncia el lanzamiento.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Con las nuevas restricciones, si un adolescente que utiliza una cuenta de ChatGPT introduce un mensaje relacionado con autolesiones o ideación suicida, el mensaje se envía a un equipo de revisores humanos que deciden si activar una posible notificación a los padres.
“Nos pondremos en contacto con los padres de todas las formas posibles”, afirma Lauren Haber Jonas, responsable de bienestar juvenil de OpenAI. Los padres pueden optar por recibir estas alertas a través de mensajes de texto, correo electrónico y una notificación de la aplicación ChatGPT.
Se espera que los avisos que reciban los padres en estas situaciones lleguen a las pocas horas de que la conversación haya sido marcada para su revisión. En momentos en los que cada minuto cuenta, es probable que este retraso resulte frustrante para los padres que desean recibir alertas más instantáneas sobre la seguridad de sus hijos. OpenAI está trabajando para reducir el retraso de las notificaciones.
OpenAI dará avisos pero respetará la privacidad de los adolescentes
La alerta que OpenAI podría enviar a los padres indicará en términos generales que el niño puede haber escrito un mensaje relacionado con el suicidio o la autolesión. También puede incluir estrategias de conversación de expertos en salud mental para que los padres las utilicen al hablar con su hijo.
En una demostración previa al lanzamiento, la línea de asunto del correo electrónico de ejemplo mostrado a WIRED destacaba la preocupación por la seguridad, pero no mencionaba explícitamente el suicidio. Las notificaciones a los padres tampoco incluirán citas directas de la conversación con el niño, ni las indicaciones ni los resultados. Los padres pueden hacer un seguimiento de la notificación y solicitar marcas de tiempo de la conversación.
“Queremos dar a los padres suficiente información para que actúen y mantengan una conversación con sus hijos adolescentes y, al mismo tiempo, preservar en cierta medida la privacidad de los adolescentes, porque el contenido también puede incluir otra información sensible”, explica Jonas.
