Canadá se suma a la lista de países que buscan restringir el acceso a redes sociales a menores de edad. Marc Miller, ministro de Identidad y Cultura, presentó la Ley de Redes Sociales Seguras (C-34), una iniciativa que propone nuevas obligaciones para las plataformas digitales y algunos chatbots de inteligencia artificial (IA) con el objetivo de prevenir posibles daños entre niños y adolescentes.
Información oficial señala que, tan solo en 2019, uno de cada cuatro canadienses de entre 12 y 17 años reportó haber sido víctima de algún tipo de ciberacoso (cyberbullying). De forma paralela, los servicios policiales del país registraron 16,905 incidentes de explotación sexual infantil en línea durante 2024, una cifra que representa un incremento de 347% respecto a los niveles observados una década atrás.
“La evidencia es clara: los peligros en línea se están intensificando. Los niños son especialmente vulnerables a los riesgos digitales, desde la explotación sexual infantil y el ciberacoso hasta las autolesiones y los problemas de salud mental”, señaló el gobierno canadiense en un comunicado.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →
Cada vez más países buscan regular las redes sociales para proteger a menores. El debate se divide entre prohibir el acceso o exigir diseños más seguros. Brasil se inscribe en esta segunda línea: ya prohíbe el scroll infinito y otras características adictivas para niños.
El documento explica que la ley C-34 establece una serie de obligaciones legales que exigirán a las plataformas y servicios digitales implementar mecanismos para identificar y prevenir estos riesgos. La propuesta se basa en “amplias consultas sobre seguridad en línea” en las que participaron víctimas, sobrevivientes, organizaciones de la sociedad civil, comunidades indígenas, especialistas, empresas tecnológicas y ciudadanos. Además, incorpora recomendaciones emitidas por el Grupo Asesor de Expertos en Seguridad en Línea.
La normativa contempla una restricción que impediría a los menores de 16 años abrir cuentas en redes sociales. Sin embargo, las plataformas podrían solicitar una exención si demuestran que cuentan con medidas eficaces para garantizar la seguridad de los usuarios más jóvenes.
En este contexto, las compañías deberán considerar la protección infantil como uno de los pilares centrales en el diseño de sus productos y funciones. Esto incluye la incorporación de mecanismos destinados a reducir la exposición de niños y adolescentes a contenidos o interacciones considerados de alto riesgo.
La iniciativa también propone la creación de una nueva Ley de Seguridad Digital a la que estarán sujetos los servicios de streaming, las redes sociales, las plataformas de contenido para adultos y determinados chatbots de IA. Este marco regulatorio establecerá que todos los servicios cubiertos por la legislación tienen la responsabilidad de proteger a las infancias.
Además, la propuesta fija obligaciones específicas para redes sociales, servicios de streaming y sitios que distribuyen contenido sensible. Estas plataformas estarán obligadas a evaluar, identificar y reducir los riesgos asociados con siete categorías de contenido dañino. Entre ellas se encuentran el material que victimiza sexualmente a menores o revictimiza a sobrevivientes, la difusión de contenido íntimo sin consentimiento, las publicaciones que inducen a niños a autolesionarse, los mensajes que fomentan relaciones sexuales con menores, el discurso de odio, el material que promueve la violencia y el contenido relacionado con terrorismo o extremismo violento.
De igual manera, los servicios regulados deberán etiquetar los contenidos generados sintéticamente mediante inteligencia artificial, y ofrecer herramientas claras y accesibles para denunciar publicaciones problemáticas y bloquear usuarios.
La normativa también establece que las plataformas deberán hacer inaccesible el contenido perjudicial, incluyendo material que victimice sexualmente a un menor o revictimice a un sobreviviente, contenido íntimo difundido sin consentimiento e imágenes sexuales manipuladas mediante tecnología deepfake.
Chatbots regulados y nuevos organismos de vigilancia
En lo que respecta a los chatbots, la propuesta indica que los desarrolladores deberán mitigar el riesgo de generar o difundir contenido dañino, implementar salvaguardas para evitar conductas perjudiciales y comunicar de forma transparente los protocolos diseñados para atender situaciones de crisis. Esto incluye casos en los que un usuario manifieste intenciones de autolesionarse o solicite información para causar daño a otras personas.
La iniciativa legislativa también contempla la creación de la Comisión de Seguridad Digital, un organismo independiente encargado de supervisar el cumplimiento de la normativa. Esta entidad podrá solicitar informes de seguimiento a las plataformas, realizar auditorías, emitir órdenes de cumplimiento e imponer sanciones a quienes incumplan las obligaciones establecidas.
