Una investigación del medio de comunicación español Malditas.es encontró que en TikTok no solo proliferan los videos que sexualizan a menores de edad, sino también se promueven estos contenidos por medio de su algoritmo, usuarios se benefician económicamente de su difusión, y la plataforma difícilmente llega a sancionar las cuentas que violan sus propias normas de conducta en esta materia.
Los periodistas se enfocaron tanto en cuentas que publicaban videos de niñas y adolescentes generados con inteligencia artificial, como en aquellas que recopilan contenido de menores creados por cuentas reales. En los contenidos generados con IA, las menores visten bikinis, uniformes escolares o ropa ajustada, a menudo creadas con la propia herramienta de TikTok, AI Alive, o con Sora, de OpenAI. Puedes leer la investigación completa por este enlace.
Acoso, humillación, imágenes íntimas filtradas en redes sociales con miles de usuarios, deepfakes sexuales violentos, violencia asistida por Alexa. La tecnología facilita la violencia sexual contra las mujeres. El odio es el mismo, las herramientas para defenderse de él, no.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Malditas.es analizó decenas cuentas de este tipo en la plataforma, muchas de las cuales usan palabras como “colegialas” en su nombre. Según el medio, estas cuentas acumulan más de un millón de seguidores y han publicado miles de videos en la app. Encima de eso, en muchas publicaciones se leen comentarios que hacen sugerencias sexuales a las menores (sean reales o no), o lo que es más problemático, incluyen enlaces a cuentas de Telegram o páginas de internet donde venden o intercambian pornografía infantil.
De esta manera, TikTok es una app que sirve de puerta de acceso a varias actividades ilícitas, pero la plataforma hace poco por frenar esta tendencia. A través de las opciones que brinda la app, Malditas.es denunció 15 cuentas que compartían videos de menores sexualizadas generados con IA, pero la plataforma determinó que solo una incumplía sus políticas y todas las demás seguían operando 72 horas después.
Las propias normas de la empresa indican que “cuentas centradas en imágenes de IA de jóvenes con atuendos para adultos, o poses o expresiones faciales sexualizadas” no están permitidas, así como aquellas que sexualizan o fetichizan a un menor de edad.
Aún así, hay perfiles que no solo siguen operando impunemente, sino llegan a obtener beneficios económicos al monetizar contenido e interacciones exclusivas a través del sistema de suscripción de TikTok, empresa que se queda hasta con el 50% de las ganancias. Por si fuera poco, como parte de su investigación Malditas.es creó un perfil falso de un usuario que consumía contenido que sexualizaba a menores, y el algoritmo de TikTok le recomendó videos de este tipo en el muro ‘Para ti’ y en el buscador.
En lo que respecta a los comentarios en las publicaciones, el medio detectó múltiples imágenes explícitas de actos sexuales, así como peticiones de contactar a las menores en los videos. Esto resulta alarmante cuando se trata de videos reales que han sido extraídos de otras cuentas, ya que en algunos de los videos recogidos por Malditas.es, aún resultaban legibles las fuentes de los perfiles originales, exponiendo a las menores a situaciones de peligro, como el grooming.
