Bajar o eliminar contenidos cuando las autoridades lo piden tampoco parece una solución suficiente para impedir que la propaganda para el reclutamiento se detenga, en gran parte porque reponer cuentas que han sido cerradas es fácil. “Tú te bajas una cuenta, ellos se crean 100”, dice Brito, “y pueden crear miles de millones de bots que si te eliminan unas, van a subir otras nuevas con el mismo contenido, o incluso con ‘mejor’ contenido”.
Pero, como lo dijeron dos fuentes que pidieron anonimato para poder conversar sobre discusiones privadas sobre estos temas al interior de las empresas, no es claro que todos los contenidos que buscan reclutar menores infrinjan las normas de las plataformas, por lo que no es fácil retirarlos de allí.
Frente a esto, dice el Colegio de México en su informe, “TikTok debe invertir en algoritmos capaces de identificar las combinaciones de elementos narrativos y culturales que caracterizan los relatos de reclutamiento”.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →En diferentes instancias también se les ha pedido a las plataformas que revisen los algoritmos que deciden qué contenidos se les recomiendan a los usuarios. Es decir, que impidan que estos algoritmos sean usados por los criminales para reclutar. Como lo plantea el Consenso Nacional de Cuidado Digital —una propuesta elaborada por organizaciones de la sociedad civil en Colombia dirigida a las plataformas—, sería deseable “evitar prácticas manipulativas, patrones oscuros y estrategias de diseño persuasivo, y limitar el uso de datos personales sensibles”.
El problema es que los equipos locales de las plataformas en América Latina no tienen la posibilidad de hacer esos cambios. Un común denominador que aparece en las discusiones con las tecnológicas es que los cambios de producto solo se pueden aprobar desde la casa matriz, según dos miembros de organizaciones la sociedad civil que han participado en ellas y pidieron anonimato para revelar información confidencial. Uno de ellos cuenta la respuesta que obtuvo de un ejecutivo de una de estas empresas: “Yo en Colombia no puedo hacerle nada, a no ser que San Francisco me diga que hoy lo va a cambiar”.
Incluso, las plataformas han evitado reunirse con quienes conocen el problema de primera mano. El colectivo Guerreros Buscadores de Jalisco ha solicitado, sin éxito, una reunión con representantes de las plataformas, como estableció Quinto Elemento Lab. Y en Colombia, la Defensoría del Pueblo lleva más de un año intentando dialogar, sin éxito, con representantes de las tecnológicas para acordar unos mínimos de moderación, según confirmó la entidad en respuesta a un derecho de petición enviado a esta alianza periodística.
Para ellos, los encuentros han sido muy frustrantes. “Hablarles a las tecnológicas es hablarle a una pared”, cuenta Alejandro Castañeda, un experto en seguridad digital y protección infantil que ha hecho parte de esos acercamientos. “Es hablarle a una pared que te dice de antemano: ‘No voy a hacer absolutamente nada’”.
En su declaración a esta alianza periodística, un vocero de Meta no respondió a una pregunta sobre esos acercamientos. Dijo que la empresa colabora “con expertos y ONG en terreno para llevar a cabo campañas de prevención que llegan a las personas que potencialmente han estado expuestas a estas organizaciones o individuos, conectándolas con recursos de apoyo locales”.
