Los repartidores de comida y conductores de transporte que trabajan en plataformas conocen bien la experiencia frustrante de ver cómo sus viajes y ganancias suben o bajan según las decisiones automatizadas de algoritmos que operan como una caja negra.
Para tomar esas decisiones, las aplicaciones procesan datos como las calificaciones de los clientes, los pedidos o viajes aceptados, las cancelaciones y el tiempo que toma completar un servicio. Esas variables alimentan cálculos que determinan la organización y evaluación del trabajo.
Quienes trabajan a través de estas plataformas no siempre pueden saber por qué el sistema tomó una decisión concreta sobre ellos. Esa opacidad puede dificultar que detecten un error, cuestionen una sanción o entiendan por qué cambiaron sus oportunidades de trabajo y sus ingresos.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Este es uno de los principales vacíos identificados en una investigación sobre las regulaciones del trabajo en plataformas en México, Chile, Colombia y Uruguay realizada por Derechos Digitales, una organización latinoamericana fundada en 2005 dedicada a la defensa de los derechos humanos en entornos digitales.
El problema comienza con los datos. Ubicación, comportamiento, rendimiento, calificaciones y, en algunos casos, información biométrica forman parte del flujo que permite a las plataformas organizar el trabajo. Derechos Digitales llama “datificación del trabajo” al proceso mediante el cual esas actividades se convierten en información que después alimenta sistemas automatizados.
“Toman toda esa información, entra en un conjunto de algoritmos y terminan usando estos datos para establecer salarios y labores, así como para bloquear a las personas trabajadoras”, explica Laura Mantilla-León, analista de Políticas Públicas de Derechos Digitales, en entrevista con WIRED en Español. El problema, añade, es que las plataformas revelan poco sobre qué hacen con esos datos y cómo intervienen después en las decisiones sobre el trabajo.
Saber las reglas no siempre permite entender una decisión
Las nuevas regulaciones latinoamericanas han comenzado a intervenir en esa opacidad. Las leyes analizadas por Derechos Digitales reconocen, con distintos alcances, que las personas trabajadoras deben recibir información sobre criterios algorítmicos que pueden influir en la asignación de tareas, los ingresos, la evaluación del desempeño o las sanciones.
En México, por ejemplo, la Ley Federal del Trabajo establece que deben informar con un lenguaje sencillo y claro sobre factores como las calificaciones, los incentivos, las penalizaciones y los criterios que pueden influir en la asignación de tareas. Para Mantilla-León, este reconocimiento es importante, pero insuficiente, ya que una plataforma puede decir qué variables utiliza sin explicar cómo produjeron determinado resultado para una persona.
“Lo que está en el papel se restringe un poco a descripciones generales de criterios y de variables y no avanza a algo que es clave, que es la explicabilidad”, señala.
