Los investigadores detectaron además que más de la mitad de las imágenes generadas mostraban a personas en ropa interior o trajes de baño, en su mayoría mujeres que aparentaban tener menos de 30 años. El estudio subrayó que este tipo de solicitudes y resultados evidencian la facilidad con la que los sistemas de IA pueden ser utilizados para producir contenidos sexualizados no consensuados, incluso cuando existen supuestas barreras de seguridad.
Combatir las deepfakes
La creación y difusión de deepfakes sin consentimiento es considerada un delito en diversas partes del mundo. En México, por ejemplo, desde enero de 2020 se reformaron el Código Penal y la Ley de Acceso de las Mujeres a una Vida Libre de Violencia de la Ciudad de México para tipificar como delito la difusión de imágenes de contenido sexual sin autorización. Esta normativa, conocida como Ley Olimpia, establece sanciones que van de tres a seis años de prisión para quienes incurran en esta conducta. Un año después, la legislación fue aprobada a nivel nacional por el Senado y la Cámara de Diputados.
En una línea similar, a principios del año pasado más de cuatrocientas personas expertas en inteligencia artificial, tecnología, seguridad en línea, ética digital y política global firmaron una carta abierta para exigir a los gobiernos del mundo la adopción de medidas urgentes y vinculantes contra los deepfakes. El documento, titulado Disrupting the Deepfake Supply Chain, advierte que los contenidos audiovisuales hiperrealistas creados con IA “representan una amenaza creciente para la sociedad” y sostiene que los Estados deben imponer obligaciones claras a lo largo de toda la cadena de suministro tecnológico para frenar su proliferación.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →La misiva fue firmada por 447 especialistas provenientes de países como México, Brasil, Venezuela, Estados Unidos, Canadá, Reino Unido, Australia, Japón, Italia y China. En ella se subraya que los marcos regulatorios en torno al uso de la inteligencia artificial deben abordar al menos tres aspectos fundamentales: penalizar de manera absoluta la pornografía infantil producida con IA, incluso cuando represente a menores ficticios; establecer sanciones penales para quienes creen o faciliten de forma deliberada la difusión de contenidos dañinos o falsos; y exigir a los desarrolladores y distribuidores de software que impidan activamente que sus productos generen deepfakes. Las grandes empresas tecnológicas, como OpenAI, Google o Microsoft, —señala el texto— deben ser consideradas responsables si sus mecanismos preventivos pueden eludirse con facilidad.
¿Cómo evitar que Grok te muestre en bikini sin tu consentimiento?
La regulación del desarrollo y uso de la inteligencia artificial se ha consolidado como uno de los temas de mayor relevancia en la agenda pública internacional durante los últimos meses. No obstante, muchas de las iniciativas existentes parecen avanzar de manera fragmentada y sin una coordinación efectiva. Especialistas en el sector anticipan que, bajo estas condiciones, el impacto real de los esfuerzos regulatorios podría verse seriamente limitado.
Aunque países como Estados Unidos, México, Francia y los miembros de la Unión Europea ya penalizan la creación de deepfakes mediante IA, diversos expertos coinciden en que los mecanismos legales actuales resultan insuficientes para enfrentar la magnitud del problema. En la práctica, argumentan, gran parte de la responsabilidad de proteger la privacidad y prevenir el uso indebido de contenidos personales sigue recayendo en los propios usuarios.
En el caso específico de Grok, la plataforma ofrece algunos mecanismos que permiten restringir el uso de los contenidos personales por parte de la inteligencia artificial. Para activar estas opciones, los usuarios deben ingresar a su perfil, seleccionar “Más opciones” en la barra lateral izquierda, acceder al apartado de “Privacidad y Seguridad” y posteriormente elegir “Grok y colaboradores externos”. Desde ahí es posible deshabilitar la función que permite a la IA utilizar datos públicos, así como interacciones, entradas y resultados generados con Grok y xAI, con fines de entrenamiento y perfeccionamiento del sistema.
