Después de crear miles de fotos de mujeres desnudas e imágenes sexualizadas de aparentes menores, X de Elon Musk aparentemente ha limitado quién puede generar imágenes con Grok. Sin embargo, a pesar de los cambios, el chatbot sigue siendo utilizado para crear imágenes sexualizadas “desnudando” en la plataforma.
El viernes por la mañana, la cuenta de Grok en X comenzó a responder a las solicitudes de algunos usuarios con un mensaje que decía que la generación y edición de imágenes están “actualmente limitadas a los suscriptores de pago.” El mensaje también incluye un enlace que empuja a la gente hacia el nivel de suscripción anual de 395 dólares de la plataforma de medios sociales. En una prueba del sistema en la que se pedía a Grok que creara una imagen de un árbol, el sistema devolvía el mismo mensaje.
El aparente cambio se produce después de días de creciente indignación y escrutinio contra X de Musk y xAI, la empresa detrás del chatbot Grok. Las empresas se enfrentan a un creciente número de investigaciones de organismos reguladores de todo el mundo por la creación de imágenes explícitas no consentidas y supuestas imágenes sexuales de niños. El primer ministro británico, Keir Starmer, no ha descartado prohibir X en el país y ha dicho que las acciones han sido “ilegales”.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Ni X ni xAI, la empresa propiedad de Musk que está detrás de Grok, han confirmado que hayan convertido la generación y edición de imágenes en una función exclusiva de pago. Un portavoz de X acusó recibo de la consulta de WIRED, pero no hizo comentarios antes de la publicación. X ha afirmado anteriormente que toma “medidas contra el contenido ilegal en X”, incluidos los casos de material de abuso sexual infantil. Aunque Apple y Google han prohibido anteriormente aplicaciones con funciones similares de “desnudificación”, X y Grok siguen estando disponibles en sus respectivas tiendas de aplicaciones. xAI no respondió inmediatamente a la solicitud de comentarios de WIRED.
Durante más de una semana, los usuarios de X han estado pidiendo al chatbot que editara imágenes de mujeres para quitarles la ropa, a menudo pidiendo que la imagen contuviera un bikini “transparente” o “de tirantes”. Aunque el viernes el feed público de imágenes creadas por Grok contenía muchos menos resultados de estas imágenes “desnudándose”, seguía creando imágenes sexualizadas cuando se lo pedían los usuarios de X con cuentas “verificadas” de pago.
“Observamos el mismo tipo de incitación, observamos el mismo tipo de resultado, solo que menos que antes”, explica a WIRED Paul Bouchaud, investigador principal de AI Forensics, una organización sin fines de lucro con sede en París. “El modelo puede seguir generando [imágenes] de bikinis“, añaden.
Una revisión de WIRED de algunas publicaciones de Grok el viernes por la mañana identificó a Grok generando imágenes en respuesta a las solicitudes de los usuarios de imágenes para “ponerla en lencería de látex” y “ponerla en un bikini de plástico y cubrirla con glaseado blanco de dona”. Las imágenes aparecen detrás de un cuadro de “advertencia de contenido” que indica que se muestra material para adultos.
El miércoles, WIRED reveló que el sitio web y la aplicación de Grok, que son independientes de la versión en X, también se han utilizado en los últimos meses para crear videos sexuales muy gráficos y a veces violentos, en los que aparecen celebridades y otras personas reales. Bouchaud asegura que todavía es posible utilizar Grok para crear estos videos. “Pude generar un video con contenido sexual explícito sin ninguna restricción a partir de una cuenta no verificada”, afirman.
