El nuevo asistente personal de Meta, Muse, se ha convertido en un éxito viral: millones de personas han descargado este agente de IA, lo han vinculado a sus cuentas bancarias, mensajes o datos de salud, y le han permitido realizar tareas por ellos. Pero, a medida que Muse gana popularidad entre los consumidores, los datos del interior de la aplicación están revelando cómo organiza y presenta la información a los usuarios.
En los últimos días, varios investigadores han extraído los archivos internos de Muse y han publicado los prompts de funcionamiento del asistente, lo que permite vislumbrar cómo se ha construido el sistema y cómo se comporta. Meta sostiene que su intención era que estos archivos fueran accesibles en “aras de la transparencia”, y efectivamente ofrecen información sobre cómo responde Muse a preguntas relacionadas con temas muy politizados o delicados.
Karan Joshi, investigador independiente especializado en seguridad e IA, logró extraer una amplia gama de prompts de Muse y mensajes del sistema utilizando la interfaz habitual del chat para pedirle al agente de IA que copiara y compartiera sus propios archivos de software. A continuación, Joshi compartió sus hallazgos con WIRED.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Uno de los prompts de Muse parece indicarle que cree “una página para cada persona en la vida del usuario”. Este proceso, que se ejecuta cada hora, implica recopilar información sobre familiares, parejas, amigos, compañeros de trabajo, “colaboradores” y personas a las que el usuario “sigue”.
La idea general es que Muse pueda utilizar su “memoria” (es decir, archivos de texto estructurados) para recopilar información sobre tus relaciones y las personas importantes en tu vida. A continuación, puede hacer sugerencias, como dar consejos sobre cómo mejorar determinadas relaciones o, por ejemplo, dónde llevar a un amigo amante del café a desayunar. Por supuesto, no es raro que los chatbots con IA recopilen información social en general; la gente lleva años pidiendo consejo sobre relaciones a ChatGPT. Pero resulta interesante ver cómo está configurado Muse, teniendo en cuenta el historial de Meta y su amplio acceso a los datos de las redes sociales.
La aplicación Muse sigue la tendencia de Meta de incluir a los usuarios de forma predeterminada en la recopilación de datos para el entrenamiento de la IA. Además, te anima a compartir los datos de tu cuenta bancaria, tu correo electrónico y tu pasaporte.
¿Sin consentimiento de terceros?
“Por lo que he visto en los prompts, las capacidades del sistema y la información que están introduciendo en Muse, parece que quieren comprender las relaciones que tienes con personas reales. Están intentando conocerte como lo haría un amigo y eso es perturbador”, afirma Joshi.
La documentación de Muse indica que una página puede empezar escasa y luego completarse con el tiempo, incluyendo potencialmente secciones como “Datos”, “Historia”, “La relación”, “Cosas en común”, “Temas pendientes” y “Fortalecimiento”. Los prompts de Meta indican que Muse solo debe utilizar la evidencia de la que dispone, y que los detalles inventados son peores que una página en blanco.
“Dónde viven, a qué se dedican, los temas recurrentes (la mudanza, el objetivo de ahorro compartido)”, indican los prompts. Añaden, además, que el modelo podría registrar las “fechas importantes”, como cumpleaños o aniversarios. La historia de una persona podría incluir antecedentes como “el viaje de marzo, la discusión que se resolvió, el hito de la semana pasada”.
Los prompts también se centran en registrar detalles de la relación, como “lo unidas que están, en qué se basa, cómo se comportan la una con la otra y qué parece necesitar en este momento”. La sección “Fortalecimiento” sugiere formas de mejorar una relación, entre ellas: “Un motivo para llamar, una fecha que valga la pena recordar, algo que hayan dicho y sobre lo que volver a hablar, una forma significativa de estar ahí para ellos”.
