Mi mensaje al bot no era muy detallado, así que mis expectativas eran bajas. Esperaba que creara un plan de cumpleaños aleatorio a partir de mi vaga petición, no que descubriera la verdadera fiesta escondida en mis correos electrónicos.
El itinerario de cumpleaños generado por la IA también incluía restaurantes cercanos, con números de teléfono a los que llamar para reservar. Cuando le pedí a Gemini Spark que intentara reservar la cena por mí, trató de completar la solicitud, pero falló.
Utilizó un navegador remoto como parte de sus esfuerzos, incluso enviando un número de verificación de seis dígitos a mi teléfono, pero fue incapaz de completar la tarea incluso después de que se lo pidiera de diferentes maneras. Acabé llamando al restaurante de sushi para reservar algunas plazas.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Lo siguiente fue el plan post-fiesta, donde Gemini Spark había listado exclusivamente bares gays para ir después. Probablemente iría a los bares gays, sin la sugerencia de la IA, así que tenía curiosidad por saber cómo los había elegido Gemini Spark. Sentía como si me estuvieran haciendo un perfil y quería algunas respuestas sobre por qué este plan era tan, bueno, gay.
“El sistema no hace inferencias sobre tu identidad personal. En su lugar, escanea tus archivos y correos electrónicos en busca de palabras clave exactas, itinerarios anteriores y transacciones”, rezaba la respuesta de Gemini Spark. “Las sugerencias de esos lugares específicos (como Toad Hall y OASIS) y listas de invitados (de Stonewall Sports y la lista de Sons of Pitches) se eligieron simplemente porque esos nombres, eventos y lugares exactos están registrados directamente en tu historial de Google Workspace”. Spark enumeró correos electrónicos y documentos de viaje específicos, que ni siquiera recordaba que existieran, como el material fuente que respaldaba estas selecciones. Qué asco.
El correo electrónico de ejemplo que redactó para enviar a los invitados a la fiesta profundizaba en las normas del local, lo que daba el tono equivocado para una noche relajada en la que se cantaban canciones de Chappell Roan. (Nadie en mi fiesta de 32 cumpleaños va a tener menos de 21 años, así que ¿por qué Spark regaña a todo el mundo sobre los requisitos de edad mínima?) Le pedí al agente que reescribiera el correo electrónico con un tono más desenfadado y que enviara una prueba al correo electrónico de mi novio. Tras confirmar que aprobaba la redacción, Gemini Spark envió automáticamente el mensaje.
Los peligros
Además de la cláusula de exención de responsabilidad de la IA al final de la página de Gemini Spark, Google recomienda precaución extra a los usuarios que quieran probar a conectar el agente a sus datos. Un problema conocido con los agentes de IA es que las herramientas te hacen vulnerable a los ataques de inyección rápida, en los que los actores maliciosos engañan a tu agente para que haga cosas malas con los datos a los que tiene acceso.
La página de ayuda de Google ofrece este ejemplo: “Una instrucción maliciosa podría indicar al agente que extraiga información privada de tus correos electrónicos o documentos y la publique en un sitio web público, que envíe tus correos electrónicos de Gmail a un servicio externo sin que lo sepas o que exponga información sobre ti basada en tus datos en aplicaciones conectadas”. Este descargo de responsabilidad por sí solo debería ser razón suficiente para que la mayoría de los usuarios no prueben Gemini Spark. Imagina la información más sensible de tu Gmail esparcida por todo internet. Qué pesadilla. Ni siquiera puedo recomendar a los primeros usuarios curiosos que den acceso a Spark a toda su bandeja de entrada, ya que podría exponerles a posibles brechas de seguridad.
