No estoy seguro de que la letanía de abogados contratados por esos CEO entretuviera tanto. Por no hablar de la gente que no puede permitirse un ejército de personal para defender su persona. Inmediatamente pensé en un reportaje de WIRED sobre la familia de una joven de 18 años que fue asesinada en 2006 y descubrió que la imagen de su hija había sido recreada en Character.AI. En ese mismo reportaje, una editora de una publicación de videojuegos descubrió que había sido recreada en la plataforma a raíz de una campaña de acoso relacionada con su cobertura.
Cuando le comento esto a Anand, me explica que cuando los usuarios crean personajes inspirados en figuras públicas como Musk o Bezos, el sistema está diseñado para señalar claramente que se trata de parodias, no de intentos de imitación. Una página del chatbot de Elon Musk no muestra tales advertencias. Tampoco lo hacen las páginas de chatbot del Dr. Phil o Joe Rogan. Sin embargo, debajo de cada chat hay una advertencia: “Esto es una inteligencia artificial y no una persona real. Trata todo lo que dice como ficción”.
Anand dice que Character.AI también ha impuesto estrictas limitaciones a la herramienta de generación de video de la empresa, AvatarFX, para evitar usos indebidos. Los usuarios no deben ser capaces de generar deepfakes realistas aunque lo intenten, y voces o temas específicos están rotundamente restringidos.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →“Tenemos muy, muy claro que nos mantenemos en el territorio del entretenimiento. No estamos en el territorio de la generación de video de uso general. No somos Veo 3 de Google. No somos un Runway. Es una línea muy, muy importante”, indica el CEO. Anand contrasta esto con plataformas como Meta, donde afirma que el contenido a menudo se sube primero y se modera después. En Character.AI, los controles de contenido están integrados en el propio proceso de creación. “Nuestros retiros reactivos son un porcentaje muy, muy pequeño”.
Me preocupa que, a medida que estas herramientas sean más convincentes, la soledad aumente, no desaparezca. Anand lo entiende. Pero también tiene que vender: “Yo mismo soy un apasionado de este tema, y depende de nosotros dar forma al diálogo en torno a esto de la mejor y más saludable manera posible, porque la Generación Z es nativa de la IA. La cuestión es cómo construir esto de forma que sea seguro y digno de confianza y que atraiga de la forma adecuada con los incentivos adecuados. Eso depende de nosotros”.
Cómo le va a la competencia
La semana pasada informé que Elon Musk había convocado una reunión con todos los empleados de X y xAI. Desde entonces, he obtenido otra captura de pantalla de esa reunión que muestra los ingresos de xAI durante los últimos siete meses.
En enero, Grok en X generó algo menos de 150 millones de dólares, mientras que otros servicios, como el uso de la API por parte de empresas, sumaron otros 28 millones. Según el gráfico, los ingresos se han multiplicado por diez desde principios de 2025, alcanzando casi 500 millones de dólares en julio. Este crecimiento ha sido impulsado por Grok on X y la suscripción mensual de 30 dólares a SuperGrok. Una fracción menor de los ingresos proviene de la recién lanzada suscripción SuperGrok Heavy, que cuesta 300 dólares al mes. xAI no respondió a la solicitud de comentarios de WIRED.
Artículo publicado originalmente en WIRED. Adaptado por Alondra Flores.
