Anthropic respaldó el año pasado las primeras leyes sobre seguridad de la IA en Estados Unidos, logrando que se aprobaran nuevos requisitos de transparencia en California y Nueva York a los que se opuso gran parte de Silicon Valley, alegando que frenarían el auge de la IA. Sin embargo, la gigante afirma que esas leyes podrían estar ya desfasadas, y la empresa está presionando ahora a los estados para que adopten normativas aún más estrictas.
“Los proyectos de ley de seguridad centrados en la transparencia de 2025 fueron un comienzo muy importante, pero a medida que las capacidades de los sistemas de IA siguen avanzando rápidamente, las respuestas políticas deben estar a la altura”, declaró César Fernández, director de relaciones con gobiernos estatales y locales de EE UU de Anthropic, en una entrevista con WIRED. Añade: “Creemos que la transparencia y la autodeclaración ya no son medidas de seguridad suficientes para los sistemas de IA más potentes”.
Cuáles son las intenciones de Anthropic
Que una startup valorada en casi un billón de dólares se muestre tan a favor de la regulación es un mensaje extraño. Pero Anthropic es una empresa peculiar. Como ya hemos comentado, sus directivos creen que necesita construir un negocio masivo basado en el desarrollo y la venta de acceso a IA avanzada para cumplir su misión fundacional: “garantizar que el mundo realice la transición a través de la IA transformadora de forma segura”.
A medida que Anthropic ha crecido, ha comenzado a respaldar algunas de las regulaciones propuestas más estrictas del país para las empresas de IA de vanguardia. Muchas de estas normas están diseñadas para mitigar los riesgos catastróficos de la IA, incluida la posibilidad de que los modelos avanzados puedan contribuir a desastres financieros o muertes masivas.
Además de las leyes de autoinforme en California y Nueva York, Anthropic también ha apoyado una medida en Illinois que exige que los laboratorios de IA sometan sus procesos de seguridad a la evaluación de auditores externos. Más recientemente, la compañía respaldó una política en Massachusetts que también exigiría auditorías externas para los laboratorios de IA y facultaría al fiscal general del estado para solicitar medidas cautelares contra las empresas que no cumplan con la normativa.
Esta semana WIRED se reunió con Fernández para comprender hacia dónde se dirigen las políticas de IA de la compañía. Fernández se unió a Anthropic a principios de este año, tras haber sido director de relaciones con los gobiernos estatales de EE UU para el gigante de las apuestas deportivas FanDuel y asociado sénior de políticas públicas en Uber. Contribuyó a que ambas compañías ganaran batallas políticas en estados de todo el país. Su experiencia probablemente resultará valiosa para Anthropic, dado que el Congreso sigue estancado en la aprobación de la regulación de la IA y los estados están tomando la iniciativa.
Anthropic descubrió que Claude no responde exactamente igual en todos los idiomas: el modelo adapta el tono y los valores que expresa, aunque sin alterar la calidad de la información que proporciona.
¿Solo quiere limitar la competencia?
Si bien la agenda a favor de la regulación de Anthropic ha sido elogiada por grupos de seguridad de la IA, sindicatos y otros aliados de la empresa, algunos líderes de Silicon Valley interpretan sus esfuerzos políticos desde una perspectiva más perversa.
David Sacks, exresponsable de la IA de la Casa Blanca y actual asesor tecnológico del presidente Donald Trump, ha afirmado que Anthropic está intentando que se aprueben leyes para atrapar a las pequeñas empresas emergentes de IA en trámites burocráticos, asegurando así su propia posición como líder en la carrera de la IA.
“Anthropic está llevando a cabo una sofisticada estrategia de captura regulatoria basada en la infundación de miedo. Es la principal responsable del frenesí regulatorio estatal que está perjudicando al ecosistema de startups“, escribió Sacks en una publicación en redes sociales el año pasado.
