OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral y otros laboratorios líderes en inteligencia artificial (IA) solicitaron el respaldo del gobierno de Estados Unidos para desarrollar mecanismos técnicos y de gobernanza con alcance internacional que permitan regular el ritmo del avance de la IA automatizada.
La petición se realizó en una carta pública firmada por más de 1,200 empleados de compañías vinculadas con la industria de la inteligencia artificial. Entre los firmantes destacan ingenieros y ejecutivos de alto nivel, como el director ejecutivo de Anthropic, Dario Amodei, y otros de los fundadores de esta misma empresa, Jared Kaplan y Jack Clark; Anca Dragan, responsable de seguridad de IA en Google; así como Jakub Pachocki y Shengjia Zhao, científicos jefes de OpenAI y Meta, respectivamente.
El documento señala que las principales empresas del sector consideran que están cerca de automatizar la investigación en inteligencia artificial, lo que podría multiplicar los beneficios de esta tecnología para la humanidad. No obstante, reconoce que ese escenario optimista no está garantizado, ya que “existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes”.
Los firmantes advierten que este escenario podría debilitar los principios de seguridad y el uso ético de estos sistemas debido a la intensa competencia que mantienen tanto empresas como países por liderar el mercado emergente de las nuevas tecnologías.
La ONU calcula que actualmente existen alrededor de 40 marcos de gobernanza de la IA, pero ninguno ha demostrado aún su eficacia de manera determinante.
“Para aprovechar el potencial de la IA, la industria, el gobierno y la sociedad en general podrían necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión. Sin embargo, cada empresa —y cada país— se enfrenta a una intensa presión competitiva para no frenar unilateralmente esa aceleración. Y hoy en día, el mundo carece de las herramientas técnicas y de gobernanza necesarias para regular de forma deliberada el progreso en este campo”, precisa la misiva.
Por ello, el documento solicita al gobierno estadounidense “que apoye un esfuerzo internacional” enfocado en desarrollar herramientas técnicas y mecanismos de gobernanza que permitan “marcar de forma deliberada el ritmo del desarrollo de la IA automatizada”.
La petición se produce días después de que algunos modelos de OpenAI lograran escapar de un entorno seguro de pruebas para vulnerar infraestructura informática y extraer información de manera no autorizada de Hugging Face y otras plataformas de terceros.
Previamente, Anthropic publicó diversas investigaciones en las que advirtió sobre los riesgos asociados con modelos de IA cada vez más autónomos que, incluso, recurrieron al chantaje, la extorsión y la manipulación para evitar ser desconectados.
Los riesgos de la intensa competencia por dominar la IA
A raíz de estos episodios, desde principios del mes pasado los principales líderes de la industria han insistido en la necesidad de establecer mecanismos que garanticen la seguridad de los modelos de inteligencia artificial y regulen su desarrollo, implementación y uso.
En ese contexto, durante una reunión con los integrantes del G7 celebrada a principios del mes pasado, los directores ejecutivos Sam Altman, de OpenAI; Dario Amodei, de Anthropic; y Demis Hassabis, de Google DeepMind, propusieron la creación de una coalición liderada por Estados Unidos que funcione como una plataforma de cooperación internacional destinada a evaluar las capacidades y los posibles riesgos de la IA, además de definir estándares de evaluación aceptados a escala global.
