Alrededor de una docena de líderes tecnológicos se reunieron con los integrantes del G7 para debatir los riesgos asociados con los sistemas de inteligencia artificial (IA) de vanguardia ante su creciente influencia geopolítica. Durante el encuentro, celebrado esta semana en Evian, Francia, los directores ejecutivos Sam Altman, de OpenAI; Dario Amodei, de Anthropic; y Demis Hassabis, de Google DeepMind, habrían propuesto la creación de una coalición liderada por Estados Unidos que funcionaría como una plataforma de cooperación internacional destinada a evaluar las capacidades y posibles amenazas de la IA, además de definir estándares de prueba aceptados a escala global.
Por su parte, los integrantes del grupo que reúne a siete de las economías más industrializadas del mundo (Alemania, Canadá, Estados Unidos, Francia, Italia, Japón y Reino Unido), así como la presidenta de la Comisión Europea, expresaron su preocupación por el impacto que estas tecnologías podrían tener en la economía mundial, el sistema financiero y la seguridad digital. Asimismo, encomendaron a sus especialistas en ciberseguridad intensificar el intercambio de información y elaborar mejores prácticas para enfrentar los nuevos desafíos derivados de los modelos de IA más avanzados.
Un cambio de política anunciado por NeurIPS suscitó una amplia reacción de los investigadores chinos esta semana y luego se revirtió rápidamente.
Una alianza para regular la IA encabezada por EE UU… ¿y China?
La reunión entre los ejecutivos tecnológicos y los líderes políticos se llevó a cabo a puerta cerrada. No obstante, un informe extraoficial de CNBC asegura que Amodei, Hassabis y Altman plantearon la creación de una entidad internacional para la evaluación y supervisión de la inteligencia artificial, liderada por Estados Unidos.
Citando a una fuente anónima, el reporte señala que, durante su intervención, el director ejecutivo de Anthropic defendió la incorporación de mecanismos de cooperación internacional que garanticen el acceso estructurado a modelos de IA de última generación, así como a chips y componentes estratégicos para el sector, excluyendo a China. Además, el directivo habría sostenido que los países deben trabajar de manera coordinada para abordar los riesgos vinculados con la IA, particularmente en ámbitos como la ciberseguridad, el bioterrorismo y las operaciones de inteligencia.
Por su parte, el CEO de OpenAI habría solicitado la creación de “un foro internacional de debate que establezca estándares de prueba aceptados a nivel mundial, proporcione análisis expertos e imparciales sobre las capacidades y los riesgos, y sirva como plataforma para la cooperación entre las naciones”. Hassabis habría adoptado una posición similar al defender la urgencia de establecer marcos globales que permitan evaluar tanto las amenazas como los beneficios derivados de esta tecnología.
Principales ejecutivos presentes en la reunión del G7 en Evian, Francia:
- Sam Altman: director ejecutivo de OpenAI.
- Demis Hassabis: director ejecutivo de Google DeepMind.
- Dario Amodei: director ejecutivo de Anthropic.
- Arthur Mensch: director ejecutivo de Mistral AI.
- Aidan Gomez: director ejecutivo de Cohere.
- Robin Rombach: cofundador de Black Forest Labs.
- Vivek Raghavan: cofundador de Sarvam AI.
- Victor Riparbelli: director ejecutivo de Synthesia.
- Alex Wang: representante de Meta y fundador de Scale AI.
- Marc Benioff: presidente y director ejecutivo de Salesforce.
- Ren Ito: ejecutivo de Sakana AI.
Protección urgente para menores y la economía
En su postura oficial, los miembros del G7 reconocieron que la inteligencia artificial tiene el potencial de incrementar la productividad, mejorar los servicios y fomentar la innovación. Sin embargo, también advirtieron que su desarrollo podría generar riesgos aún insuficientemente comprendidos.
En ese sentido, solicitaron a sus ministros de Finanzas y a los gobernadores de los bancos centrales profundizar el análisis sobre los efectos de esta tecnología, en colaboración con las empresas del sector. El objetivo es comprender mejor sus implicaciones para la productividad, los mercados laborales y, especialmente, para la estabilidad del sistema financiero.
De igual forma, los líderes políticos pidieron “al grupo de expertos en ciberseguridad del G7 que, según corresponda, mejore el intercambio de información e identifique las mejores prácticas, a la luz de los recientes avances en materia de modelos de inteligencia artificial de vanguardia”.
