Hace poco más de una semana, asistí a una importante conferencia sobre IA en Zhongguancun, el bullicioso distrito de alta tecnología de Pekín. El programa estaba repleto de sesiones fascinantes que abarcaban desde la superación recursiva, la idea de que los modelos pueden ajustar su propio código y avanzar indefinidamente, hasta los robots humanoides. Además, contó con la presencia de algunas leyendas de la informática, como Whitfield Diffie, coinventor de la criptografía de clave pública, y Andrew Barto, que ganó el Premio Turing junto a Rich Sutton por su trabajo pionero en el aprendizaje por refuerzo.
Llegué a una misma conclusión: Estados Unidos y China deberían dejar a un lado su feroz rivalidad en materia de IA. Los riesgos sistémicos y de ciberseguridad de la IA de vanguardia son demasiado graves como para ignorarlos, y los modelos agénticos, cada vez más capaces, podrían provocar pronto el caos a menos que las superpotencias mundiales en IA sean capaces de colaborar.
“La IA es una tecnología global con beneficios globales, perjuicios globales y una tendencia constante a que las nuevas capacidades acaben proliferando”, me comentó después Stephen Casper, informático del MIT que intervino en la conferencia por videoconferencia.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Hasta ahora, Estados Unidos ha considerado en gran medida los avances de China en IA como una amenaza económica y para la seguridad nacional. Washington ha impuesto estrictas restricciones a los chips y a los equipos de fabricación de chips para frenar el desarrollo de una IA potente por parte de ese país. Más recientemente, el Gobierno de EE UU ordenó a Anthropic que impidiera a los ciudadanos extranjeros acceder a sus modelos más potentes, Mythos y Fable 5, por motivos de seguridad nacional. En respuesta, Anthropic revocó el acceso a todo el mundo. Una empresa que suscitaba especial preocupación, según reveló anteriormente WIRED, era una gigante surcoreana de las telecomunicaciones con supuestos vínculos con China.
Dos frentes
Sin embargo, la conferencia, organizada por la Academia de Inteligencia Artificial de Pekín, reforzó la idea de que tanto EE UU como China saldrían perdiendo si la IA se desarrollara de forma demasiado rápida e imprudente. A medida que la IA se vuelve más potente, más autónoma y más entrelazada con la vida cotidiana, los riesgos de que pueda utilizarse para llevar a cabo ciberataques o de que falle de forma catastrófica no harán más que aumentar. Dado que las dos potencias dominantes en IA a nivel mundial son responsables de los modelos más avanzados, la cooperación entre ellas parece que será crucial.
Casper se refirió a estudios que demuestran que los beneficios de la colaboración internacional frente a los peligros de la IA superan con creces cualquier riesgo para la seguridad nacional derivado de trabajar juntos. Comparó la situación actual con la forma en que Estados Unidos y la Unión Soviética se vieron obligados a colaborar en materia de amenazas nucleares, incluso mientras intentaban superar al otro en el armamento nuclear.
“Una cosa en la que casi todo el mundo en el ámbito de la IA está de acuerdo en este momento es que la IA no necesita un momento como el de Chernóbil”, afirmó Casper.
Una sesión de un día de duración expuso la universalidad de los retos cibernéticos que plantea una IA más avanzada. Entre ellos se incluyen nuevos tipos de vulnerabilidades en el código generado por la IA, formas novedosas de atacar sistemas gracias al uso de herramientas agénticas y métodos automatizados para llevar a cabo ataques de phishing.
Tras otra sesión, hablé con Lin Yun, profesor de la Universidad Jiaotong de Shanghái, cuya labor en inteligencia artificial y seguridad informática es excelente. Yun me comentó que prevé que los hackers obtengan ventaja a corto plazo, pero que las nuevas contramedidas, incluidos los usos innovadores de la IA, deberían inclinar la balanza a favor de la defensa con el tiempo.
