Nvidia anunció la creación de la Open Secure AI Alliance, “un movimiento para desarrollar y compartir tecnologías, técnicas y herramientas abiertas para salvaguardar el software y los agentes en la era de la inteligencia artificial”. La iniciativa cuenta con el respaldo de casi 40 empresas, entre ellas Adobe, Microsoft, Hugging Face, Palantir, OpenClaw y SpaceXAI.
A través de un comunicado de prensa, Nvidia aseguró que los programas informáticos de código abierto representan un pilar fundamental de la economía global actual, al facilitar que las nuevas tecnologías sean accesibles y visibles para millones de expertos en áreas críticas como los servicios financieros, las telecomunicaciones, el gobierno, la manufactura y la computación en la nube.
La compañía reconoció que, por su naturaleza, estos sistemas suelen ser menos seguros que las plataformas cerradas, ya que pueden utilizarse para debilitar las medidas de protección y realizar ciberataques a gran escala, prácticamente sin restricciones. “Estos riesgos son reales, pero no desaparecen en los sistemas cerrados, y el simple hecho de mantener los pesos cerrados no impide que atacantes decididos busquen o exploten una IA potente”, aseguró.
Sin embargo, Nvidia sostiene que la solución no puede limitarse a mantener cerradas las plataformas de IA más poderosas y argumenta que los especialistas en ciberseguridad necesitan software abierto para ampliar sus capacidades de defensa.
Uno de los ejemplos más claros al respecto, según la compañía, es el reciente incidente de seguridad que afectó a Hugging Face. Después de que algunos modelos de OpenAI lograran escapar de un entorno seguro de prueba para vulnerar la infraestructura y extraer información de manera no autorizada, la reconocida plataforma colaborativa recurrió al modelo chino de código abierto GLM 5.2 para analizar más de 17,000 acciones y contener el ataque.
La decisión de utilizar un modelo chino de IA de código abierto habría respondido a las estrictas medidas de seguridad que limitan la utilidad de los grandes modelos de IA cerrados para cumplir objetivos complejos de defensa.
“Ese incidente puso de manifiesto una realidad práctica: cuando los responsables de la seguridad no pueden inspeccionar, adaptar ni ejecutar IA avanzada en su propia infraestructura, su capacidad de respuesta se ve limitada justo cuando la velocidad es crucial”, afirmó Nvidia.
Las intenciones de la nueva alianza
En este contexto, la compañía asegura que el principal objetivo de la nueva alianza es garantizar que las empresas y los gobiernos tengan acceso a técnicas de defensa de código abierto para facilitar el desarrollo de sistemas de seguridad efectivos, diseñados para industrias críticas y respaldados por sólidas medidas de protección, normas claras contra el uso malicioso, evaluaciones rigurosas y una rápida corrección de posibles fallos.
Como parte del proyecto, Nvidia aportará modelos abiertos, ponderaciones de modelos, investigaciones y datos de evaluación sobre nuevos agentes y herramientas de IA, con la intención de acelerar el desarrollo de mecanismos y técnicas de ciberseguridad. Por su parte, el resto de los miembros de la alianza está creando un conjunto de herramientas de defensa para agentes, que abarcan áreas como la identidad, el aislamiento, los formatos de modelos seguros, el escaneo multimodelo y los flujos de trabajo de codificación segura.
