Una figura clave en OpenAI ha presentado su renuncia a causa del “apresurado” acuerdo que la empresa de Sam Altman firmó con el Departamento de Defensa, luego de que el Gobierno de Donald Trump cancelara el contrato de Anthropic como socio en el desarrollo de capacidades de inteligencia artificial destinadas a la seguridad nacional.
“Renuncié a OpenAI”, publicó Caitlin Kalinowski en su cuenta de X el 7 de marzo. “Me importa mucho el equipo de Robótica y el trabajo que desarrollamos juntos. No fue una decisión fácil”.
Kalinowski inició su relación laboral con OpenAI en noviembre de 2024 y llegó a encabezar iniciativas de robótica y hardware de consumo. Indicó que su renuncia se debió a la ausencia de salvaguardas bien definidas previo al anuncio de un acuerdo para usar inteligencia artificial de OpenAI en redes del Pentágono.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →
Una nueva investigación muestra cientos de intentos por parte de aparentes hackers estatales iraníes de secuestrar cámaras sincronizadas con ataques de misiles y drones. Israel, Rusia y Ucrania también han adoptado el truco.
“No fue una decisión fácil”, señaló Kalinowski. “La IA desempeña un papel importante en la seguridad nacional. Pero la vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más reflexión de las que tuvieron. Se trataba de principios, no de personas”. Cerró su publicación con una muestra de “profundo respeto” por Sam Altman y todo el equipo con el que trabajó.
Caitlin Kalinowski es una ingeniera mecánica y diseñadora de productos de consumo masivo especializada en hardware. Es conocida también por su trabajo en empresas como Apple y Meta. Previo a su integración a las filas de OpenAI, lideró el desarrollo de dispositivos de realidad virtual y realidad aumentada, incluidos productos de Oculus y prototipos de gafas inteligentes para Meta.
Las explicaciones de Altman no satisfacen a sus empleados
La ruptura entre el Pentágono y Anthropic, por motivos muy similares a los que cita Kalinowski, le abrió la puerta a OpenAI para conseguir el lucrativo contrato que la empresa de los hermanos Amodei dejó ir. Horas antes de que Estados Unidos e Israel lanzaran en conjunto los primeros ataques contra Irán, Donald Trump ordenó a todas las agencias federales suspender de inmediato el uso de la tecnología de Anthropic. Altman no dejó pasar la oportunidad y el 27 de febrero anunció el despliegue de los modelos de OpenAI en las redes clasificadas del Departamento de Defensa (no obstante el hecho de que el Pentágono siguió usando la tecnología de Anthropic tras el inicio de la nueva guerra en Medio Oriente).
Altman aseguró a sus empleados y al público en general que la prohibición de la vigilancia doméstica indiscriminada y la exigencia de responsabilidad humana en el uso de la fuerza, incluidos los sistemas de armamento autónomo, constituyen dos de los principios de seguridad más relevantes para OpenAI. “El Departamento de Guerra coincide con estos principios, los refleja en la legislación y las políticas, y los incorporamos en nuestro acuerdo”, dijo.
El ejecutivo precisó que el convenio contempla la implementación de diversas salvaguardas técnicas destinadas a garantizar el comportamiento adecuado de los modelos de IA. Entre ellas se encuentra la aplicación en redes de nube de un sistema de seguridad conocido como Full Disk Encryption o “cifrado de disco completo”, que codifica toda la información almacenada y procesada en los servidores donde se ejecutan los modelos. Con ello se busca impedir accesos no autorizados a los datos.
“Solicitamos al Departamento de Guerra que ofrezca estas mismas condiciones a todas las empresas de IA, las cuales, en nuestra opinión, deberían estar dispuestas a aceptarlas. Hemos expresado además nuestro firme deseo de que la situación se desactive, dejando de lado las acciones legales y gubernamentales para avanzar hacia acuerdos razonables”, concluyó Altman.
Sin embargo, varios empleados de OpenAI criticaron el acuerdo y pidieron a Altman que divulgara más información sobre este. En una publicación en redes sociales, Altman admitió que la situación fue “mal manejada“.
Aparte de Kalinowski, se desconoce si otros empleados de OpenAI han dimitido en los últimos días por causas relacionadas.
Con información adicional de Fernanda González.
