En medio de crecientes preocupaciones sobre los posibles riesgos existenciales alrededor de la inteligencia artificial (IA), Google DeepMind lanzó el DeepMind Institute (DMI), una plataforma que busca impulsar la investigación interdisciplinaria, la colaboración y el debate sobre las implicaciones técnicas y sociales del desarrollo de la IA general (IAG).
La iniciativa es dirigida por James Manyika, vicepresidente sénior de Google-Alphabet, Shane Legg, cofundador y científico jefe de IA general en Google DeepMind, y Demis Hassabis, cofundador y presidente del laboratorio.
En el ensayo de lanzamiento, los ejecutivos definen la IAG como sistemas capaces de “exhibir” todas las capacidades cognitivas del cerebro humano. A su juicio, este tipo de algoritmos tienen el potencial de acelerar los avances científicos, incrementar la prosperidad económica y solucionar diversas problemáticas ambientales y sociales.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →
Los especialistas cuestionan si los actuales mecanismos de alineación son suficientes para controlar sistemas de IA cada vez más capaces y advierten que la humanidad podría estar quedándose sin tiempo para garantizar su seguridad.
No obstante, reconocen que esta tecnología conlleva riesgos y desafíos que deben abordarse desde ahora. “Este es un momento crucial para garantizar que construyamos la IA general de forma segura y que sus beneficios para la sociedad superen con creces cualquier riesgo. Nadie tiene todas las respuestas sobre cómo desarrollar e implementar la IA general de forma responsable en el mundo, y no deberían ser solo los tecnólogos quienes las proporcionen”, señalan los autores.
El documento afirma que el DMI permitirá a los expertos de Google y al resto de la comunidad científica a nivel mundial debatir cuestionamientos “cruciales” que definirán la próxima era de la IA general. “Creamos este instituto precisamente porque se requiere un debate intelectual amplio para alcanzar un consenso sobre cómo abordar los retos y aprovechar las oportunidades que enfrentamos como sociedad”, reiteraron los autores.
Además del ensayo de presentación, el proyecto debutó con cuatro publicaciones en las que científicos de Google DeepMind y académicos del Centro Leverhulme para el Futuro de la Inteligencia exponen sus opiniones sobre la necesidad de establecer mecanismos de transparencia racional, una serie de propuestas alrededor de la política económica para la IAG y algunos principios para garantizar el “florecimiento humano” ante la evidente evolución tecnológica.
Entre estos escritos destaca uno firmado por Demis Hassabis. El texto, titulado “Un marco para la IA de vanguardia y el amanecer de una nueva era”, señala que el desarrollo de la IA podría producir tanto consecuencias positivas como negativas de gran magnitud y a una velocidad superior a la de otras transformaciones tecnológicas.
EE UU como líder de la regulación de la IAG
Hassabis subraya que “en estos momentos, nos encontramos inmersos en una carrera comercial y geopolítica sumamente intensa y compleja. Si bien esta dinámica competitiva impulsa un progreso vertiginoso y acelera los increíbles beneficios, los avances en la vanguardia tecnológica superan nuestra comprensión de la misma. Nadie en el mundo sabe con certeza qué sucederá a partir de ahora”.
Por ello, el experto asegura que Estados Unidos ocupa una “posición privilegiada” que le permitiría liderar la creación de un marco que regule el desarrollo y uso de esta tecnología de vanguardia, a través de la conformación de un “organismo de normalización”.
Según el autor, esta nueva entidad sería la responsable de establecer protocolos para evaluar modelos de IA y realizar pruebas de seguridad, en colaboración con agencias federales y laboratorios nacionales estadounidenses. Además, alentaría a los laboratorios que crean algoritmos de frontera a adoptar diversas medidas de contención de riesgos, que incluyen la publicación de fichas técnicas, el fortalecimiento de sus sistemas de ciberseguridad, la verificación del personal clave y la asignación de recursos a la investigación en seguridad.
