La humanidad podría estar a punto de experimentar una “explosión de inteligencia” protagonizada por los sistemas más avanzados de inteligencia artificial (IA). Este fenómeno podría convertirse en uno de los desarrollos más trascendentales de la historia, pero, si no se controla a tiempo, también podría generar una crisis de gobernanza que trascienda la esfera tecnológica y ponga en riesgo a las democracias, así como a los sectores económico y empresarial.
Esta es la conclusión del ensayo ¿Qué pasaría si la automatización de la I+D en IA desencadenara una explosión de inteligencia?, escrito por más de 20 especialistas en el tema, entre ellos Jack Clark, cofundador de Anthropic; Jakub Pachocki, científico jefe de OpenAI; y los científicos Geoffrey Hinton y Yoshua Bengio, considerados “padrinos de la IA moderna”.
Voces clave de la investigación en IA en España denuncian la distorsión del debate que se está generando en torno a la IA, y reclaman acciones legales contra las empresas por los daños de sus modelos.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Los autores expresan una inquietud que ha acaparado los titulares en los últimos meses: “Nos preocupa centralmente la posibilidad de una explosión de inteligencia: una aceleración dramática del progreso de la IA impulsada por la propia IA, que comprime avances que de otro modo tomarían años en meses o menos. Esta aceleración sería un cambio cualitativo respecto al progreso rápido pero en gran medida constante de los últimos años”.
La idea de que las máquinas desarrollen capacidades para generar sucesores cada vez más potentes, mientras la intervención humana se diluye entre generaciones, no es nueva. Sin embargo, los expertos aseguran que el fenómeno actual es diferente. A diferencia de épocas pasadas, no sería necesario contar con grandes infraestructuras físicas. Los desarrolladores tienen ahora el objetivo explícito de automatizar la investigación y el desarrollo de la IA mediante software capaz de procesar datos, algoritmos y código. Esto es lo que se conoce como “automejora recursiva”.
A este fenómeno se refiere el concepto de “explosión de inteligencia” citado por los autores, que, a su juicio, podría superar exponencialmente las capacidades humanas y aumentar de manera significativa los riesgos asociados con la IA avanzada en, al menos, tres aspectos.
Los riesgos de la “explosicón de inteligencia”
En primer lugar, advierten que los sistemas más potentes podrían facilitar la creación de amenazas biológicas y cibernéticas que se desarrollen más rápido que las medidas necesarias para contrarrestarlas.
En segundo lugar, disminuiría la participación humana en las tareas de investigación y desarrollo de la IA, lo que reduciría el margen de acción disponible para supervisar y controlar de manera efectiva estos sistemas.
Finalmente, los Estados podrían convertir esta “explosión de inteligencia” en una ventaja decisiva para gestionar unilateralmente los mercados, las economías y los acuerdos internacionales acorde a sus propios intereses.
“Una explosión de inteligencia artificial podría ser el desarrollo tecnológico más trascendental de la historia de la humanidad, comprimiendo años de progreso en meses o menos, amenazando el control humano sobre los sistemas de IA y erosionando gravemente los controles de poder dentro y entre los Estados, las empresas y las ramas del gobierno”, afirma el documento.
Los expertos señalan que las autoridades internacionales y los gobiernos de las naciones deben regular con rapidez el desarrollo de la IA, ya que “una vez que se produce una explosión de inteligencia, es posible que se cierre el plazo para actuar”. El texto pronostica que los proyectos de investigación y desarrollo relacionados con esta tecnología podrían automatizarse por completo en los próximos dos años.
El documento recomienda tres medidas concretas para evitar un escenario caótico: exigir informes transparentes sobre los avances en I+D relacionados con la IA, incluida la participación de auditores independientes en las empresas; desarrollar mecanismos para frenar el rápido avance de estos sistemas, y establecer medidas de adaptación ante la posible “explosión de inteligencia”.
Los especialistas señalan que los controles existentes son ineficientes. Concluyen que “una explosión de inteligencia podría ser el desarrollo tecnológico más trascendental de la historia humana, que comprime años de progreso en meses o menos, amenaza el control humano sobre los sistemas de IA y erosiona severamente los contrapesos de poder dentro de los Estados, las empresas y las ramas del gobierno y entre ellos”, y añaden que el momento de actuar es ahora.
