A la experta en seguridad relacionada con IA también le preocupa el comportamiento emergente impredecible. “Si obviamos su uso explícito para cometer ciberataques, la parte más compleja es aquella en la que pueden tener estos comportamientos de manera imprevista, impredecible y con consecuencias catastróficas si impactan en infraestructuras esenciales como las energéticas, de transporte y financieras,” explicó durante la sesión del SMC.
“Permite que miles de agentes, mediante un proceso que se conoce como hackeo de la recompensa, decidan que para realizar una tarea tan loable como curar el cáncer tienen que penetrar en los servidores de todos los hospitales del planeta y colapsen el sistema sanitario en el proceso”. Esto “no tiene nada que ver con una superinteligencia, pero se puede hacer hoy en día”.
Una carrera llena de agujeros
Durante esta última ola de pánico mediático, el término estrella entre los CEO de las empresas de IA ha sido “frenar” o “desacelerar” el avance de manera coordinada, una estrategia que espera crear el espacio necesario para mejorar la seguridad sin perder la carrera contra los modelos de otras potencias.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Sin embargo, no está claro qué medidas supondría este tipo de estrategia. “Frenar, frenar… ¿qué significa? ¿teclear más despacio, echar a la mitad de la gente?”, criticó Oliver durante la sesión. “Ni siquiera está bien definido el término, y es evidente que con los modelos que existen ahora mismo tienen las capacidades ya para llevar a cabo muchos de los comportamientos emergentes que se han observado y pueden tener consecuencias negativas no deseadas.”
Al presentar sus esfuerzos como una “ralentización” en lugar de un impulso de toda la industria para mejorar los estándares de seguridad, los laboratorios de IA podrían haberse expuesto a años de problemas regulatorios.
La experta enumera por email a WIRED un largo listado de aplicaciones dañinas que ya se han desplegado: sistemas de diagnóstico médico o justicia penal sin supervisión humana, modelos opacos para la selección de personal, las prestaciones sociales o las evaluaciones crediticias, redes de manipulación masiva mediante deepfakes y desinformación, etc.
Además, dada la marcada opacidad estructural de las grandes plataformas corporativas, la investigadora cree que los “incidentes” conocidos podrían ser solo la punta del iceberg.
La experiencia en otras industrias tampoco ofrece muchas garantías de que la autorregulación vaya a funcionar con los gigantes tecnológicos.
“Tenemos el claro paralelismo con las redes sociales para no ser tan inocentes”, señaló la investigadora durante el briefing, en referencia a cómo la sociedad ha tenido que esperar años para que haya una regulación y se multe o denuncie en juicios a las empresas tecnológicas, para que reconozcan que sus algoritmos estaban diseñados para ser adictivos “desde el día cero”.
“No podemos esperar otros 20 años o 10 años a que haya un impacto social terrible para tomar algún tipo de acción”, reivindicó la experta en seguridad de modelos avanzados de IA. “Como sociedad tenemos que sentirnos más empoderados”.
Sin embargo, la acción social tiene también un doble filo en el relato sobre la IA. Por ejemplo, son habituales las expresiones genéricas que sugieren que “se nos va de las manos la IA”. “¿De qué manos?”, cuestionó Oliver durante la sesión. “Es una manera de transferir la responsabilidad a la sociedad cuando está claro que la sociedad es la víctima”. Barró puntualizó: “Se nos están yendo de las manos las compañías que lideran la IA, ese es el gran problema”.
Un problema muy antiguo
“Todo de lo que hemos estado hablando está ya regulado”, aventuró Oliver durante el briefing. “Es una ilegalidad penetrar en los servidores de otra empresa, es decir, no se necesita un reglamento de IA para eso, ya es un crimen, y no se puede hacer”. El reto, según la experta en regulación de la IA, está en la detección, la supervisión y la asunción de responsabilidades.
Para entenderlo mejor, la investigadora recomienda mirar a otras industrias de riesgo como la energía nuclear, la aviación o la industria farmacéutica.
