El Consejo de Ministros de España ha aprobado una ley preliminar sobre el uso ético y la gobernanza de la inteligencia artificial (IA). La iniciativa prohíbe prácticas de manipulación, exige el etiquetado de los contenidos generados con esta tecnología y establece sanciones severas para quienes incumplan estas disposiciones.
Óscar López Águeda, ministro para la Transformación Digital y de la Función Pública, aseguró en una rueda de prensa que “la IA es una herramienta muy poderosa, que puede servir para mejorar nuestras vidas o atacar a la democracia. Puede utilizarse para investigar el cáncer o el Alzheimer, prevenir catástrofes naturales y descubrir nuevos medicamentos. Pero también es un instrumento para difundir noticias falsas y propagar el odio. Por eso es fundamental su buen uso y gobernanza”.
La Cumbre de Acción sobre la IA de París abordará temas como el impacto ambiental de la tecnología y la competencia ética dentro del sector.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →El anteproyecto de ley aprobado adapta la legislación nacional al Reglamento Europeo de Inteligencia Artificial vigente. Según López, esta última normativa ha sido diseñada para “defender nuestros derechos digitales al identificar prácticas prohibidas”.
El Reglamento Europeo clasifica las plataformas y aplicaciones de IA en cuatro niveles de riesgo: mínimo, limitado, alto e inaceptable. A mayor riesgo, mayores responsabilidades, requisitos y restricciones para quienes desarrollen o utilicen estos sistemas. Además, establece sanciones por incumplimiento de hasta 35 millones de euros y/o entre el 5 y el 7% de la facturación mundial de las empresas infractoras.
La regulación prohíbe el uso, comercialización y desarrollo de algoritmos considerados demasiado peligrosos. Entre estos, figuran tecnologías que pueden manipular el comportamiento de los usuarios, recopilar masivamente fotos de rostros en internet y procesar datos sensibles para calcular la probabilidad de que una persona cometa un delito.
Los modelos de puntuación social, reconocimiento de emociones y vigilancia biométrica son catalogados de “alto riesgo” y están sujetos a supervisión permanente. Esta categoría también incluye desarrollos que puedan afectar la seguridad de infraestructuras críticas e influir en decisiones sobre la educación, el empleo, la prestación de servicios públicos esenciales, la aplicación de la ley y la gestión de la migración.
Etiquetado de IA, aún incierto en España y Europa
La normativa también menciona los modelos fundacionales que deben garantizar que sus datos de entrenamiento no vulneren derechos de autor y especificar si un texto, audio, imagen o video ha sido generado por IA. Sin embargo, el Reglamento Europeo no detalla cómo debe realizarse este etiquetado ni establece medidas para asegurar el respeto a los derechos de autor. El anteproyecto aprobado en España tampoco aborda estos aspectos.
López se limitó a señalar que “cuando se desarrolle la normativa, la Agencia Española de Supervisión de la Inteligencia Artificial (Aesia) establecerá las reglas”. Indicó que los asuntos relacionados con datos biométricos serán tratados por la Agencia Española de Protección de Datos (AEPD), la Junta Electoral Central atenderá los posibles riesgos para la democracia, y el Consejo General del Poder Judicial abordará aquellas cuestiones que puedan incidir en la aplicación de la justicia. El resto de los casos serán evaluados por la Aesia.
Las intenciones de España de reforzar la gobernanza de la IA coinciden con su aspiración de convertirse en una potencia europea en esta industria emergente.
El Gobierno ha puesto en marcha la Estrategia de Inteligencia Artificial 2024, un proyecto con un presupuesto total de 1,500 millones de euros, a los que se suman otros 600 millones ya asignados a través de la Estrategia Nacional de Inteligencia Artificial (ENIA) de 2020. Además, las autoridades han anunciado que se destinarán 150 millones adicionales para fomentar el uso de la IA en las empresas. Estos recursos se enfocarán en el desarrollo de modelos de lenguaje de última generación, el fortalecimiento de la infraestructura estatal de supercomputación y la formación de talento especializado.
Pedro Sánchez, presidente del Gobierno, ha afirmado que el objetivo es que “España juegue un papel relevante a nivel europeo e internacional en el desarrollo de la inteligencia artificial y proporcionar una infraestructura abierta, pública y accesible para las empresas, de forma que puedan disponer de modelos de lenguaje de gran escala que favorezcan el desarrollo de aplicaciones avanzadas para su posterior explotación económica”.
