El Consejo de Ministros de España solicitará formalmente a la Fiscalía General del Estado que investigue a X (antes Twitter), Meta y TikTok por la posible comisión de delitos vinculados con la creación y difusión de pornografía infantil mediante sistemas de inteligencia artificial (IA).
La iniciativa forma parte de un paquete de cinco acciones impulsado por el gobierno de Pedro Sánchez para reforzar la seguridad en el entorno digital y frenar los efectos nocivos de estas plataformas, especialmente entre los usuarios más jóvenes. El presidente anunció la petición a través de sus redes sociales y sostuvo que “estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”.
La solicitud se realizará con base en el Artículo 8 del Estatuto Orgánico del Ministerio Fiscal, que establece que el Gobierno puede requerir al fiscal general del Estado que “promueva ante los tribunales las actuaciones pertinentes en orden a la defensa del interés público”.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Elma Saiz, ministra de Inclusión, Seguridad Social y Migraciones y portavoz del Ejecutivo, afirmó que la decisión demuestra el compromiso del gabinete con la protección de los menores en el ámbito digital. La funcionaria citó la proliferación en X de imágenes de desnudos generadas con inteligencia artificial que, en apenas 11 días, alcanzaron un volumen de 3 millones de contenidos, muchos de ellos con representación de menores. “No podemos permitir que, a través del algoritmo, se amplifiquen o amparen estos hechos. Está en juego la seguridad de nuestros hijos, la protección de su imagen, su intimidad y su libertad”, declaró.
De acuerdo con un comunicado oficial citado por medios locales, el escrito enviado por el Consejo de Ministros señala que, tras la investigación y el análisis correspondientes, la Fiscalía deberá ejercer “las acciones penales que considere oportunas” para garantizar la seguridad de los menores frente a los posibles riesgos derivados del uso de inteligencia artificial en redes sociales. El objetivo es fijar criterios de actuación y establecer mecanismos que permitan a tutores y representantes legales hacer valer los derechos de niños y adolescentes.
El documento también precisa que la eventual responsabilidad penal no recaería únicamente en los usuarios que emplean herramientas de IA para generar imágenes sensibles, “sino que también podría haber responsabilidad dentro de las plataformas por el dominio que ejercen sobre los contenidos, las herramientas de IA integradas en ellas y la primacía de unos contenidos sobre otros a través de los algoritmos”.
Los deepfakes sexuales siguen haciéndose más sofisticados, capaces, fáciles de acceder y peligrosos para millones de mujeres que sufren abusos con esta tecnología.
A comienzos de este mes, la Presidencia del Gobierno de España difundió un comunicado en el que señaló que, durante el último año, se detectaron en el país cerca de 900,000 contenidos de odio en redes sociales y que uno de cada cinco menores vivió o presenció algún episodio de violencia digital.
Ante este panorama, Sánchez presentó un plan de cinco acciones para contrarrestar “los peligros reales de las redes sociales” y asegurar que las grandes compañías tecnológicas cumplan con las normas diseñadas para proteger a la ciudadanía.
