El ministro de Justicia, Félix Bolaños, ha solicitado formalmente a la Fiscalía General que actúe ante el alarmante aumento de casos de deepfakes sexuales que afectan a menores. Una carta enviada por el ministro destaca que este fenómeno ha crecido un 1,600% en solo dos años y apunta a la responsabilidad de plataformas como X, Instagram y TikTok, mencionadas también por el presidente del Gobierno, Pedro Sánchez.
Bolaños señala que la combinación de la inteligencia artificial y las redes sociales ha creado un entorno propicio para la generación, promoción y distribución de contenidos sexuales de menores. Este entorno facilita la creación de deepfakes sexuales sin necesidad de un conocimiento técnico profundo y su difusión masiva a través de redes sociales, que complica su detección y enjuiciamiento. El ministro expresa que estos actos no son meras consecuencias imprevistas, sino resultados deliberados que podrían haberse evitado si se hubieran respetado los derechos de los menores.
El documento también menciona que, a pesar de contar con un marco normativo tanto a nivel nacional como europeo, es posible sancionar estos daños. Algunas sentencias pioneras en España han reconocido la importancia de la intervención de la fiscalía en estos casos. Bolaños indica que se trata de una necesidad urgente, dada la gravedad del fenómeno.
Tipos Delictivos y sus Consecuencias
Un informe técnico elaborado por los ministerios de Presidencia, Transformación Digital y Juventud identifica al menos cuatro tipos de delitos contemplados en los artículos 189 y 189 bis del Código Penal, que son perseguibles por las autoridades sin necesidad de denuncia previa.
El primer delito, tipificado en el artículo 189.1.a), se refiere a la creación de material pornográfico utilizando a menores, lo que incluye la elaboración de deepfakes sexuales realistas. El segundo, según el artículo 189.1.b), abarca la producción y distribución de material pornográfico de menores, donde basta con ponerlo a disposición de terceros para que se considere un delito.
El tercer delito, recogido en el artículo 189.5, es la posesión o adquisición de pornografía infantil, incluyendo deepfakes, para uso privado. Por último, el artículo 189 bis se refiere a la distribución en línea de contenidos destinados a incitar delitos relacionados con la pornografía infantil. Este contenido a menudo redirige a los usuarios a canales externos, como aplicaciones de mensajería, donde se intercambia material pedófilo.
El informe resalta que estos delitos pueden ser aún más graves si involucran a menores de 16 años o aquellos en situación de vulnerabilidad. Las implicaciones de estos actos son significativas y sugieren una posible responsabilidad por parte de las empresas tecnológicas que gestionan las redes sociales.
Los efectos de la difusión de estos contenidos son alarmantes. Estudio recientes indican que uno de cada cinco jóvenes en España ha experimentado la divulgación de desnudos manipulados con IA sin su consentimiento durante su infancia. Las denuncias por delitos sexuales digitales contra menores han aumentado un 13% en los últimos dos años, y las víctimas son predominantemente niñas, representando el 70% de los casos. Un ejemplo notable es el caso ocurrido en Almendralejo (Badajoz) en 2023, donde más de 20 niñas entre 11 y 17 años fueron víctimas de montajes pornográficos generados por compañeros de clase.
El informe advierte que los efectos de esta violencia digital son devastadores y casi imposibles de eliminar. Los sobrevivientes de estas experiencias enfrentan un riesgo significativamente mayor de autolesionarse o tener pensamientos suicidas, siendo este riesgo de dos a cuatro veces más alto en comparación con aquellos que han sufrido abusos físicos.
