¿Y si es tu hijo quien crea las fotos falsas de chicas desnudas con IA? Multas, penas y cómo actuar

Para la ginecóloga y divulgadora Miriam Al Adib lo que está ocurriendo en el pueblo extremeño de Almendralejo "es una barbaridad". Almendralejo es el epicentro de un escándalo derivado de un mal uso de la inteligencia artificial.

Al Adib es una de las 20 madres que ha denunciado que en las redes sociales se están distribuyendo imágenes falsas de sus hijas menores creadas con IA para que aparezcan desnudas.

El caso es un claro ejemplo de los peligros del uso de los deepfakes. Las investigaciones apuntan a un grupo de adolescentes que, a través de una de estas aplicaciones, ha manipulado las imágenes de las menores para mostrarlas desnudas. Hasta el momento, hay decenas de niñas de Almendralejo y alrededores afectadas.

La Policía Nacional ya ha identificado a varios implicados después de tomar declaración a siete posibles víctimas. Si se confirma su autoría, se enfrentarían a un delito grave contra la intimidad de estas menores.

¿Cómo se ha gestado este delito? El origen de estas imágenes podría venir de un grupo de adolescentes de varios colegios de la zona. La facilidad con la que se manipulan las imágenes y la velocidad con la que pueden propagarse, a través de grupos de Whatsapp y redes sociales no hace más que amplificar la trascendencia del delito. Las aplicaciones para cambiar rostros en imágenes estáticas o en vídeos son gratuitas en su mayoría, aunque las versiones más sofisticadas sí tienen un coste, en torno a cinco euros mensuales, cantidades asequibles incluso para los jóvenes.

Sin embargo, en el caso de Almendralejo, la usada es ClothOff, una app pirata creada en Ucrania o Rusia y distribuida a través de Telegram. Cobra nueve euros por 25 fotos, éste es el precio que habrían pagado los jóvenes para usar un programa con el que han cometido el delito.

La mayor preocupación de los padres es que estas imágenes podrían habserse subido a la plataforma Only Fans, una plataforma de contenidos para adultos, y a redes de contenido pornográfico. Además, la propagación de las imágenes ha dado origen a otros delitos, como el chantaje y la extorsión. Según apuntan varios medios, algunos de los implicados habría pedido dinero a una de las afectadas a cambio de retirar las imágenes.

El Derecho Digital establece que la valoración de los posibles delitos no se hace por la tecnología que haya intervenido en ellos, sino por la intención y las consecuencias que tenga. Por tanto, no se penaliza que se haya utilizado IA, sino el mal uso y el resultado.

El actual Código Penal castiga el "uso indebido" de los datos personales y sin consentimiento de la imagen de una persona. Según expone el artículo 173, "El que infligiera a otra persona un trato degradante, menoscabando gravemente su integridad moral, será castigado con la pena de prisión de seis meses a dos años".

Sin embargo, con el agravante de que las víctimas son menores de edad, los autores del montaje se podrían enfrentar a penas de hasta nueve años de prisión. También tendrían que hacer frente a responsabilidades civiles, al igual que las personas que están difundiendo las imágenes a través de sus móviles, aunque no sean los autores de los hechos.

Además, el artículo 92 de la Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales establece que publicar fotos sin consentimiento en internet es delito, no solo en el caso de menores de edad, y puede implicar incluso penas de cárcel de hasta siete años de prisión, y multas de 300.001 a 20 millones de euros en los casos "muy graves".

Ante la sospecha de que nuestro hijo puede estar implicado en un caso como el de Almendralejo, lo primero es crear un clima de confianza para que el adolescente pueda hablar con sus padres. En su publicación en IG, Myriam al Adib, madre de una las víctimas, anima a otras posibles víctimas a hablar con su familia: "Chicas, no tengáis miedo ninguno de denunciar semejantes actos, contadlo a vuestras madres", afirma en su post.

La ginecóloga advierte de que las jóvenes pueden tener miedo de hablar porque quizá van a hacerlas sentir incómodas por usar redes sociales. Sin embargo, anima a los padres, especialmente a las madres, a hablar con sus hijas y a formar comunidad con otras familias afectadas. Esto es relevante si quiere hacerse una denuncia conjunta o colectiva.

Si hay indicios de delito, hay que denunciar inmediatamente a la Guardia Civil o a la Policía Nacional. Ambas entidades, a través del Grupo de Delitos Telemáticos y de la Brigada Central de Investigación Tecnológica, serán los encargados de esclarecer cada caso. Además, cuando en este tipo de delitos están implicados una empresa o un centro educativo, también puede denunciarse el caso ante la Agencia Nacional de Protección de Datos.

Si sospechamos que nuestro hijo puede haber hecho ese tipo de fotos, ha contribuido a ello o las ha difundido, lo primero es confirmar la sospecha. Para ello, tendremos que hablar con él en un ambiente de calma y serenidad, tratando de que aporte la mayor información posible.

Si después de esa conversación, y con pruebas que lo acrediten, sabemos que está involucrado en el delito, podemos denunciarlo ante la autoridad, aunque es preciso saber que los menores que cometen delitos son considerados por la legislación española de dos maneras. Los menores de 14 años no son responsables penalmente. Aun así, el Ministerio Fiscal tiene facultad para analizar el caso y remitir al transgresor a la entidad pública de protección de menores que corresponda. Por otra parte, los menores con edades entre 14 y 18 años sí son imputables y tendrán responsabilidad penal de acuerdo a la Ley Orgánica 5/2000, de 12 de enero, reguladora de la responsabilidad penal de los menores (LORPM).

En el caso de Almendralejo, ninguno de los chicos ha reconocido haber hecho el montaje, aunque sí admiten haber visto las fotos de las niñas desnudas. En este caso, ver este tipo de imágenes no es delito (sí lo es difundirlas). Sin embargo, sí sería aconsejable declarar ante las autoridades pertinentes cómo se ha accedido a esas imágenes por si hubiera información relevante para la conclusión del caso.