Child Sexual Abuse Material facilitated by Artificial Intelligence

Authors

  • Antonella Petrini Universidad siglo 21, Córdoba, Argentina. Author
  • María Belén Gauna Universidad siglo 21, Córdoba, Argentina. Author

DOI:

https://doi.org/10.56294/ai2024146

Keywords:

child sexual abuse material, artificial intelligence, child abuse prevention, digital platforms, legislation

Abstract

The present study aimed to analyze how artificial intelligence can facilitate the production and distribution of child sexual abuse material. The scope of the study was descriptive, adopting a qualitative approach, and the research design was non-experimental cross- sectional. The selected sample comprised documents, agreements, laws and books related to the subject matter; the sampling method was non-probabilistic and qualitative data collection instruments were used in the conduct of the study. The results demonstrated the development of Artificial Intelligence (AI) in the criminal sphere, as well as the lack of efficient legislation at both national and international level, even though initiatives addressing these matters have been explored in both contexts, along with an analysis of how these crimes operate. In conclusion, the paper highlighted an increase in the prevalence of crime, emphasizing the complexities of combating it without a clear and robust regulatory framework. This study also underscored the risks posed by social platforms lacking appropriate restrictions. Mutual collaboration among governments, organizations, companies and society is key to address these crimes, and the implementation of preventive strategies is fundamental to mitigate risks and safeguard minors in digital environments. The findings presented in this paper emphasize the need for a regulatory framework that addresses child sexual abuse material preventively and reactively.

References

1. BBC Mundo. Deepfake porn: el peligro de las imágenes sintéticas [Internet]. 2023 [citado 2025 ago 1]. Disponible en: https://www.bbc.com/mundo/articles/c1vzyevl0nro

2. Biblioteca del Congreso de la Nación. Dossier Legislativo Nacional: Inteligencia Artificial [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://bcn.gob.ar/uploads/adjuntos/Dossier-279-legis-nacional-inteligencia-artificial-feb-2024.pdf

3. Boden M. Inteligencia artificial. Madrid: Turner Publicaciones S.L.; 2016. p. 3.

4. CBS News. Florida man accused of using AI to create child porn [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://www.cbsnews.com/miami/news/florida-man-accused-of-using-ai-to-create-child-porn/?intcid=CNM-00-10abd1h

5. Centro de Ciberseguridad de Buenos Aires. El lado oscuro de la IA (parte II) [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://buenosaires.gob.ar/noticias/el-lado-oscuro-de-la-ia-parte-ii

6. Clarín. En EE.UU. piden más protección para adolescentes víctimas de deepfakes con desnudos [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://www.clarin.com/tecnologia/eeuu-piden-proteccion-adolescentes-victimas-deepfakes-desnudos_0_UmN2bNxU8r.html

7. Cloud Booklet. Imágenes realistas falsas: el generador de imágenes de IA [Internet]. 2023 [citado 2025 ago 1]. Disponible en: https://www.cloudbooklet.com/lifestyle/realistic-fake-nudes-with-ai-nude-generator

8. Comisión Europea. AI Watch Defining Artificial Intelligence. 2020. p. 12.

9. Convenio sobre la ciberdelincuencia. Budapest: Consejo de Europa; 2001. Art. 9 [Internet]. Disponible en: https://www.oas.org/juridico/english/cyb_pry_convenio.pdf

10. Cordeiro VC. Combatir el aumento de material de abuso sexual infantil generado por la IA [Internet]. Humanium; 2024 [citado 2025 ago 1]. Disponible en: https://www.humanium.org/es/combatir-el-aumento-de-material-de-abuso-sexual-infantil-generado-por-la-ia/

11. Cordeiro VC. Abuso infantil [Internet]. Humanium; 2021 [citado 2025 ago 1]. Disponible en: https://www.humanium.org/es/enfoques-tematicos/violencia/abuso-infantil/

12. Real Academia Española, Asociación de Academias de la Lengua Española. Diccionario de la lengua española [Internet]. s.f. [citado 2025 ago 1]. Disponible en: https://dle.rae.es/inteligencia#2DxmhCT

13. Forbes. Pedófilo grabó a niños en Disney World para crear imágenes de abuso con IA [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://www.forbes.com.mx/pedofilo-grabo-a-ninos-en-disney-world-para-crear-imagenes-de-abuso-con-ia/

14. Gaimari G. Inteligencia Artificial e Impacto en el cibercrimen. 2021. p. 39.

15. Infobae. Detuvieron a un hombre del estado de Florida por usar inteligencia artificial para crear pornografía infantil [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://www.infobae.com/estados-unidos/2024/04/05/detuvieron-a-un-hombre-del-estado-de-florida-por-usar-inteligencia-artificial-para-crear-pornografia-infantil/

16. Infobae. Escándalo en una escuela de Córdoba: un alumno utilizó IA para crear imágenes pornográficas de sus compañeras [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://www.infobae.com/sociedad/2024/07/03/escandalo-en-una-escuela-de-cordoba-un-alumno-utilizo-ia-para-crear-imagenes-pornograficas-de-sus-companeras/

17. Inhope Organization. What is CSAM? [Internet]. 2021 [citado 2025 ago 1]. Disponible en: https://www.inhope.org/EN/articles/child-sexual-abuse-material

18. Internet Watch Foundation. How AI is being abused to create child sexual abuse material (CSAM) online [Internet]. s.f. [citado 2025 ago 1]. Disponible en: https://www.iwf.org.uk/about-us/why-we-exist/our-research/how-ai-is-being-abused-to-create-child-sexual-abuse-imagery/

19. La Voz. Generó imágenes pornográficas de sus compañeras con IA: ¿Qué hizo la escuela? [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://www.lavoz.com.ar/ciudadanos/genero-imagenes-pornograficas-de-sus-companeras-con-ia-que-hizo-la-escuela/

20. Le Masurier J. Adolescentes en Estados Unidos afectadas por los 'deepfakes' pornográficos - En Foco [Internet]. France 24; 2024 [citado 2025 ago 1]. Disponible en: https://www.france24.com/es/programas/en-foco/20240509-adolescentes-en-estados-unidos-afectadas-por-los-deepfakes-pornogr%C3%A1ficos

21. Levine AS. Fotos de niños generados por IA revelan depredadores en TikTok e Instagram [Internet]. Forbes; 2023 [citado 2025 ago 1]. Disponible en: https://www.forbes.com.mx/fotos-de-ninos-generados-por-ia-revelan-depredadores-en-tiktok-e-instagram/

22. Lospennato S. Proyecto de Ley Modifica art. 128 CPN [Internet]. HCDN; 2023 [citado 2025 ago 1]. Disponible en: https://www4.hcdn.gob.ar/dependencias/dsecretaria/Periodo2023/PDF2023/TP2023/4436-D-2023.pdf

23. Marín R. California está impulsando un paquete de leyes para regular la inteligencia artificial y combatir los deepfakes [Internet]. Infobae; 2024 [citado 2025 ago 1]. Disponible en: https://www.infobae.com/estados-unidos/2024/09/04/california-esta-impulsando-un-paquete-de-leyes-para-regular-la-inteligencia-artificial-y-combatir-los-deepfakes/

24. Milman G. Proyecto de Ley Modificación del Artículo 128 del Código Penal Argentino [Internet]. HCDN; 2023 [citado 2025 ago 1]. Disponible en: https://www4.hcdn.gob.ar/dependencias/dsecretaria/Periodo2023/PDF2023/TP2023/4411-D-2023.pdf

25. Ministerio de Justicia de la Nación. Ley simple: Delitos contra la integridad sexual [Internet]. s.f. [citado 2025 ago 1]. Disponible en: https://www.argentina.gob.ar/justicia/derechofacil/leysimple/delitos-contra-la-integridad-sexual#titulo-7

26. Ministerio Público Tutelar de la Provincia de Buenos Aires. "Pornografía infantil", no: se llama "abuso sexual contra niñas y niños y adolescentes" [Internet]. 2021 [citado 2025 ago 1]. Disponible en: https://mptutelar.gob.ar/pornograf-infantil-no-se-llama-abuso-sexual-contra-ni-y-ni-os-y-adolescentes

27. Moyano L. El uso de la IA para la creación de material de abuso sexual infantil [Internet]. Ciberseguridad Latam; 2024 [citado 2025 ago 1]. Disponible en: https://www.ciberseguridadlatam.com/2024/08/28/el-uso-de-de-la-ia-para-la-creacion-de-material-de-abuso-sexual-infantil/

28. National Center for Missing & Exploited Children. Child Sexual Abuse Material (CSAM) [Internet]. s.f. [citado 2025 ago 1]. Disponible en: https://www.missingkids.org/

29. Naciones Unidas. Protocolo Facultativo de la Convención sobre los Derechos del Niño, por lo que se refiere a la Venta de Niños, la Prostitución Infantil y la utilización de niños en la Pornografía (CRC-OPSC) [Internet]. 2002 [citado 2025 ago 1]. Disponible en: https://www.ohchr.org/es/instruments-mechanisms/instruments/optional-protocol-convention-rights-child-sale-children-child

30. RAINN. Abuso sexual infantil [Internet]. s.f. [citado 2025 ago 1]. Disponible en: https://rainn.org/articles/abuso-sexual-infantil

31. Romero A. Proyecto de Ley sobre el uso de IA en delitos sexuales infantiles [Internet]. 2023 [citado 2025 ago 1]. Disponible en: file:///C:/Users/pasca/Downloads/S2469_23PL%20(1).pdf

32. Serrahima de Bedoya A. Avances y desafíos de la inteligencia artificial [Internet]. Epositorio Comillas; 2022 [citado 2025 ago 1]. Disponible en: https://repositorio.comillas.edu/xmlui/bitstream/handle/11531/57178/Avances%20y%20desafios%20de%20la%20inteligencia%20artificial%20-%20Serrahima%20de%20Bedoya%2c%20Alvaro.pdf?sequence=2&isAllowed=y

33. Sullivan E. El auge del material de abuso sexual infantil generado por inteligencia artificial [Internet]. The New York Times; 2024 [citado 2025 ago 1]. Disponible en: https://www.nytimes.com/es/2024/02/01/espanol/inteligencia-artificial-abuso-infantil.html

34. Tenbarge K. Deepfake porn and the Mr. Deep Fake economy [Internet]. NBC News; 2023 [citado 2025 ago 1]. Disponible en: https://www.nbcnews.com/tech/internet/deepfake-porn-ai-mr-deep-fake-economy-google-visa-mastercard-download-rcna75071

35. The White Hatter. Alert for parents, caregivers, educators, and law enforcement concerning apps utilizing AI pose risks to youth and adults [Internet]. 2023 [citado 2025 ago 1]. Disponible en: https://thewhitehatter.ca/blog/alert-for-parents-caregivers-educators-and-law-enforcement-concerning-apps-utilizando-ai-pose-risks-to-youth-and-adults/

36. The White Hatter. Deepnudes: undressing AI-generated intimate image abuse material [Internet]. 2023 [citado 2025 ago 1]. Disponible en: https://thewhitehatter.ca/deepnudes-undressing-ai-generated-intimate-image-abuse-material/

37. UNESCO. Ética de la inteligencia artificial [Internet]. s.f. [citado 2025 ago 1]. Disponible en: https://www.unesco.org/es/artificial-intelligence/recommendation-ethics?hub=32618

38. UNESCO. Recomendación sobre la ética de la inteligencia artificial [Internet]. 2021 [citado 2025 ago 1]. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

39. UNICEF. El abuso sexual infantil en Argentina [Internet]. 2017 [citado 2025 ago 1]. Disponible en: https://www.unicef.org/argentina/sites/unicef.org.argentina/files/2018-04/proteccion-AbusoSexual_contra_NNyA-2016.pdf

40. Vozmediano SL, San Juan Guillén C. Criminología ambiental, Ecología del delito y de la Seguridad. España: UOC; 2010.

41. WFLA News Channel. Pasco teacher arrested: Is AI-generated child porn illegal? [Internet]. 2024 [citado 2025 ago 1]. Disponible en: https://www.wfla.com/news/pasco-county/pasco-teacher-arrested-is-ai-generated-child-porn-illegal/

Published

2024-12-30

Issue

Section

Original

How to Cite

1.
Petrini A, Belén Gauna M. Child Sexual Abuse Material facilitated by Artificial Intelligence. EthAIca [Internet]. 2024 Dec. 30 [cited 2025 Sep. 5];3:146. Available from: https://ai.ageditor.ar/index.php/ai/article/view/146