System wspomagający wykrywanie treści wizualnych i tekstowych zagrażających bezpieczeństwu dzieci w cyberprzestrzeni

• Autorzy: Niewiadomska-Szynkiewicz Ewa , Różycka Martyna , Staciwa Katarzyna , Nyczka Katarzyna

Identyfikatory

DOI

10.35467/cal/174934

Warianty tytułu

EN

Decision support system for detecting child abuse content in cyberspace

• Języki publikacji: PL

Abstrakty

PL

W ostatnich latach obserwuje się istotny wzrost zagrożeń bezpieczeństwa dzieci w cyberprzestrzeni. Do tych o największym ciężarze gatunkowym należą angażowanie dzieci w nielegalne zachowania online (np. uwodzenie, nagabywanie czy szantaż na tle seksualnym), a także wytwarzanie nacechowanych seksualnie treści z ich udziałem. W tej sytuacji podstawowego znaczenia nabiera budowanie wśród najmłodszych członków naszego społeczeństwa świadomości cyberzagrożeń oraz nabywanie przez nich umiejętności bezpiecznego korzystania z przypisanych cyberprzestrzeni produktów i usług. Podstawowym działaniem na rzecz skutecznej ochrony dzieci w tym środowisku jest także wczesne wykrywanie i zgłaszanie odpowiednim organom występujących w nim przypadków nielegalnych zachowań i treści. Ważną rolę odgrywają zespoły takie jak Dyżurnet. pl2, do którego zadań należy obecnie reagowanie na zgłoszone przez użytkowników cyberprzestrzeni potencjalnie nielegalne treści, a w najbliższej przyszłości być może także prowadzenie proaktywnych działań w tym obszarze. Doświadczenia Dyżurnet.pl jednoznacznie pokazują, że skuteczne wykrywanie takich treści wymaga automatyzacji działań i odpowiednich narzędzi informatycznych. W artykule został prezentowany nowatorski system monitorowania sieci i wspomagania decyzji wykorzystujący metody sztucznej inteligencji, w tym uczenia głębokiego do automatycznego wykrywania potencjalnie szkodliwych materiałów takich, jak: treści przedstawiające wykorzystywanie seksualne dzieci (Child Sexual Abuse Material – CSAM), treści erotyczne z udziałem dzieci, treści pornograficzne z wytworzonym lub przetworzonym obrazem dziecka oraz stanowiące pornografię z udziałem dorosłych.

EN

In recent years, there has been a significant increase in threats to children’s safety in cyberspace. The most serious of these include children’s participation in illegal online activities and the production of sexually explicit content involving them. Therefore, it is of fundamental importance to build awareness of cyber threats among our society’s youngest members and teach them skills for the safe use of products and services assigned to cyberspace. A key action for effectively protecting children in this environment is the early detection and reporting to the relevant authorities of illegal behavior and child abuse content. Teams such as Dyżurnet.pl, whose tasks currently include responding to potentially illegal content reported by cyberspace users, and in the near future, possibly also conducting proactive activities in this area, play an important role here. The experience of Dyżurnet.pl clearly shows that effective detection of such content requires automation of activities and appropriate IT tools. This paper presents a novel network monitoring and decision support system using artificial intelligence methods, including deep learning, to automatically detect potentially harmful material, such as Child Sexual Abuse Material (CSAM), erotic content involving children, pornographic content with a created or processed image of a child and pornography involving adults.

Słowa kluczowe

PL

bezpieczeństwo cyberprzestrzeni; Child Sexual Abuse Material; CSAM; system wspomagania decyzji; metody sztucznej inteligencji; uczenie maszynowe; uczenie głębokie

EN

cybersecurity; Child Sexual Abuse Material; CSAM; decision support system; artificial intelligence; machine learning; deep learning

• Wydawca: Akademia Sztuki Wojennej
• Czasopismo: Cybersecurity and Law
• Rocznik: 2023
• Tom: Vol. 10 (2)
• Strony: 202--220
• Opis fizyczny: Bibliogr. 18 poz., wykr.

Twórcy

autor

Niewiadomska-Szynkiewicz Ewa

• Zespoł Złożonych Systemów, Instytut Automatyki i Informatyki Stosowanej, Wydział Elektroniki i Technik Informacyjnych, Politechnika Warszawska

• https://orcid.org/0000-0003-4782-3816

autor

Różycka Martyna

• Dział Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl w Centrum Cyberbezpieczeństwa i Infrastruktury, Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy

autor

Staciwa Katarzyna

• Zespół III Dyżurnet.pl, Dział Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl, Centrum Cyberbezpieczeństwa i Infrastruktury, Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy

• https://orcid.org/0000-0003-0633-4696

autor

Nyczka Katarzyna

• Zespół II Dyżurnet.pl, Dział Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl, Centrum Cyberbezpieczeństwa i Infrastruktury, Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy

Bibliografia

• 1. Aggarwal Ch.C., Neural Networks and Deep Learning, Cham 2018.
• 2. Analiza wyników badania dotyczącego treści intymnych publikowanych przez młodzież, https://dyzurnet.pl/publikacje [dostęp: 21.03.2023].
• 3. Cortes C., Vapnik V., Support-vector networks, „Mach Learn” 1995, nr 20.
• 4. CyberTipline 2021 Report, https://www.missingkids.org/gethelpnow/cybertipline/cybertiplinedata#overview [dostęp: 20.04.2023].
• 5. He K., Gkioxari G., Dollar P., Girshick R.B., Mask R-CNN, arXiv:1703.06870 [cs.CV], 2018, https://doi.org/10.48550/arXiv.1703.06870 [dostęp: 20.04.2023].
• 6. International Survivor’s Survey, https://www.protectchildren.ca/en/resources-research/survivors-survey-results/ [dostęp: 17.04.2023].
• 7. Internet Usage Statistics. The Internet Big Picture World Internet Users and 2023 Population Stats, https://www.internetworldstats.com/stats.html [dostęp: 20.04.2023].
• 8. Kasprzak W., Jankowski B., Light-Weight Classification of Human Actions in Video with Skeleton-Based Features, „Electronics” 2022, t. 11, nr 14.
• 9. Kasprzak W., Puchała S., Piwowarski P., On Multi-stream Classification of Two Person Interactions in Video with Skeleton-Based Features [w:] Computer Vision and Graphics. ICCVG 2022. Lecture Notes in Networks and Systems, red. L.J. Chmielewski, A. Orłowski, t. 598, Cham 2023.
• 10. Nastolatki 3.0. Raport z ogólnopolskiego badania uczniów, 2022, https://www.nask.pl/pl/raporty/raporty/4295, Raport-z-badań-nastolatki-3.0-2021.html [dostęp: 20.04.2023].
• 11. Nie na pokaz. Mówimy „nie” publikowaniu treści intymnych, https://www.saferinternet.pl/nie-na-pokaz/kampania.html [dostęp: 21.03.2023].
• 12. NudeNet: Neural Nets for Nudity Classification, Detection and selective censoring, https://pypi.org/project/NudeNet/ [dostęp: 23.04.2023].
• 13. Setter Ch., Greene N., Newman N., Perry J., Global Threat Assessment 2021, https://www.weprotect.org/global-threat-assessment-21/#report [dostęp: 20.04.2023].
• 14. Sexual abuse imagery of primary school children 1,000 per cent worse since lockdown, https://www.iwf.org.uk/news-media/news/sexual-abuse-imagery-of-primary-school-children-1-000-per-cent-worse-since-lockdown/ [dostęp: 21.03.2023].
• 15. Trend: ‘Self-generated’ content, https://annualreport2020.iwf.org.uk/trends/international/selfgenerated [dostęp: 21.03.2023].
• 16. Wasilewski J., Zarys definicyjny cyberprzestrzeni, „Przegląd Bezpieczeństwa Wewnętrznego” 2013, nr 9, s. 231.
• 17. Who we are, https://www.missingkids.org/home [dostęp: 20.04.2023].
• 18. Who we are, https://www.weprotect.org [dostęp: 20.04.2023].

Uwagi

1) Opracowanie rekordu ze środków MNiSW, umowa nr SONP/SP/546092/2022 w ramach programu "Społeczna odpowiedzialność nauki" - moduł: Popularyzacja nauki i promocja sportu (2024).

2) Praca finansowana przez Narodowe Centrum Badań i Rozwoju w ramach projektu nr: CYBERSECIDENT/455132/ III/NCBR/2020.