W ostatnich latach obserwuje się istotny wzrost zagrożeń bezpieczeństwa dzieci w cyberprzestrzeni. Do tych o największym ciężarze gatunkowym należą angażowanie dzieci w nielegalne zachowania online (np. uwodzenie, nagabywanie czy szantaż na tle seksualnym), a także wytwarzanie nacechowanych seksualnie treści z ich udziałem. W tej sytuacji podstawowego znaczenia nabiera budowanie wśród najmłodszych członków naszego społeczeństwa świadomości cyberzagrożeń oraz nabywanie przez nich umiejętności bezpiecznego korzystania z przypisanych cyberprzestrzeni produktów i usług. Podstawowym działaniem na rzecz skutecznej ochrony dzieci w tym środowisku jest także wczesne wykrywanie i zgłaszanie odpowiednim organom występujących w nim przypadków nielegalnych zachowań i treści. Ważną rolę odgrywają zespoły takie jak Dyżurnet. pl2, do którego zadań należy obecnie reagowanie na zgłoszone przez użytkowników cyberprzestrzeni potencjalnie nielegalne treści, a w najbliższej przyszłości być może także prowadzenie proaktywnych działań w tym obszarze. Doświadczenia Dyżurnet.pl jednoznacznie pokazują, że skuteczne wykrywanie takich treści wymaga automatyzacji działań i odpowiednich narzędzi informatycznych. W artykule został prezentowany nowatorski system monitorowania sieci i wspomagania decyzji wykorzystujący metody sztucznej inteligencji, w tym uczenia głębokiego do automatycznego wykrywania potencjalnie szkodliwych materiałów takich, jak: treści przedstawiające wykorzystywanie seksualne dzieci (Child Sexual Abuse Material – CSAM), treści erotyczne z udziałem dzieci, treści pornograficzne z wytworzonym lub przetworzonym obrazem dziecka oraz stanowiące pornografię z udziałem dorosłych.
EN
In recent years, there has been a significant increase in threats to children’s safety in cyberspace. The most serious of these include children’s participation in illegal online activities and the production of sexually explicit content involving them. Therefore, it is of fundamental importance to build awareness of cyber threats among our society’s youngest members and teach them skills for the safe use of products and services assigned to cyberspace. A key action for effectively protecting children in this environment is the early detection and reporting to the relevant authorities of illegal behavior and child abuse content. Teams such as Dyżurnet.pl, whose tasks currently include responding to potentially illegal content reported by cyberspace users, and in the near future, possibly also conducting proactive activities in this area, play an important role here. The experience of Dyżurnet.pl clearly shows that effective detection of such content requires automation of activities and appropriate IT tools. This paper presents a novel network monitoring and decision support system using artificial intelligence methods, including deep learning, to automatically detect potentially harmful material, such as Child Sexual Abuse Material (CSAM), erotic content involving children, pornographic content with a created or processed image of a child and pornography involving adults.
Artykuł zawiera opis jednej z metod automatycznego wykrywania treści nielegalnych typu CSAM, którą przetestowano podczas badań przeprowadzanych w projekcie APAKT. Zaproponowane rozwiązanie wykorzystuje klasyfikator Temporal Shift Module (TSM), model sieci głębokiej do wydajnego rozpoznawania aktywności na plikach wideo. Zastosowano metodę z transferem wiedzy, żeby stosunkowo niedużą liczbą danych uczących nauczyć model skutecznego rozpoznawania treści pornograficznych i nielegalnych na filmach. Przeprowadzono testy skuteczności klasyfikacji na danych neutralnych legalnej i nielegalnej pornografii. W artykule wskazano również związane z tym tematem badawczym problemy, które wynikają z charakterystyki danych. Ponadto zwrócono uwagę na konieczność dalszych prac nad zapewnianiem bezpieczeństwa dzieci w cyberprzestrzeni.
EN
The paper describes one of the methods of automatic recognition of CSAM materials, which was tested during the research under the APAKT project. The proposed solution is based on Temporal Shift Module (TSM), a model of a deep neural network created for efficient human activities rocognition in video. We applied transfer learning method for training the model with a relatively small number of training data to succesfully rocognize films with pornografic and illegal content. We conducted some tests of classification of films from three categories: neutral films, legal pornography and illegal pornografic videos (CSAM). In this paper we present problems that are connected with this research topic that come from the characteristic of the data. We also show that further works are needed to keep children safe in cyberspace.
JavaScript jest wyłączony w Twojej przeglądarce internetowej. Włącz go, a następnie odśwież stronę, aby móc w pełni z niej korzystać.