Fake mirroring in cyberspace as a disinformation tool – doppelgangers and deepfakes

• Autorzy: Gergelewicz Tomasz

Identyfikatory

DOI

10.35467/cal/188396

Warianty tytułu

PL

Fałszywe odbicie lustrzane w cyberprzestrzeni jako narzędzie dezinformacji

• Języki publikacji: EN

Abstrakty

EN

The article aims to present two hostile tools employed in the cybersphere against internet users. The first one is doppelganger, and the second one is deepfake. The paper highlights some examples of using both to influence the social cognitive dimension in the infosphere. Diagrams and charts presented in the article depict the vast scope between society and the media, which is the main source of information and the nest for disinformation. The article discusses the use of artificial intelligence for hostile purposes and the possible means by which to gain resilience against disinformation.

PL

Intencją autora artykułu jest przedstawienie dwóch wrogich narzędzi stosowanych w cyberprzestrzeni przeciwko użytkownikom internetu. Pierwsze z nich to doppelgänger, a drugie to deepfake. W artykule wskazał przykłady wykorzystania obu metod dezinformacyjnych do oddziaływania na społeczny wymiar poznawczy w infosferze. Zaprezentowane w artykule diagramy i wykresy obrazują rozległy zakres relacji społeczeństwa z mediami, które w istocie są zarówno głównym źródłem informacji, jak i siedliskiem dezinformacji. Autor pokazał wykorzystanie sztucznej inteligencji do wrogich celów oraz konkretne kroki, jakie można podjąć, żeby uzyskać odporność na dezinformację.

Słowa kluczowe

EN

information operations; artificial intelligence; disinformation; doppelganger; deepfake; social resilience

PL

operacje informacyjne; sztuczna inteligencja; dezinformacja; doppelgänger; deep fake; odporność społeczna

• Wydawca: Akademia Sztuki Wojennej
• Czasopismo: Cybersecurity and Law
• Rocznik: 2024
• Tom: Vol. 11 (1)
• Strony: 162--184
• Opis fizyczny: Bibliogr. 39 poz., rys., tab., wykr.

Twórcy

autor

Gergelewicz Tomasz

• Ministry of National Defense

• https://orcid.org/0000-0002-9145-5099

Bibliografia

• 1. Alaphilippe A., Machado G., Miguel R., Poldi F., Doppelganger Media clones serving Russian propaganda, https://www.disinfo.eu/wp-content/uploads/2022/09/Doppelganger-1.pdf [access: 22.12.2023].
• 2. Analiza środowiska bezpieczeństwa w perspektywie 2035 roku, eds. J. Mokrzycki, R. Reczkowski, S. Cieśla, Bydgoszcz 2020.
• 3. Antonyuk D., Russian-linked Doppelganger social media operation rolls on, https://therecord.media/ doppelganger-influence-operation-new-activity [access: 11.01.2024].
• 4. Artificial Intelligence in Defence. Joint Quest for Future Defence Applications, „European Defence Matters” 2020, no. 19.
• 5. Atak klonów. Dezinformacja pod przykrywka prawdziwych stron, https://demagog.org.pl/analizy_ i_raporty/atak-klonow-dezinformacja-pod-przykrywka-prawdziwych-stron/ [access: 18.10.2023].
• 6. Berzina K., Soula E., Conceptualizing Foreign Interference in Europe, https://securingdemocracy. gmfus.org/wp-content/uploads/2020/03/Conceptualizing-Foreign-Interference-in- Europe.pdf [access: 19.12.2023].
• 7. Bond S., Meta says Chinese, Russian influence operations are among the biggest it’s taken down, https://www.npr.org/2023/08/29/1196117574/meta-says-chinese-russian-influence-operations-are-among-the-biggest-its-taken-d [access: 23.11.2023].
• 8. Bourdas A., Disinformation in France: A Strategy of Information Warfare in the Digital Age, https://dspace.cuni.cz/bitstream/handle/20.500.11956/187319/120456400. pdf?sequence=1&isAllowed=y [access: 13.01.2024].
• 9. Chałubińska-Jentkiewicz K., Karpiuk M., Kostrubiec J., The Legal Status of Public Entities in the Field of Cybersecurity in Poland, Maribor 2021.
• 10. Chene M., Operation Doppelgänger: how Russia spread fake news in France, https://insightnews. media/operation-doppelganger-how-russia-spread-fake-news-in-france/ [access: 13.01.2024].
• 11. Comprehensive cyber security action plan 2019–2022, https://www.msb.se/siteassets/dokument/ publikationer/english-publications/comprehensive-cyber-security-action-plan-2019- 2022-march-2019.pdf [access: 18.12.2023].
• 12. For trust and security in cyberspace, https://pariscall.international/en/ [access: 11.01.2024].
• 13. Fouré A., Operation Döppelganger: how Russia continues to flood Europe with false information, https://iptwins.com/2023/06/15/operation-doppelganger-how-russia-continues-to-flood-europe-with-false-information/ [access: 7.01.2024].
• 14. France’s detection of an information manipulation campaign, https://mt.ambafrance.org/France-s-detection-of-an-information-manipulation-campaign [access: 10.01.2024].
• 15. Gergelewicz T., Obszary budowania odporności na dezinformację jako element bezpieczeństwa infosfery, „Cybersecurity and Law” 2022, no. 1.
• 16. Global Trends 2040: A more contested world, Washington 2021.
• 17. Guilbeault M., Désinformation russe: qu’est-ce que l’„opération Doppelgänger”?, https:// www.la-croix.com/Culture/Desinformation-russe-quest-operation-Doppelgang er-2023-06-14-1201271493 [access: 21.01.2024].
• 18. Hodun M., Cappelletti F., Putin’s Europe, https://liberalforum.eu/wp content/uploads/2023/12/ putins_europe_www-FINAL.pdf [access: 4.01.2024].
• 19. Kayali L., Caulcutt C., France exposes mega Russian disinformation campaign, https://www.politico. eu/article/france-accuses-russia-of-wide-ranging-disinformation-campaign/ [access: 12.11.2023].
• 20. Leloup D., Reynaud F., ‘Doppelgänger’: The making of a Russian disinformation operation, https:// www.lemonde.fr/en/pixels/article/2023/06/14/doppelganger-the-making-of-a-russian-disinformation-operation_6031599_13.html [access: 27.09.2023].
• 21. Lim R., Disinformation as a Global Problem – Regional Perspectives, Riga 2020.
• 22. Meta Fights Sprawling Chinese ‘Spamouflage’ Operation, https://www.voanews.com/a/meta-fights-sprawling-chinese-spamouflage-operation/7246057.html [access: 13.01.2024].
• 23. Nurski M., Apka do robienia deepfake’ów to murowany hit. Doublicat wstawi Twoją twarz do filmu, https://komorkomania.pl/38335,apka-do-robienia-deepfake-ow-wstaw-swoja-twarz-do-filmu [access: 9.12.2023].
• 24. Obfuscation and AI Content in the Russian Influence Network „Doppelganger” Signals Evolving Tactics, https://go.recordedfuture.com/hubfs/reports/ta-2023-1205.pdf [access: 14.01.2024].
• 25. Oien A., China’s Spamouflage Disinformation Campaigns: A Threat to Private Business?, https:// www.geopoliticalmonitor.com/chinas-spamouflage-disinformation-campaigns-a-threat-to-private-business/ [access: 11.01.2024].
• 26. Opération Doppelgänger: vaste campagne de désinformation russe ciblant des médias français, Monde 2023, https://www.challenges.fr/monde/operation-doppelganger-vaste-campagne-de-desinformation-russe-ciblant-des-medias-francais_858522 [access: 15.01.2024].
• 27. Papiernik O., Największa operacja propagandowa chińskich służb zakłócona przez... Zuckerberga, https://technologia.dziennik.pl/aktualnosci/artykuly/9286660,najwieksza-operacja-propagandowa-chinskich-sluzb-zaklocona-przez-zu.html [access: 22.11.2023].
• 28. Pro-Kremlin Network Impersonates Legitimate Websites and Floods Social Media with Lies, https:// www.isdglobal.org/digital_dispatches/pro-kremlin-network-impersonates-legitimate-websites-and-floods-social-media-with-lies/ [access: 4.11.2023].
• 29. Russia’s AI-Powered Disinformation Operation Targeting Ukraine, U.S., and Germany, https:// thehackernews.com/2023/12/russias-ai-powered-disinformation.html [access: 11.01.2024].
• 30. Sivesind C., Fake Celebrity Quotes Target Ukraine in Russian Propaganda Campaign, https:// www.secureworld.io/industry-news/fake-celebrity-quotes-ukraine-russian-propaganda [access: 14.01.2024].
• 31. Snippe E., Tar J., Sztuczna inteligencja wystawia wiarygodność mediów na próbę, https:// www.euractiv.pl/section/gospodarka/infographic/sztuczna-inteligencja-wystawia-wiarygodnosc-mediow-na-probe/ [access: 6.01.2024].
• 32. The Future of Law and eTechnologies, eds. T. Kerikmäe, A. Rull, Cham 2016.
• 33. Tolosana R., DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection, „Journal of Latex Class Files” 2016, vol. 13, no. 9.
• 34. Typosquatting – co to jest i dlaczego jest niebezpieczny?, Fiberlink, https://fiberlink.pl/blog/ typosquatting-co-to-jest-i-dlaczego-jest-niebezpieczny/ [access: 6.01.2024].
• 35. War in Ukraine:what is Russia’s Doppelgänger operation that angers France, https://www. reddit.com/r/europeanunion/comments/1492tdq/war_in_ukraine_what_is_russias_ operation/?rdt=48815 [access: 13.01.2024].
• 36. Wasiuta O., Wasiuta S., Deepfake jako skomplikowana i głęboko fałszywa rzeczywistość, „Annales Universitatis Paedagogicae Cracoviensis. Studia de Securitate” 2019, no. 3.
• 37. Właściciel Facebooka zakłócił operację propagandową chińskich służb. Wziął się też za rosyjskie konta, https://businessinsider.com.pl/technologie/wlasciciel-facebooka-zaklocil-operacje-propagandowa-chinskich-sluzb-wzial-sie-tez-za/bdt9emc [access: 12.01.2024].
• 38. Wolska A., Francja udaremniła rosyjski atak dezinformacyjny, https://www.euractiv.pl/section/ bezpieczenstwo-i-obrona/news/francja-udaremnila-rosyjski-atak-dezinformacyjny/ [access: 10.01.2024].
• 39. Żychowski A., Metody wykrywania nagrań typu deepfake, https://pages.mini.pw.edu. pl/~mandziukj/2020-10-28.pdf [access: 9.12.2023].

Uwagi

Opracowanie rekordu ze środków MNiSW, umowa nr SONP/SP/546092/2022 w ramach programu "Społeczna odpowiedzialność nauki" - moduł: Popularyzacja nauki i promocja sportu (2024).