Co czwarty polski pracownik nabrał się na fałszywkę AI. Wiedza o deepfake'ach stoi w miejscu
Sfałszowanym materiałom AI dało się oszukać 23 proc. Polaków pracujących przy komputerze, wynika z raportu ESET i DAGMA. Mimo to wiedza o deepfake'ach nie drgnęła od roku. Pojęcia nie zna 57 proc. badanych.
Sztuczna inteligencja tworzy dziś nagrania wideo i audio trudne do odróżnienia od prawdziwych, a przestępcy używają ich do wyłudzania danych i pieniędzy. Z raportu „Cyberportret polskiego biznesu" firm ESET i DAGMA Bezpieczeństwo IT wynika, że 23 proc. Polaków pracujących przy komputerze dało się już oszukać sfałszowanym materiałom. Mimo rosnącej liczby takich incydentów wiedza o samym zjawisku nie rośnie. Pojęcia deepfake nie zna 57 proc. badanych, wobec 58 proc. rok wcześniej.
Deepfake, czyli materiał cyfrowo zmanipulowany przez AI, przestał być kojarzony wyłącznie z internetową rozrywką i aferami politycznymi. Według raportu 9 proc. pracowników zetknęło się na służbowym sprzęcie z realną próbą oszustwa, w której ktoś podszył się pod współpracownika lub kontrahenta, używając sklonowanego głosu albo wizerunku znanej im osoby.
Skalę zjawiska pokazuje przykład Google Earth, przywołany w materiale. Firma zintegrowała z platformą generator obrazów Nano Banana 2, pozwalający tworzyć fikcyjne obrazy na bazie prawdziwych zdjęć satelitarnych, lotniczych i modeli 3D. Jak podaje ESET za BBC, dziennikarze BBC Verify wygenerowali między innymi zawaloną wieżę Eiffla, a Google przyznał, że część udostępnianych treści zdawała się naruszać zasady platformy. Niespełna 48 godzin po ogłoszeniu integracji firma wstrzymała funkcję, tłumacząc to pracami nad mocniejszymi zabezpieczeniami.
To jest link afiliacyjny. Kupując za jego pomocą, wspieracie moją pracę i rozwój bloga, a cena dla Was i tak pozostaje bez zmian.
Pracownicy nie czują się przygotowani na takie oszustwa. Rozpoznania treści stworzonej przez AI nie jest pewnych 70 proc. badanych. Problemem przestaje być więc sama nieznajomość terminu, bo nawet osoby, które wiedzą, czym jest deepfake, nie czują się na siłach, żeby go wychwycić. Za tym idzie konkretna obawa: 57 proc. liczy się z kradzieżą tożsamości przy użyciu ataków wspieranych przez AI.
Jak mówi Dawid Koziorowski z DAGMA Bezpieczeństwo IT, zbliżamy się do momentu, w którym głos rozmówcy po drugiej stronie telefonu może być cyfrowym klonem, a jedyną stałą zasadą pozostaje potwierdzanie u źródła każdego działania wpływającego na bezpieczeństwo danych.
Od 2 sierpnia obowiązują przepisy AI Act nakładające obowiązek oznaczania treści generowanych przez algorytmy i podwyższone wymogi wobec systemów tworzących deepfaki. Autorzy materiału zaznaczają, że przestępców to nie powstrzyma, bo ci przepisów nie stosują. Wpływ regulacji widzą raczej pośredni: częstszy kontakt z oznaczeniem „treść wygenerowana przez AI" i towarzysząca temu dyskusja mogą z czasem budować czujność, zwłaszcza u ponad połowy, która dziś nie zna pojęcia deepfake.
Juraj Jánošík z ESET argumentuje, że phishing generowany przez AI i deepfaki przestały być scenariuszami hipotetycznymi, więc potrzebne jest połączenie lepszej detekcji, uwagi na nietypowe wzorce komunikacji i wiedzy pracowników o tym, na co zwracać uwagę. Materiał firmują ESET i DAGMA, dostawcy rozwiązań i szkoleń z cyberbezpieczeństwa, więc nacisk na szkolenia i symulacje ataków wiąże się z ich ofertą.
Źródła: informacja prasowa ESET i DAGMA Bezpieczeństwo IT
