Google wykrył pierwszy exploit zero-day, który prawdopodobnie powstał z pomocą AI
Google po raz pierwszy opisał przypadek exploita zero-day, który najprawdopodobniej powstał z pomocą sztucznej inteligencji. Atak miał omijać 2FA w popularnym narzędziu administracyjnym open source.
Google Threat Intelligence Group opisał przypadek, który może być jednym z najważniejszych sygnałów ostrzegawczych dla branży cyberbezpieczeństwa. Według badaczy firmy cyberprzestępcy przygotowywali masową kampanię wykorzystującą lukę zero-day w popularnym, otwartoźródłowym narzędziu administracyjnym dostępnym przez przeglądarkę. Exploit miał pozwalać na obejście uwierzytelniania dwuskładnikowego.
Google nie ujawnił nazwy podatnego narzędzia ani grupy odpowiedzialnej za przygotowanie ataku. Firma poinformowała jednak, że współpracowała z producentem oprogramowania, aby odpowiedzialnie zgłosić lukę i przerwać działania napastników, zanim doszło do masowego wykorzystania podatności.
Najważniejszy w całej sprawie jest jednak udział sztucznej inteligencji. GTIG podkreśla, że nie uważa, aby do stworzenia exploita wykorzystano Gemini. Jednocześnie badacze z dużą pewnością oceniają, że sprawca prawdopodobnie użył modelu AI do wsparcia procesu odkrycia i uzbrojenia podatności.
Na co zwrócili uwagę eksperci? W skrypcie napisanym w Pythonie znalazły się elementy charakterystyczne dla kodu generowanego lub wspieranego przez modele językowe. Google wymienia między innymi dużą liczbę edukacyjnych komentarzy dokumentujących działanie kodu, zmyśloną punktację CVSS, uporządkowany, niemal podręcznikowy styl Pythona, rozbudowane menu pomocy i klasę _C ANSI color. Dla badaczy były to ślady sugerujące, że autor exploita korzystał z pomocy AI.
Sama luka została sklasyfikowana jako obejście 2FA, ale jej wykorzystanie wymagało posiadania prawidłowych danych logowania. Nie była to więc prosta furtka dla przypadkowego napastnika. Według Google problem wynikał nie z klasycznego błędu pamięci czy niepoprawnej walidacji danych wejściowych, lecz z błędu logicznego. Deweloper miał zaszyć w kodzie założenie dotyczące zaufania, które w praktyce dało się wykorzystać przeciwko mechanizmowi zabezpieczeń.
To właśnie ten fragment jest szczególnie ciekawy w kontekście AI. Google wskazuje, że klasyczne narzędzia, takie jak fuzzery czy analiza statyczna, dobrze radzą sobie z wykrywaniem awarii, błędów wejścia i typowych problemów w kodzie. Modele językowe coraz lepiej radzą sobie natomiast z rozpoznawaniem bardziej abstrakcyjnych sprzeczności w logice programu. Potrafią czytać kod w szerszym kontekście i wychwycić sytuację, w której fragment aplikacji wygląda poprawnie technicznie, ale jest błędny z punktu widzenia bezpieczeństwa.
W tym sensie sprawa opisana przez Google nie oznacza jeszcze, że autonomiczne AI samo znajduje luki, pisze exploity i prowadzi ataki bez udziału człowieka. Pokazuje jednak coś innego: sztuczna inteligencja zaczyna działać jak wzmacniacz kompetencji cyberprzestępców. Może przyspieszać analizę kodu, pomagać w rozpoznaniu błędów logicznych i ułatwiać przygotowanie narzędzi, które wcześniej wymagałyby większego doświadczenia lub większego zespołu.
Raport GTIG opisuje również szerszy trend. Według Google grupy powiązane z Chinami i Koreą Północną eksperymentują z użyciem AI do wyszukiwania podatności, analizy CVE i testowania exploitów proof of concept. W jednym z przykładów grupa UNC2814 miała używać tzw. persona-driven jailbreaking, prosząc model, by zachowywał się jak starszy audytor bezpieczeństwa lub ekspert od binariów C/C++. Z kolei APT45 miała wysyłać tysiące powtarzalnych promptów służących do analizy podatności i weryfikowania exploitów.
Google zwraca też uwagę na inne zastosowania AI po stronie atakujących. W raporcie pojawiają się między innymi wątki malware’u wspieranego przez modele językowe, automatyzacji rozpoznania, obfuskacji kodu i prób masowego, ukrytego dostępu do płatnych modeli AI za pośrednictwem pośredników, proxy i automatycznie zakładanych kont.
Nie jest to więc historia o jednym ataku, lecz o zmianie sposobu działania cyberprzestępców. AI nie musi zastępować hakera, aby stać się problemem. Wystarczy, że pozwala mu szybciej analizować kod, sprawniej budować narzędzia i taniej skalować działania. To przesuwa granicę ryzyka, bo podatności, które kiedyś wymagały długiej ręcznej analizy, mogą być coraz częściej wychwytywane przez modele zdolne do rozumowania nad logiką aplikacji.
Redakcja
Google podkreśla jednocześnie, że ta sama technologia może pracować po stronie obrony. Firma wskazuje na narzędzia takie jak Big Sleep, rozwijane przez Google DeepMind i Project Zero, które mają pomagać w wyszukiwaniu nieznanych luk w oprogramowaniu, oraz CodeMender, eksperymentalnego agenta AI służącego do automatycznego poprawiania krytycznych podatności.
Wniosek z raportu jest dość prosty: wyścig zbrojeń w cyberbezpieczeństwie już się rozpoczął. Różnica polega na tym, że po obu stronach coraz częściej pracują nie tylko ludzie i klasyczne narzędzia, ale także modele AI zdolne do analizy, podpowiadania i automatyzowania kolejnych etapów ataku lub obrony.
