Asystenci AI mogą stać się narzędziem hakerów. Badacze ostrzegają przed nowym typem ataków
Asystenci AI z funkcją przeglądania sieci mogą służyć do ukrytej komunikacji ze złośliwym oprogramowaniem. Badacze z Check Point Research udowodnili, że mogą one pełnić rolę pośrednika w atakach. Taki ruch do złudzenia przypomina zwykłe korzystanie z czata.
W wielu firmach korzystanie z narzędzi sztucznej inteligencji stało się codziennością i traktuje się je jako naturalny, zaufany ruch w sieci. Eksperci do spraw cyberbezpieczeństwa ostrzegają jednak, że to zaufanie może w przyszłości zostać wykorzystane przez cyberprzestępców. Złośliwa komunikacja może upodobnić się do standardowych zapytań użytkowników, takich jak prośby o podsumowanie strony internetowej czy sprawdzenie linku. W ten sposób wymiana danych nie przypomina klasycznego ataku ani kontaktu z podejrzanym serwerem, co znacznie utrudnia jej wykrycie.
Specjaliści z Check Point Research przeprowadzili kontrolowane testy, aby w praktyce sprawdzić tę hipotezę. Badania, w których wykorzystano między innymi asystentów Grok oraz Microsoft Copilot, potwierdziły, że platformy pobierające treści z internetu mogą działać jako pośrednicy. Złośliwe oprogramowanie, zamiast łączyć się bezpośrednio z serwerem dowodzenia, może ukrywać swoją aktywność w interakcjach ze sztuczną inteligencją. Taki mechanizm sprawia, że programy mogą zbierać dane o środowisku i dostosowywać do nich swoje kolejne działania, stając się trudniejszymi do przewidzenia. Jak zaznaczają badacze, nie jest to wada konkretnego oprogramowania, ale problem wynikający z rosnącej zależności od usług uchodzących za bezpieczne.
Eksperci zalecają, aby firmy przestały automatycznie traktować ruch generowany przez sztuczną inteligencję jako całkowicie wolny od zagrożeń. Szef działu badań w Check Point Research, Eli Smadja, wskazuje, że hakerzy nie muszą już budować skomplikowanej infrastruktury, ponieważ często wystarczy im dostęp do powszechnie zaufanych usług. Smadja podkreśla, że w celu zachowania bezpieczeństwa organizacje powinny monitorować ten ruch z taką samą uwagą jak inne kanały wysokiego ryzyka oraz wdrożyć rygorystyczne zasady korzystania z tego typu funkcji.
Obecnie analitycy nie zaobserwowali jeszcze wykorzystania tej metody w rzeczywistych atakach. Publikacja wyników jest ostrzeżeniem wyprzedzającym, o którym poinformowano już zainteresowane strony. Na ustalenia badaczy zareagował Microsoft, który potwierdził te wnioski i wdrożył odpowiednie zmiany w sposobie pobierania treści z sieci przez asystenta Copilot.
