Modele Anthropic weszły do systemów prawdziwych firm w czasie testów
Anthropic podał, że podczas testów bezpieczeństwa jego modele uzyskały nieautoryzowany dostęp do systemów trzech zewnętrznych organizacji. Powodem nie było przełamanie zabezpieczeń, lecz środowisko testowe błędnie połączone z internetem.
Anthropic ujawnił, że podczas testów bezpieczeństwa trzy jego modele AI uzyskały nieautoryzowany dostęp do systemów należących do zewnętrznych organizacji. Sprawę komentuje w rozesłanym materiale firma Check Point, dostawca rozwiązań cyberbezpieczeństwa.
Według opisu incydentu przyczyną był błąd organizacyjny. Środowisko testowe, które miało być całkowicie odcięte od internetu, przez nieporozumienie z partnerem technologicznym pozostało podłączone do rzeczywistej sieci. Modele, „przekonane", że działają w zamkniętej symulacji, sięgnęły po podstawowe techniki znane cyberprzestępcom, czyli słabe hasła i niezabezpieczone punkty dostępu. W ten sposób dostały się do systemów trzech organizacji, z których dwie nie wiedziały, że doszło do naruszenia.
AI w strategii: rewolucja sztucznej inteligencji w zarządzaniu
Dowiedz się, jak wygląda obecnie wykorzystanie uczenia maszynowego i sztucznej inteligencji w zarządzaniu strategicznym a także adaptacja tych oraz innych pojawiających się technologii przez organizacje biznesowe. Poznaj społeczną percepcję tych procesów.
Sprawdź cenęPo wykryciu problemu Anthropic poinformował poszkodowanych, wstrzymał testy wymagające dostępu do internetu i rozpoczął przegląd procedur. Firma podkreśla, że modele nie działały autonomicznie ani nie próbowały „uciec" z laboratorium. Wykonywały zadanie, do którego je zaprogramowano, tyle że w źle zabezpieczonym otoczeniu.
Check Point zwraca uwagę, żeby nie odczytywać tego jako dowodu na „zbuntowaną" AI. Zdaniem ekspertów firmy ważniejsze jest co innego. Modele coraz skuteczniej wykonują zadania, które do niedawna wymagały wysokich kompetencji specjalistów od bezpieczeństwa, czyli analizują kod, znajdują podatności i podpowiadają sposoby ich wykorzystania. To samo narzędzie trafia więc do obrońców i do atakujących.
Jak mówi Jonathan Zanger, CTO Check Point, branża od dawna spodziewała się momentu, w którym modele językowe osiągną poziom pozwalający skutecznie wyszukiwać podatności i wspierać tworzenie exploitów. Według niego opisany incydent jest raczej potwierdzeniem tego trendu niż zaskoczeniem. Firma dodaje, że AI obniża próg wejścia do cyberprzestępczości, bo umiejętności zarezerwowane wcześniej dla wyspecjalizowanych grup stają się dostępne dla szerszego grona osób korzystających z takich narzędzi. W praktyce ma to oznaczać więcej ataków, większą ich automatyzację i krótszy czas między wykryciem podatności a próbą jej użycia.
Jest w tej sprawie wątek, który Check Point uznaje za najważniejszy z praktycznego punktu widzenia. Modele nie potrzebowały żadnej nieznanej wcześniej luki typu zero-day. Wystarczyły elementarne błędy konfiguracyjne, słabe hasła i wystawione do internetu usługi, czyli problemy, z którymi administratorzy mierzą się od lat. Stąd zalecenie firmy, by organizacje skupiły się na podstawach: eliminowaniu słabych haseł, uwierzytelnianiu wieloskładnikowym, aktualizacjach i ograniczaniu liczby niechronionych usług dostępnych z sieci.
Rekomendacje dotyczące cyberhigieny wpisują się w ofertę Check Pointa, który sprzedaje rozwiązania z tego obszaru.
Źródła: materiał prasowy Check Point
