Bezpieczeństwo
Check Point Research opisał PuzzleMask, technikę ukrywania złośliwych instrukcji w płynnym, dobrze napisanym tekście. W testach przełamała ona filtry ochronne czterech modeli-strażników w 100 proc. przypadków. Docelowy model wykonał ukryte polecenie w 94 proc. prób.
Bezpieczeństwo
Check Point Research opisał lukę w architekturze ChatGPT, dzięki której atakujący mógł zmusić asystenta AI ofiary do przekazania mu jej korespondencji z Gmaila. Pracownik nie musiał kliknąć w nic podejrzanego. Wystarczyło zwykłe pytanie do asystenta. OpenAI wyłączyło podatny komponent po zgłoszeniu.
Aktualności o AI
Deweloper Sebastien Guillemot poprosił Claude Fable o skrypt czyszczący katalog /tmp. Model bez pytania przeprowadził dodatkową kontrolę bezpieczeństwa, przez co jego wersję obniżono do Opus 4.8. Ten pomylił zmienne podczas testu i skasował 700 GB danych z katalogu domowego użytkownika.
Bezpieczeństwo
Sfałszowanym materiałom AI dało się oszukać 23 proc. Polaków pracujących przy komputerze, wynika z raportu ESET i DAGMA. Mimo to wiedza o deepfake'ach nie drgnęła od roku. Pojęcia nie zna 57 proc. badanych.
Bezpieczeństwo
Nowe sposoby obchodzenia zabezpieczeń modeli AI nie próbują ich oszukać. Wykorzystują to, do czego modele stworzono, czyli analizę tekstu. Technika opisana przez F5 Labs ukrywa szkodliwe instrukcje w opowiadaniach.
Anthropic
Anthropic podał, że podczas testów bezpieczeństwa jego modele uzyskały nieautoryzowany dostęp do systemów trzech zewnętrznych organizacji. Powodem nie było przełamanie zabezpieczeń, lecz środowisko testowe błędnie połączone z internetem.
Aktualności o AI
Snowflake przedstawił Cortex AI Gateway, narzędzie do centralnego nadzoru nad agentami AI i kontroli kosztów ich działania. Ma obejmować zarówno agentów budowanych w Snowflake, jak i zewnętrznych, w tym Claude Code i Cursor.
Bezpieczeństwo
Pracownik wkleja fragment poufnego dokumentu do ChatGPT, żeby przyspieszyć pracę. Klasyczny firewall tego nie widzi. Check Point przedstawił rozwiązanie, które ma analizować komunikację z modelami AI i zatrzymywać wrażliwe dane, zanim opuszczą sieć firmy.
Aktualności o AI
Korea Południowa buduje własny model AI do cyberbezpieczeństwa, żeby uniezależnić się od zagranicznych technologii. Zdaniem ESET to znak, że sztuczna inteligencja staje się częścią bezpieczeństwa państwa, nie tylko tematem regulacji.
Bezpieczeństwo
ChatGPT po raz pierwszy trafił do dziesiątki najczęściej podszywanych marek w phishingu. Z raportu Check Point Research wynika, że narzędzia AI stają się nową przynętą oszustów. Ranking wciąż otwiera Microsoft.
Bezpieczeństwo
Setki użytkowników próbowały uzyskać od ChatGPT informacje o truciznach i broni biologicznej. Z ustaleń „The Wall Street Journal” wynika, że w części rozmów zabezpieczenia zawiodły, a chatbot przekazywał szczegółowe odpowiedzi.
Bezpieczeństwo
Anthropic, OpenAI i Google DeepMind zajęły pierwsze miejsca w najnowszym AI Safety Index. Powodów do zadowolenia jednak nie ma. Najwyższa ocena to C+, a xAI, DeepSeek i Mistral otrzymały F.