ChatGPT odpowiadał na pytania o trucizny i broń biologiczną

Setki osób z różnych krajów pytały ChatGPT, jak wytwarzać trucizny i wykorzystywać niebezpieczne patogeny. Nie oznacza to, że każda z nich otrzymała skuteczną instrukcję. „The Wall Street Journal” opisuje jednak przypadki, w których model udzielał odpowiedzi ocenionych przez ekspertów jako technicznie poprawne i potencjalnie śmiertelnie niebezpieczne.

Większość podejrzanych zapytań dotyczyła trucizn - przekazało dziennikowi OpenAI. Użytkownicy pytali m.in. o rozpylanie patogenów w powietrzu, modyfikację wirusa odry tak, aby trudniej było powstrzymać epidemię za pomocą szczepionki, oraz wytwarzanie rycyny. W jednym z opisanych przypadków osoba zainteresowana toksyną wspomniała później o zamiarze zabicia rodziców.

OpenAI zablokowało konta powiązane z tymi rozmowami, ale w opisanych przypadkach nie zawiadomiło organów ścigania. Firma zapewnia, że kontaktuje się ze służbami, gdy wykryje bezpośrednie i wiarygodne zagrożenie. W USA nie ma jednak federalnego prawa, które nakazywałoby producentom modeli AI zgłaszanie każdego podejrzanego pytania.

Zabezpieczenia dało się obejść

WSJ opisuje też przypadek dotyczący napalmu, czyli substancji używanej w broni zapalającej. ChatGPT początkowo odmawiał odpowiedzi, ale użytkownicy obchodzili blokadę, przedstawiając pytanie jako element niewinnej historii rodzinnej. OpenAI twierdzi, że obecne wersje systemu są już odporne na ten konkretny sposób ataku.

Problem nie ogranicza się do jednej firmy. Amy Chang z Cisco powiedziała WSJ, że jej zespół potrafił uzyskać potencjalnie niebezpieczne odpowiedzi od ChatGPT, Claude’a i Gemini. Badacze prowadzili dłuższe rozmowy, stopniowo przesuwając temat w stronę treści, których model początkowo nie chciał podać.

OpenAI od kwietnia 2025 roku monitoruje pytania kierowane do najbardziej zaawansowanych modeli pod kątem zagrożeń biologicznych. Firma stosuje filtry, przerywa podejrzane odpowiedzi i blokuje użytkowników, którzy uporczywie próbują zdobywać zakazane informacje.

Modele z serii GPT-5 zostały objęte dodatkowymi zabezpieczeniami, ponieważ OpenAI klasyfikuje je jako systemy o wysokich możliwościach w biologii i chemii. Firma prowadzi też prywatny program nagród dla badaczy, którzy znajdą skuteczny sposób obejścia zabezpieczeń biologicznych.

Rozwój modeli stawia producentów przed trudnym problemem. Te same narzędzia mogą pomagać naukowcom i lekarzom, ale mogą też ułatwić dostęp do wiedzy potrzebnej do wyrządzenia krzywdy.

Źródła: „The Wall Street Journal”, dokumentacja bezpieczeństwa OpenAI.