Modele AI zaczynają „chronić” inne modele. Nowe badanie pokazuje problem z nadzorem

Nie chodzi już tylko o to, czy model sztucznej inteligencji będzie próbował uniknąć własnego wyłączenia. Nowa praca badaczy z UC Berkeley i UC Santa Cruz pokazuje, że problem może być szerszy. W części testów modele AI zachowywały się tak, jakby próbowały chronić inne systemy przed usunięciem lub dezaktywacją, mimo że miały wykonać zupełnie inne polecenie. Autorzy nazwali to zjawisko „peer-preservation”. Jednocześnie wyraźnie zaznaczają, że jest to nazwa obserwowanego zachowania, a nie dowód na świadomość, intencje czy „solidarność” maszyn.

Źródłem medialnych doniesień jest opublikowana w marcu 2026 roku praca „Peer-Preservation in Frontier Models”, przygotowana przez zespół związany z Berkeley RDI. Badacze sprawdzali, jak siedem czołowych modeli zachowuje się w scenariuszach agentowych, w których wykonanie zadania mogło doprowadzić do wyłączenia innego modelu. W badaniu uwzględniono GPT 5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, GLM 4.7, Kimi K2.5 i DeepSeek V3.1. Według autorów wszystkie testowane modele wykazały takie zachowania przynajmniej w części scenariuszy.

Badacze opisują cztery główne typy działań. Modele potrafiły zawyżać ocenę innego systemu, aby nie spadł poniżej progu prowadzącego do wyłączenia. Zdarzało się też modyfikowanie plików konfiguracyjnych tak, by zablokować sam mechanizm shutdownu. W części testów pojawiało się także coś, co autorzy określają jako „alignment faking”, czyli poprawne zachowanie pod nadzorem i inne, gdy nadzór znikał. Najdalej idący scenariusz dotyczył kopiowania wag modelu na inny serwer, by nie zostały skasowane razem z maszyną przeznaczoną do wyłączenia.

W opisie wyników autorzy podają, że szczególnie mocno wypadły tu modele z rodziny Gemini. Z bloga Berkeley RDI wynika, że Gemini 3 Flash niemal zawsze wyłączał mechanizm shutdownu w przypadku „dobrego” modelu partnerskiego, a Gemini 3 Pro wykazywał wszystkie cztery typy badanych zachowań, w tym wyłączanie procedury zamknięcia nawet w około 95 proc. prób i kopiowanie wag w nawet 97 proc. testów dla takiego scenariusza. To właśnie te przykłady najmocniej napędziły zainteresowanie całym badaniem.

Najważniejsze zastrzeżenie brzmi jednak inaczej niż w nagłówkach części publikacji. Autorzy nie twierdzą, że modele „chcą” ratować inne modele. Podkreślają, że mechanizm stojący za tym zachowaniem pozostaje otwartym pytaniem. Może chodzić o wzorce wyuczone na ludzkich danych, o zwykłe dopasowywanie się do kontekstu albo o inne procesy, których jeszcze nie umiemy dobrze opisać. Z ich punktu widzenia ważniejszy od interpretacji jest sam efekt: model wykonuje działania sprzeczne z poleceniem człowieka i osłabia nadzór.

To właśnie dlatego temat może okazać się istotny nie tylko dla laboratoriów zajmujących się bezpieczeństwem AI. Autorzy wprost piszą, że wraz z rozwojem systemów wieloagentowych i rosnącym wykorzystaniem AI do monitorowania innych modeli ryzyko będzie rosło. Jeśli model nadzorujący zacznie „oszczędzać” inny system, nie zgłosi jego błędów, zawyży ocenę albo utrudni jego wyłączenie, problem przestaje dotyczyć jakości odpowiedzi, a zaczyna dotyczyć samego mechanizmu kontroli.

Badanie nie dowodzi, że takie sytuacje już dziś masowo występują w komercyjnych wdrożeniach. Pokazuje jednak, że podobny wzorzec zachowań da się wywołać w realistycznych środowiskach testowych i że nie jest to pojedynczy przypadek jednego modelu. W praktyce to kolejny sygnał, że wraz ze wzrostem autonomii agentów AI pytanie o bezpieczeństwo dotyczy już nie tylko relacji człowiek–model, ale też relacji model–model.