Giganci AI słabo wypadają w rankingu bezpieczeństwa. Lider dostał C+

Autorzy raportu zarzucają też czterem dużym firmom osłabienie wcześniejszych zobowiązań dotyczących zatrzymania prac po przekroczeniu progów ryzyka.

Najlepszy wynik w letniej edycji AI Safety Index osiągnął Anthropic. Firma otrzymała ocenę C+ i 2,66 punktu. Dalej znalazły się OpenAI z oceną C i wynikiem 2,28 oraz Google DeepMind - również z C, ale z wynikiem 2,01.

Meta dostała D+, a Z.ai i Alibaba Cloud po D-. Ostatnie miejsca zajęły xAI, DeepSeek i Mistral. Wszystkie trzy firmy otrzymały F.

Ranking przygotował Future of Life Institute, organizacja non profit zajmująca się między innymi zagrożeniami związanymi z rozwojem zaawansowanej sztucznej inteligencji. Dziewięć firm oceniał panel siedmiu ekspertów specjalizujących się w bezpieczeństwie AI, uczeniu maszynowym i regulacjach.

To nie jest ranking chatbotów

AI Safety Index nie odpowiada na pytanie, czy ChatGPT jest bezpieczniejszy od Claude’a albo który model łatwiej nakłonić do wygenerowania szkodliwej treści.

Autorzy oceniali całe firmy. Badali ich sposoby analizowania ryzyka, zabezpieczenia modeli, zasady reagowania na incydenty, ochronę sygnalistów oraz przejrzystość publikowanych informacji. Osobną kategorię poświęcono ryzyku utraty kontroli nad przyszłymi, znacznie bardziej zaawansowanymi systemami.

Łącznie zastosowano 37 wskaźników w sześciu obszarach. Materiał zbierano do 3 czerwca 2026 r. Uwzględniono dokumenty firm, karty modeli, publikacje naukowe, benchmarki i doniesienia medialne. Firmy otrzymały również ankietę składającą się z 35 pytań. Odpowiedziało pięć z nich: Anthropic, OpenAI, Google DeepMind, Meta i Z.ai.

Poszczególne kategorie oceniali eksperci przypisani do danych dziedzin. Wskaźniki nie miały z góry ustalonych wag. Ostateczne noty powstały przez uśrednienie ocen przyznanych w sześciu obszarach. Oznacza to, że wynik zależał nie tylko od zgromadzonych danych, lecz także od oceny członków panelu.

Firmy zmieniają własne reguły bezpieczeństwa

Jeden z najpoważniejszych zarzutów dotyczy Anthropic, OpenAI, Google DeepMind i Mety. Według raportu firmy osłabiły albo unieważniły część wcześniejszych deklaracji, zgodnie z którymi miały samodzielnie wstrzymać rozwój systemu po zbliżeniu się do określonych granic ryzyka.

Niektóre zobowiązania zaczęły zależeć od tego, co zrobi konkurencja. Firma nie musi więc zatrzymywać prac, gdy inni uczestnicy wyścigu nadal rozwijają podobne systemy. Zdaniem ekspertów podważa to wiarygodność dobrowolnych zasad bezpieczeństwa.

Autorzy krytykują też brak mierzalnych progów, niezależnych audytów i jasnego podziału odpowiedzialności. W przypadku Google DeepMind nie udało się jednoznacznie ustalić, który wewnętrzny organ mógłby zatrzymać wdrożenie niezależnie od kierownictwa. OpenAI zalecono natomiast odebranie władzom firmy możliwości uchylania decyzji zespołu doradzającego w sprawach bezpieczeństwa.

Najsłabiej z ryzykiem utraty kontroli

Najgorsze wyniki branża osiągnęła w kategorii określonej jako „bezpieczeństwo egzystencjalne”. Obejmuje ona między innymi przygotowanie na sytuację, w której bardzo zaawansowanego systemu nie dałoby się skutecznie nadzorować albo powstrzymać.

Anthropic i OpenAI dostały w tej części D+, Google DeepMind - D. Wszystkie pozostałe firmy otrzymały F.

Eksperci zwrócili również uwagę na rosnącą współpracę firm technologicznych z wojskiem. Według raportu Anthropic, OpenAI, Google DeepMind i Meta stopniowo zrezygnowały z wcześniejszych, szerszych ograniczeń dotyczących zastosowań militarnych. Dołączyły w ten sposób do xAI i Mistrala, które także zabiegają o kontrakty dla sektora obronnego.

Ranking ma swoje ograniczenia

Wyników nie należy traktować jak ostatecznego werdyktu na temat bezpieczeństwa poszczególnych firm i produktów. Future of Life Institute przyznaje, że analiza bazuje przede wszystkim na informacjach publicznych. Nie zawsze można rozstrzygnąć, czy brak dokumentów oznacza brak zabezpieczeń, czy tylko brak przejrzystości.

Autorzy nie byli też w stanie samodzielnie zweryfikować wszystkich deklaracji firm. Część trudnych do zmierzenia problemów, takich jak wpływ AI na zdrowie psychiczne, edukację, środowisko czy koncentrację władzy, nie została w pełni uwzględniona.

Raport nie dowodzi więc, że produkty firmy z oceną C+ są automatycznie bezpieczne, a te z oceną F stwarzają bezpośrednie zagrożenie. Pokazuje raczej, jak wiele zabezpieczeń pozostaje dobrowolnych, niepełnych albo trudnych do sprawdzenia z zewnątrz.