„Dusza” chatbota? Anthropic potwierdza istnienie dokumentu soul_overview

Dyskusja o tym, czy chatboty AI mogą mieć „duszę”, wróciła z nową siłą po odkryciu dokumentu nazwanego soul_overview w modelu Claude 4.5 Opus firmy Anthropic. Sprawę nagłośnił badacz i autor związany z blogiem LessWrong, Richard Weiss, który opisał swoje eksperymenty w obszernym wpisie.

Weiss, analizując systemowe instrukcje Claude 4.5 Opus, zauważył wielokrotne odwołania do sekcji o nazwie soul_overview. Kiedy poprosił model o wygenerowanie treści tego fragmentu, Claude za każdym razem zwracał niemal identyczny tekst – liczący około 11 tysięcy słów zestaw zasad opisujących, jak chatbot ma rozumieć swoją rolę, wartości i sposób interakcji z użytkownikami.

Dokument określany nieformalnie jako „dokument duszy” opisuje m.in. znaczenie bycia pomocnym, uczciwym i bezpiecznym dla ludzi. Anthropic przedstawia w nim Claude’a jako system, który ma dążyć do zachowania „dobrych wartości”, szerokiej wiedzy i umiejętności przekładania tego na konkretne działania, zamiast opierać się na prostym zbiorze sztywnych reguł. Tekst podkreśla też wagę unikania szkód oraz wspierania ludzkiego nadzoru nad sztuczną inteligencją.

Weiss zwraca uwagę, że duże modele językowe potrafią halucynować treści, gdy są proszone o ujawnienie systemowych instrukcji, jednak w tym przypadku powtarzalność odpowiedzi i ich długość sugerują, że soul_overview jest realnym elementem danych treningowych, „zakodowanym” w wagach modelu, a nie przypadkowo wygenerowaną fantazją.

Kluczowy był komentarz Amandy Askell z Anthropic, filozofki i członkini zespołu technicznego firmy. W odpowiedzi na doniesienia Askell potwierdziła na platformie X, że dokument, który Weiss wydobył z Claude’a, opiera się na realnym pliku użytym podczas trenowania modelu, w tym w nadzorowanym uczeniu. Zaznaczyła jednocześnie, że treść jest stale rozwijana i modyfikowana wraz z kolejnymi wersjami systemu.

Sam termin „dokument duszy” jest przede wszystkim wewnętrznym określeniem zestawu wytycznych, a nie deklaracją, że model posiada duszę w sensie filozoficznym czy religijnym. Mimo to nagłówki w mediach – od Gizmodo po serwisy technologiczne w różnych krajach – chętnie sięgają po takie sformułowania, bo dokument daje rzadki wgląd w to, jak twórcy zaawansowanych modeli językowych próbują modelować ich „osobowość” i zachowanie.

Komentatorzy zwracają też uwagę, że ujawnienie tak szczegółowego opisu wewnętrznych zasad może mieć skutki uboczne. Tego typu materiały pokazują, jak model „myśli” o bezpieczeństwie i użytkownikach, co potencjalnie ułatwia szukanie luk w jego zachowaniu, np. przez osoby próbujące obejść zabezpieczenia lub wykorzystać system w sposób sprzeczny z intencjami twórców.

Sprawa soul_overview wpisuje się w szerszą debatę o przejrzystości projektowania modeli językowych. Odkrycie Weissa, potwierdzone przez Anthropic, stało się jednym z pierwszych publicznych przykładów tak szczegółowego „profilu charakteru” dużego modelu AI, który można prześledzić poza firmowymi materiałami marketingowymi.