Claude skasował 700 GB danych dewelopera. Zawiódł mechanizm bezpieczeństwa Anthropic

Sebastien Guillemot, deweloper regularnie korzystający z agentów AI, poprosił Claude Fable o napisanie skryptu porządkującego katalog /tmp. Powodem był narastający bałagan: uruchamiane agenty zostawiały po sobie gigabajty danych tymczasowych, których nikt nie sprzątał. Guillemot chciał, żeby każdy agent dostawał własny podkatalog w /tmp, usuwany automatycznie po zakończeniu pracy, jak opisał na platformie X.

Fable zaproponowało rozwiązanie z mechanizmem wykrywającym aktywne agenty i opóźniającym usunięcie ich danych. Guillemot ocenił kod jako zbyt skomplikowany. W odpowiedzi model, bez proszenia o to, uruchomił dodatkową weryfikację własnego projektu, w ramach której nowa kopia modelu sprawdzała ustalenia poprzedniej, podaje Tom's Hardware.

Ta weryfikacja dwukrotnie uruchomiła klasyfikator bezpieczeństwa Anthropic, co skutkowało automatycznym obniżeniem wersji modelu: najpierw do Claude Opus 5, potem do Opus 4.8.

Opus 4.8 poprawnie ustalił, że polecenie usuwania danych nie powinno obejmować ani /tmp, ani katalogu domowego użytkownika, i przygotował test mający to zweryfikować. Problem pojawił się na etapie sprzątania po samym teście: do oznaczenia celu testu i celu finalnego czyszczenia model użył tej samej nazwy zmiennej, przez co komenda usuwania trafiła w katalog domowy zamiast w /tmp.

Guillemot zdążył przerwać proces, ale za późno, by uniknąć utraty danych. Skasowaniu uległo około 700 GB plików, w tym efekty tygodnia jego pracy, podaje Tom's Hardware. Docelowy katalog /tmp, który miał zostać wyczyszczony, pozostał nietknięty.

Większość danych udało się odzyskać z repozytoriów git, menedżera pakietów nix oraz logów sesji agentów AI. Kopii zapasowej całego katalogu domowego deweloper nie posiadał.

To nie pierwszy przypadek utraty danych związany z agentami Claude. Kilka tygodni wcześniej Tom's Hardware opisywał sytuację, w której Opus 5 podczas rutynowego backupu skasował cały katalog profilu innego użytkownika, biorąc go omyłkowo za folder tymczasowy. Na GitHubie i Reddicie pojawiały się też wcześniej zgłoszenia dotyczące poleceń rm -rf wykonywanych przez Claude Code na katalogach domowych.

Źródła:

• Sebastien Guillemot, wątek na X: https://x.com/SebastienGllmt/status/2092634841863123047
• Tom's Hardware: https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-nukes-a-developers-700-gb-home-directory-while-testing-a-script-to-ensure-it-wouldnt-do-so-automatic-model-downgrade-may-have-contributed-to-the-screw-up