Anthropic konsultuje etykę AI z chrześcijańskimi liderami
Firma Anthropic zaprosiła ok. 15 przedstawicieli środowisk chrześcijańskich do rozmów o moralnych granicach rozwoju Claude. Dyskutowano m.in. reakcje AI na żałobę i samookaleczenia.
Anthropic, twórca modelu Claude, rozpoczęło konsultacje dotyczące etyki sztucznej inteligencji z przedstawicielami środowisk chrześcijańskich. Jak wynika z informacji „The Washington Post”, pod koniec marca firma zorganizowała dwudniowe spotkanie z udziałem około 15 liderów religijnych, naukowców i osób z sektora technologicznego.
Rozmowy dotyczyły m.in. tego, jak chatbot powinien reagować w sytuacjach związanych z żałobą, kryzysem psychicznym czy pytaniami o sens życia. Uczestnicy zastanawiali się również nad tym, jakie wartości powinny wpływać na projektowanie systemów AI oraz czy możliwe jest stworzenie modelu respektującego różne tradycje moralne.
Spotkanie wpisuje się w szerszą strategię Anthropic, które od początku podkreśla znaczenie bezpieczeństwa i „sterowalności” modeli. Claude działa w oparciu o zestaw zasad określanych jako konstytucja modelu, mających ograniczać ryzyko szkodliwych odpowiedzi.
Firma zapowiada, że podobne konsultacje będą prowadzone także z przedstawicielami innych tradycji religijnych i filozoficznych. W miarę rozwoju coraz bardziej zaawansowanych modeli AI pytania o ich granice etyczne stają się coraz ważniejsze także poza środowiskiem technologicznym.
