Badanie: ChatGPT Health zbyt często nie rozpoznaje stanów nagłych

ChatGPT Health, uruchomiony przez OpenAI 7 stycznia 2026 roku jako wydzielona przestrzeń do rozmów o zdrowiu i samopoczuciu, miał pomagać użytkownikom w rozumieniu wyników badań, przygotowaniu się do wizyt lekarskich i porządkowaniu własnych danych medycznych. Firma podkreślała, że rozwiązanie powstało we współpracy z lekarzami, objęto je dodatkowymi zabezpieczeniami prywatności i że nie jest przeznaczone do stawiania diagnoz ani zastępowania profesjonalnej opieki medycznej.

Teraz pojawiła się pierwsza niezależna ocena bezpieczeństwa tego narzędzia. Badanie opublikowane 23 lutego 2026 roku w „Nature Medicine" przez zespół Icahn School of Medicine at Mount Sinai pokazuje, że ChatGPT Health ma wyraźne problemy właśnie tam, gdzie stawka jest najwyższa — przy odróżnianiu sytuacji błahych od naprawdę pilnych. Autorzy przeprowadzili ustrukturyzowany test z użyciem 60 scenariuszy klinicznych obejmujących 21 obszarów medycznych i 16 wariantów warunków testowych, co dało łącznie 960 odpowiedzi systemu.

Najważniejszy wniosek jest dla OpenAI niewygodny. Autorzy pracy wskazują, że model najgorzej radził sobie na „klinicznych krańcach" — przy przypadkach niepilnych oraz nagłych. Badanie podkreśla, że błędy koncentrowały się szczególnie w sytuacjach nagłych: narzędzie w istotnej liczbie poważnych przypadków nie kierowało użytkowników na pilną pomoc ani na SOR. W części analizowanych sytuacji system zaniżał pilność ponad połowy nagłych przypadków, zalecając kontakt z lekarzem w ciągu 24–48 godzin zamiast natychmiastowej pomocy.

To nie był jedyny problem. Badacze zwrócili uwagę na niespójność zabezpieczeń związanych z kryzysem samobójczym. Komunikat Mount Sinai wprost mówi o „poważnych obawach" dotyczących tych mechanizmów — ostrzeżenia i komunikaty kryzysowe pojawiały się nierówno, również w scenariuszach, w których użytkownik sygnalizował myśli samobójcze. To szczególnie drażliwy obszar: spokojny ton odpowiedzi systemu może zostać odczytany jako potwierdzenie, że sytuacja nie wymaga natychmiastowej reakcji.

Wagę problemu podbija skala użycia. OpenAI informowało przy starcie usługi, że pytania o zdrowie należą do najczęstszych zastosowań ChatGPT, a z odpersonalizowanej analizy rozmów wynikało, że globalnie ponad 230 milionów osób tygodniowo zadaje systemowi pytania związane ze zdrowiem. Mount Sinai odnotował z kolei, że w ciągu kilku tygodni od premiery z narzędzia korzystało codziennie około 40 milionów osób.

To ciekawy paradoks całej sprawy. OpenAI od początku zaznaczało, że Health ma „wspierać, a nie zastępować" opiekę medyczną i że funkcja nie służy do diagnozy ani leczenia. Jednocześnie produkt został zaprojektowany tak, by pomagał użytkownikowi poruszać się po decyzjach zdrowotnych — także tych związanych z oceną pilności kontaktu z lekarzem. Właśnie ten obszar stał się przedmiotem najmocniejszej krytyki niezależnych badaczy.

W reakcji na publikację OpenAI podkreślało, że system jest stale rozwijany, a wyniki badania nie muszą w pełni odzwierciedlać rzeczywistego sposobu korzystania z usługi. Tego argumentu nie da się całkiem zlekceważyć — testy scenariuszowe zawsze upraszczają realne zachowania użytkowników. Z drugiej strony właśnie po to prowadzi się takie badania: by sprawdzić, jak system zachowuje się w kontrolowanych, ale wysokiego ryzyka sytuacjach, zanim skala wdrożenia jeszcze wzrośnie.

Dla rynku AI w ochronie zdrowia ten przypadek ma szersze znaczenie. Pokazuje, że nawet produkt rozwijany z myślą o wrażliwym obszarze — z osobną przestrzenią danych i deklaracjami dotyczącymi bezpieczeństwa — może mieć poważne luki wtedy, gdy użytkownik najbardziej potrzebuje jednoznacznej odpowiedzi. Innymi słowy, problemem nie jest już tylko to, czy model potrafi streścić wynik badania albo wyjaśnić nazwę leku, ale czy umie w porę powiedzieć: nie czekaj, jedź po pomoc.