Chiny szykują twarde zasady dla chatbotów. Przerwy po 2 godzinach i „stop” dla emocjonalnych pułapek

Chiny wchodzą w kolejny etap porządkowania rynku usług AI dla konsumentów, tym razem tych, które mają „ludzką osobowość” i budują emocjonalną relację z użytkownikiem. Jak podaje Reuters, chiński regulator ds. cyberprzestrzeni opublikował projekt przepisów do konsultacji publicznych, który ma zaostrzyć nadzór nad usługami zaprojektowanymi do emocjonalnej interakcji i symulowania człowieka.

Dokument CAC nazywa ten segment „usługami antropomorficznej interakcji” i opisuje je szeroko: to produkty lub usługi, które symulują cechy osobowości, sposób myślenia i styl komunikacji człowieka, a emocje „obsługują” przez tekst, obraz, dźwięk albo wideo. Konsultacje trwają do 25 stycznia 2026 roku.

Najbardziej konkretne są wymogi dotyczące uzależniania i „zastępowania ludzi”. Projekt wprost zakłada, że dostawcy nie mogą projektować takich systemów pod zastępowanie relacji społecznych, kontrolowanie psychiki użytkownika ani „wciąganie” w zależność i nawyk. Jednocześnie pojawia się mechanika znana z narzędzi „antyuzależnieniowych”: jeśli użytkownik korzysta z usługi dłużej niż 2 godziny bez przerwy, system ma wyświetlić komunikat zachęcający do przerwania rozmowy.

W projekcie jest też wyraźny wątek zdrowia psychicznego i sytuacji kryzysowych. CAC wymaga, by dostawcy potrafili rozpoznawać stan użytkownika i oceniać jego emocje oraz poziom zależności od usługi, a przy sygnałach „skrajnych emocji” albo zachowań nałogowych podejmowali interwencję. W najbardziej drastycznych scenariuszach, gdy użytkownik wprost mówi o samobójstwie lub samookaleczeniu, rozmowę ma przejąć człowiek, a operator ma uruchomić procedury kontaktu z opiekunem lub osobą alarmową.

Duży blok dotyczy nieletnich. Projekt przewiduje „tryb dla nieletnich” z limitami czasu, cyklicznymi przypomnieniami o rzeczywistości i opcjami bezpieczeństwa, a w przypadku usług emocjonalnego „towarzyszenia” dla dzieci i nastolatków, wymaga wyraźnej zgody opiekuna. Opiekun ma też dostać narzędzia kontroli, w tym możliwość ograniczania czasu, blokowania wybranych „postaci” i ograniczeń wydatków w aplikacji.

Równolegle CAC mocno dociska kwestie danych. W projekcie jest obowiązek zabezpieczania danych interakcji, opcja usuwania historii rozmów oraz zasada, że zapisy konwersacji i wrażliwe dane nie mogą być używane do trenowania modeli bez osobnej zgody użytkownika, poza wyjątkami wynikającymi z prawa.

Jak zauważa Gizmodo, dokument nie jest wyłącznie „o chatbotach”, tylko o całym segmencie usług, które emocjonalnie „grają” człowieka, a przy okazji mają być zgodne z „socjalistycznymi wartościami” i podlegać klasycznym dla Chin ograniczeniom treści, w tym związanym z bezpieczeństwem państwa i „plotkami”.

Kontrast z podejściem w USA dobrze widać na przykładzie Nowego Jorku. Jak czytamy w komunikacie biura gubernator Kathy Hochul, 26 grudnia 2025 roku podpisano przepisy wymagające ostrzeżeń dla młodych użytkowników, gdy platforma oferuje funkcje uznane za „drapieżne”, jak nieskończone przewijanie czy autoplay, i ostrzeżeń nie da się „przeklikać”. To jednak nadal model oparty o etykietę, a nie o przebudowę mechaniki produktu.

Propozycja z Pekinu idzie dalej: zamiast samego ostrzegania, próbuje wymusić zachowania produktu, które mają utrudniać wpadanie w zależność i stawiać barierę tam, gdzie rozmowa zaczyna przypominać substytut relacji. Pytanie otwarte brzmi, czy tak zdefiniowane obowiązki, zwłaszcza „wyłapywanie emocji” i interwencja, da się wdrożyć na masową skalę bez ogromnych kosztów i ryzyka błędów.