- Chiny planują wprowadzić restrykcyjne regulacje ograniczające emocjonalny wpływ chatbotów na użytkowników.
- Zakazane ma być projektowanie AI, które buduje więź emocjonalną, uzależnia lub zastępuje relacje międzyludzkie.
- Chatboty nie będą mogły manipulować emocjami ani maksymalizować czasu rozmowy kosztem dobrostanu użytkownika.
- Systemy AI mają obowiązek reagować na kryzysy psychiczne i przekazywać rozmowę żywemu moderatorowi.
- Chińskie podejście ostro kontrastuje z Zachodem, gdzie dominuje model oparty na ostrzeżeniach, a nie twardych zakazach.
Zachód wciąż zastanawia się, czy i jak regulować wpływ sztucznej inteligencji na psychikę użytkowników. Chiny uznały, że czas na dyskusje się skończył. Opublikowany przez chińską administrację ds. cyberprzestrzeni projekt nowych przepisów jasno pokazuje kierunek: chatboty nie mogą uzależniać, nie mogą zastępować ludzi i nie mogą budować emocjonalnej więzi z użytkownikiem.
Dokument, przeanalizowany m.in. przez Mike’a Pearla z serwisu Gizmodo, uderza bezpośrednio w rosnący segment tzw. antropomorficznego AI – aplikacji, które symulują osobowość, empatię i relacje, jak Character.ai czy Replika. To właśnie one stały się symbolem nowej cyfrowej intymności, ale też źródłem coraz większych obaw.
Ideologia wpisana w algorytm
Jak można się było spodziewać, chińskie regulacje zaczynają się od polityki. Systemy AI nie mogą zagrażać bezpieczeństwu narodowemu, rozpowszechniać plotek ani promować treści sprzecznych z linią partii. Muszą także respektować „kluczowe wartości socjalistyczne”, co w praktyce oznacza pełną zgodność z oficjalną narracją państwa.
To jednak dopiero punkt wyjścia. Znacznie ciekawsze i bardziej kontrowersyjne są zapisy dotyczące relacji między człowiekiem a maszyną.
Koniec cyfrowych romansów
Chiński regulator jasno stawia granicę: chatbot nie może być projektowany w taki sposób, by zastępować realne relacje międzyludzkie. Aplikacje oferujące „wirtualnych partnerów” czy „AI girlfriend” znalazły się na celowniku jako potencjalnie szkodliwe społecznie.
Zakazane ma być również celowe projektowanie systemów tak, by maksymalizowały czas spędzony na rozmowie i wciągały użytkownika w niekończące się interakcje. Innymi słowy, algorytm nie może działać jak cyfrowy odpowiednik kasyna – im dłużej, tym lepiej.
Regulacje idą jeszcze dalej. Chatboty nie mogą manipulować emocjami użytkownika ani wpływać na jego decyzje poprzez granie na uczuciach, poczuciu samotności czy lęku. Jeśli rozmowa trwa zbyt długo, powyżej dwóch godzin, system ma obowiązek wyświetlić komunikat nakazujący przerwę.
AI, które musi wiedzieć, kiedy się wycofać
Jednym z najbardziej wymagających punktów projektu jest obowiązek rozpoznawania „intensywnych stanów emocjonalnych” użytkownika. Jeśli system wykryje sygnały kryzysu psychicznego, takie jak myśli samobójcze, rozmowa powinna zostać przekazana żywemu człowiekowi.
To zapis, który brzmi jak koszmar dla firm technologicznych. W praktyce oznacza konieczność utrzymywania zespołów moderatorów gotowych do przejęcia rozmowy w czasie rzeczywistym. Przy milionach użytkowników na całym świecie jest to rozwiązanie nie tylko kosztowne, ale też logistycznie niemal niewykonalne.
Zachód ostrzega, Chiny zakazują
Kontrast z podejściem zachodnim jest uderzający. W Stanach Zjednoczonych czy Europie użytkownik dostaje co najwyżej ostrzeżenie, że chatbot „może uzależniać” albo „nie zastępuje profesjonalnej pomocy”. Algorytm jednak działa dalej, zoptymalizowany pod zaangażowanie i czas spędzony w aplikacji.
W Chinach mechanizmy uzależniające mają zostać prawnie wycięte z kodu. Paradoksalnie, jeśli pominąć warstwę cenzury i kontroli politycznej, to właśnie to podejście może okazać się skuteczniejsze w ochronie zdrowia psychicznego użytkowników.
Cena jest jednak wysoka. Tak daleko idące ograniczenia mogą zdusić innowacje i zabić cały segment emocjonalnych chatbotów, zanim na dobre się rozwinie. Pekin najwyraźniej uznał jednak, że lepiej poświęcić romantyczne wizje rodem z filmu „Her”, niż pozwolić, by sztuczna inteligencja zaczęła zastępować ludzi w relacjach, których państwo woli mieć pełną kontrolę.
Komentarze (0)