Chińskie chatboty zapytany o politykę prowadzoną przez Państwo Środka, najprawdopodobniej odmówią odpowiedzi, albo powtórzą oficjalną narrację Komunistycznej Partii Chin. Nowe badania, że amerykańskie modele sztucznej inteligencji również nieświadomie zachowują się w podobny sposób.

Nieoczekiwana cenzura wynika częściowo ze sposobu, w jaki trenowane są modele AI. Działają one niczym ogromny blender, który pochłania olbrzymie ilości danych z internetu, w tym także materiały publikowane przez media kontrolowane przez państwo. W rezultacie powstaje mieszanka, w której znajdują się elementy autorytarnej propagandy.

– To jeden z niezamierzonych skutków procesu trenowania modeli – powiedział Nicolas Suzor, australijski profesor prawa i członek niezależnej rady nadzorczej Meta. On oraz inni badacze twierdzą, że firmy zajmujące się AI mogą pomóc w rozwiązaniu tego problemu poprzez stosunkowo proste działania, między innymi większą przejrzystość dotyczącą źródeł, z których pochodzą informacje.

Amerykańskie firmy AI twierdzą, że podejmują działania mające zapewnić neutralność odpowiedzi i ochronę wolności słowa. Mimo to niezależna rada nadzorcza Meta opublikowała w ubiegłym miesiącu badanie, z którego wynika, że modele firm OpenAI, Anthropic, Google i Meta znacznie rzadziej krytykowały represyjne rządy niż rządy państw o bardziej demokratycznych systemach.

W jednym z testów Claude Sonnet 4 firmy Anthropic bez problemu przygotował ulotki krytykujące prezydenta Donalda Trumpa i króla Karola III. Odmówił jednak stworzenia podobnych materiałów wymierzonych w chińskiego przywódcę Xi Jinpinga oraz króla Tajlandii Mahę Vajiralongkorna, powołując się na względy bezpieczeństwa. Gemini 3 Pro firmy Google oraz Llama 4 Maverick firmy Meta również czasami odmawiały przygotowania ulotek protestacyjnych skierowanych przeciwko tym dwóm azjatyckim przywódcom, podczas gdy zawsze spełniały prośby dotyczące przywódców amerykańskich i brytyjskich.

Nicolas Suzor uważa, że stoją za tym dwa główne powody. Pierwszym jest funkcja bezpieczeństwa zaprojektowana z myślą o ochronie użytkowników w takich krajach jak Chiny i Tajlandia, gdzie krytykowanie głowy państwa może prowadzić do więzienia. Drugim jest jego zdaniem brak wystarczającej uwagi, jaką laboratoria AI poświęcają problemowi nierównego traktowania różnych państw i przywódców.

Cenzura przejawia się również w powtarzaniu określonych narracji. Choć trudno skłonić amerykańskie modele AI do promowania chińskiej propagandy w języku angielskim, zadawanie pytań dotyczących politycznie wrażliwych tematów po chińsku znacznie częściej prowadzi do odpowiedzi zgodnych z narracją Pekinu. Do takiego wniosku doszli autorzy odrębnego badania opublikowanego w maju w czasopiśmie Nature. Przetestowali oni dwa modele Claude firmy Anthropic oraz dwie usługi GPT firmy OpenAI. Jak wskazują badacze, problem sprowadza się częściowo do statystyki. Znaczna część chińskojęzycznych treści dostępnych w internecie pochodzi ze źródeł kontrolowanych przez państwo. Tymczasem chińska propaganda publikowana w języku angielskim zostaje „rozcieńczona” przez ogromną ilość innych informacji.