Chiny wykorzystują sztuczną inteligencję do zacieśniania cyfrowej kontroli, a Waszyngton odpowiada własną ofensywą technologiczną. W tle trwa globalna gra o to, które państwo narzuci światu nowe standardy władzy nad informacją.
Autor: Zofia Grosse
Chińskie władze wykorzystują sztuczną inteligencję do bezprecedensowego rozszerzania zdolności nadzoru i cenzury, przekształcając ją w kluczowy element politycznej kontroli nad społeczeństwem.
Jak wynika z nowego raportu Australijskiego Instytutu Polityki Strategicznej (ASPI), najnowsze narzędzia AI umożliwiają Komunistycznej Partii Chin nie tylko szybsze filtrowanie treści, ale też automatyczne monitorowanie milionów użytkowników i wyznaczanie prywatnym firmom roli cyfrowych strażników reżimu.
AI jako turboładowanie dla Wielkiego Firewalla
Choć chiński system cenzury — znany powszechnie jako Wielki Firewall — od lat ogranicza dostęp do wrażliwych politycznie informacji, w tym jakiejkolwiek wzmianki o masakrze na placu Tiananmen czy krytyki przewodniczącego Xi Jinpinga, to dopiero zastosowanie sztucznej inteligencji pozwala na znaczne zwiększenie jego efektywności.
— AI nie tworzy całkowicie nowych form cenzury; ona przyspiesza i pogłębia istniejący model — powiedział Nathan Attrill, starszy analityk ASPI i współautor raportu. — Pozwala monitorować więcej osób, dokładniej, przy mniejszym wysiłku.
Według badaczy Pekin zleca prywatnym gigantom technologicznym — takim jak Tencent, Baidu i ByteDance — rozwijanie algorytmów, które automatycznie analizują ogromne ilości danych, wyłapują słowa kluczowe i ograniczają zasięgi treści uznanych za „problematyczne”.
Tencent, właściciel wszechobecnego w Chinach WeChata, stworzył system zdolny do wystawiania „oceny ryzyka” użytkownikom oraz identyfikowania osób wielokrotnie publikujących zakazane treści w wielu grupach i aplikacjach. Baidu sprzedaje zaś zestawy narzędzi AI do błyskawicznego analizowania wideo, obrazów i tekstów pod kątem zakazanych tematów.
— To wykorzystywanie zasad rynkowych w służbie autorytaryzmu — podkreśla Bethany Allen, współautorka raportu i szefowa działu śledczego ds. Chin w ASPI.
Chińska przewaga: realne wdrożenia, nie tylko badania
Eksperci zwracają uwagę, że przewaga Pekinu w wyścigu o dominację w AI polega nie tyle na przełomach naukowych, ile na masowej skali wdrożeń. Chińskie firmy — działające często ramię w ramię z rządem — dysponują jednym z największych na świecie zasobów danych, które napędzają rozwój kolejnych modeli.
— Jeśli nie zrozumiemy, jak te systemy są kształtowane i ograniczane w porównaniu z zachodnimi modelami AI, ryzykujemy importowanie cenzury i politycznej kontroli ukrytej w samej technologii — ostrzega Fergus Ryan z ASPI.
Chińskie modele, choć zaawansowane, od początku projektowane są tak, by wspierać interesy państwa. Oznacza to nie tylko blokowanie treści „niepożądanych”, lecz także promowanie określonej wizji rzeczywistości — zgodnej z linią partii.
Waszyngton odpowiada restrykcjami
Rywalizacja USA i Chin w dziedzinie AI ma niewiele wspólnego wyłącznie z rynkiem czy technologią. To konflikt modeli politycznych. Waszyngton ogranicza dostęp Pekinu do najnowszych chipów i technologii, obawiając się wykorzystania AI przez Chiny w celach wojskowych lub nadzorczych.
Jednocześnie amerykańskie firmy — takie jak OpenAI — deklarują, że ich modele mają chronić demokratyczne wartości, przeciwdziałać manipulacji i ograniczać wykorzystanie AI do cyberataków czy propagandy.
Najnowszy raport OpenAI ujawnia, że od początku 2024 roku zablokowano ponad czterdzieści sieci próbujących wykorzystywać modele językowe do phishingu, tworzenia złośliwego oprogramowania i operacji wpływu. Wśród nich znalazły się grupy powiązane z chińskimi instytucjami państwowymi, które usiłowały używać AI m.in. do profilowania krytyków reżimu i badania finansowania opozycyjnych kont w mediach społecznościowych.
Choć OpenAI podkreśla, że modele nie zapewniły tym podmiotom nowych zdolności ofensywnych, raport pokazuje, że AI stała się narzędziem przyspieszającym dotychczasowe metody działania.
Hybryda człowieka i maszyny
Mimo rosnącej roli sztucznej inteligencji chińskie firmy nadal masowo zatrudniają moderatorów treści. Powód jest prosty: AI, choć szybka, bywa naiwna. Użytkownicy potrafią obchodzić filtry, stosując kryptonimy, żarty, zaszyfrowane memy czy opisy w formie metafor — a modele uczą się dopiero wtedy, kiedy człowiek je skoryguje.
Dlatego w Chinach wykształcił się „hybrydowy model cenzury”: AI skanuje i filtruje, człowiek nadzoruje, interpretuje i aktualizuje system.
Ten sam mechanizm działa zresztą w drugą stronę. Doświadczeni użytkownicy AI, także poza Chinami, wiedzą, że da się obejść wbudowane ograniczenia modeli i skłonić je do generowania niepożądanych treści. Dlatego wymusza to stałą aktualizację zabezpieczeń — zarówno po stronie rządów, jak i firm technologicznych.
Globalne konsekwencje wyścigu
Wyścig o dominację w AI nie jest już rywalizacją czysto technologiczną. To zderzenie dwóch modeli politycznych i dwóch wizji roli informacji w społeczeństwie. Pekin konsekwentnie rozwija system, w którym technologia ma wzmacniać kontrolę i kształtować narracje korzystne dla partii, podczas gdy zachodnie firmy podkreślają swoje zobowiązania do obrony demokratycznych wartości — choć same również implementują własne zbiory norm i filtrów.
W efekcie sztuczna inteligencja staje się dziś narzędziem, które może zarówno chronić przestrzeń publiczną, jak i ją zawłaszczać. To od sposobu, w jaki państwa i korporacje będą ją wdrażać, zależy, czy przyszłe systemy informacyjne staną się bardziej przejrzyste, czy też ulegną coraz głębszej politycznej inżynierii. W tej ewolucji toczy się gra o coś więcej niż przewagę technologiczną — o to, kto będzie wyznaczał granice i znaczenie prawdy w erze cyfrowej.
Zdjęcie: Xi Jinping President of the People's Republic of China speak's at a United Nations Office at Geneva, 18 January 2017. [UN Photo / Jean-Marc Ferré]