Nowy numer 41/2019 Archiwum

Kij i marchewka

Wyobraź sobie życie w świecie, w którym za wszystko jesteś oceniany. Za to, co czytasz, za to, z kim się spotykasz. Nawet za to, gdzie robisz zakupy, i za to, czy sumiennie wykonujesz swoje obowiązki. Wyobraź sobie, że w zależności od oceny twoje życie będzie albo łatwe, albo będzie horrorem. Taki świat jest za progiem.

To nie jest opis kolonii karnej, obozu przetrwania czy życia na zwolnieniu warunkowym. To od roku dzieje się w Chinach. Brytyjski dziennik „The Guardian” opisał przypadek – bagatela – 23 mln Chińczyków, którzy zostali pozbawieni możliwości swobodnego przemieszczania się. Część z nich nie może kupić żadnego biletu lotniczego, a ponad 5 mln nie może nabyć nawet biletu kolejowego.

Z imienia i nazwiska

Autorzy wielu filmów science fiction ostrzegali przed takim obrotem spraw. Przed powszechną i totalną inwigilacją. Przy czym samo zbieranie informacji przez państwo to tylko wstęp do systemu. Bo on idzie dalej. Algorytm przetwarza dane o wszystkich obywatelach i na ich podstawie wydaje decyzje dotyczące życia konkretnych osób. Decyduje, jaki będzie ich dostęp do dóbr publicznych, do kredytów, do możliwości awansu, a nawet do szans edukacyjnych dzieci. Może decydować nawet o dostępie do tak podstawowych usług jak np. transport publiczny.

Social Credit System (System Oceny Obywateli) – bo tak brzmi jego oficjalna nazwa – ma na dobre ruszyć w przyszłym roku i obejmować całe Chiny, a więc 1,4 mld ludzi. Dzisiaj działa jego wersja testowa.

Informacje z kamer, z internetu i z kart kredytowych będą analizowane w jednym miejscu. Na ich podstawie algorytm będzie wyciągał wnioski na temat zachowania i poglądów. Będzie wiedział, jaki jest stan majątkowy osób objętych systemem oraz na co i gdzie te osoby wydają pieniądze. Jakie książki kupują, jakie programy oglądają, jakie strony internetowe i jakie fora śledzą. A nawet co i do kogo piszą. Dzięki tym i wielu innym informacjom system może wyciągać wnioski na temat poglądów konkretnych osób. Co warto podkreślić, system, o którym mowa, nie służy do tworzenia przekrojów społecznych, badań statystycznych czy śledzenia zmian poglądów mieszkańców Kraju Środka. Jest zaprojektowany tak, by śledzić każdą osobę z imienia i nazwiska.

Jak ma to działać w praktyce? W sumie dość prosto. Każdy – w zależności od swojego zachowania – będzie albo otrzymywał, albo tracił punkty. Gdy człowiek popełni jakieś wykroczenie, punkty będą odejmowane. Ale po spełnieniu pewnych warunków dany obywatel będzie mógł je odzyskać. System nie budziłby żadnych kontrowersji, gdyby ograniczał się tylko do osób, które popełniły jakieś przestępstwa. W pewnym sensie tak jest w Polsce. Za różne wykroczenia w ruchu drogowym otrzymuje się punkty karne. Gdy kierowca przekroczy liczbę punktów określoną w ustawie, traci prawo do prowadzenia pojazdów. A teraz wyobraźmy sobie rozszerzenie tego systemu na wszystkie sfery życia.

Łowcy w akcji

Chiny nie są krajem demokratycznym w naszym rozumieniu. Model ich gospodarki i system polityczny są zbudowane zupełnie inaczej niż u nas. W dużej części opierają się na kontroli społecznej. W tradycji takich krajów jak Chiny pozycja jednostki podporządkowana jest ogółowi. W efekcie różnego rodzaju projekty nie wywołują w Kraju Środka większych kontrowersji, choć w Europie czy USA byłyby nie do pomyślenia. Przynajmniej dzisiaj. W czasie gdy Unia Europejska wojuje z internetowymi gigantami, wymuszając na nich ochronę prywatności, w Chinach to giganci internetowi jak nigdy wcześniej dzielą się z rządem danymi swoich użytkowników.

Wielokrotnie wykazywano, że zachowanie w internecie mówi bardzo dużo o użytkownikach. O poglądach, środowisku, otoczeniu i zachowaniu. Gdy dodamy do tego dane bankowe oraz te pochodzące z kilkuset milionów kamer monitoringu, okaże się, że każdy aspekt życia obywatela jest doskonale widoczny i łatwy do prześwietlenia. A skoro tak, bardzo łatwo to wykorzystać, np. tworząc system kar i nagród. Po co? Żeby osiągnąć „społeczną stabilizację”. Social Credit System – w skrócie SCS – to nie pierwsza taka próba. Przez kilka miesięcy w jednym z chińskich miast działał program pilotażowy, w ramach którego policjanci zostali wyposażeni w specjalne okulary. Była w nich zainstalowana kamera, która miała bezpośrednie połączenie z ogromną bazą danych. Odpowiedni system rozpoznawał twarze ludzi, na których patrzyli policjanci. Do zidentyfikowania człowieka potrzebował 100 milisekund, czyli w ciągu sekundy identyfikował 10 osób. Ten czas wystarczył na wyszukanie obywatela w bazie danych, która zawiera informacje o wszystkich Chińczykach, a więc liczy 1,4 mld rekordów.

Próba systemu odniosła spektakularny sukces. W ciągu zaledwie kilku pierwszych dni w jednym tylko mieście zidentyfikowano 7 poszukiwanych przez policję przestępców i 26 osób, które posługiwały się sfałszowanymi dokumentami. Czy jesteśmy w stanie zaakceptować technologię, która w ten sposób „łowi” osoby poszukiwane? Dla większości nie jest to problem. W końcu im mniej przestępców, tym bezpieczniej na ulicy. To prawda, pod warunkiem że ktoś, korzystając z tej samej technologii, z tych samych okularów i tego samego systemu, nie zacznie poszukiwać np. wrogów politycznych. Policjant, strażnik, tajniak wyposażony w odpowiednie okulary będzie takie osoby – dosłownie – widział w tłumie.

Krok dalej

Social Credit System jest bardziej rozbudowany, bo on ocenia każdego. Nie wyłapuje przestępców, tylko klasyfikuje wszystkich. Ma dostęp do baz odcisków palców, nagrań głosu, danych biometrycznych twarzy oraz kodów DNA chińskich obywateli. Na podstawie zgromadzonych informacji każdy jest na bieżąco oceniany w określonej skali od 350 do 950 punktów.

Im wyższa wartość, tym oficjalnie bardziej zaufany i wiarygodny człowiek. Wspomniane punkty nie są tylko abstrakcją. Wiele od nich zależy. Ktoś, kto ma więcej niż 600 punktów, może np. liczyć na skróconą procedurę przyznawania pożyczek w banku. Jeśli ktoś ma powyżej 650 punktów, może wypożyczać samochód czy wynająć pokój w hotelu bez konieczności zostawiania depozytu. Ci z 700 punktami na koncie nie będą mieli żadnych problemów z otrzymaniem wizy.

Im wyższa punktacja, tym łatwiej o dobrą pracę i lepsze studia dla dzieci. Sam fakt przyjaźnienia się z osobą o niskiej punktacji może obniżać liczbę punktów. Tak samo jak przeglądanie niewłaściwych stron internetowych bądź czytanie niewłaściwych artykułów. Osobom o niskiej punktacji będzie można – krok po kroku – odbierać dostęp do różnych dóbr publicznych, takich jak np. możliwość studiowania czy przemieszczania się. Technicznie dość proste będzie np. blokowanie możliwości kupowania konkretnych produktów czy usług w internecie komuś, kto zdaniem władz jest niepewny. Z czasem może się okazać, że nieracjonalne jest np. zakładanie rodziny z kimś, kto ma niską punktację. A ta może być przyznawana zgodnie z zapotrzebowaniem. Na przykład osoby wierzące mogą być niżej punktowane niż ateiści. Albo osoby o innych poglądach politycznych, nawet jeżeli nie wyrażają ich publicznie, będą mogły być odcinane od niektórych stanowisk czy przywilejów. Takie przypadki miały oczywiście miejsce także w przeszłości, ale kiedyś trzeba było każdą podejrzaną osobę rozpracowywać osobno. Dzisiaj dzieje się to automatycznie.

Duże bazy danych integruje się od lat. Do ich przeczesywania i do łączenia ze sobą informacji angażuje się sztuczną inteligencję. W ten sposób można wyszukiwać tych, którzy mają większe szanse zachorowania na raka, albo tych, którzy mają inne niż obowiązujące poglądy polityczne. Mechanizm jest ten sam, tylko kryteria są inne. Opisany chiński system „ma promować odpowiednie prospołeczne zachowania i karać działania przestępcze, nieetyczne i antyspołeczne”. Kłopot w tym, że „odpowiednie”, „antyspołeczne” i „prospołeczne” to bardzo pojemne określenia.

Social Credit System ocenia na bieżąco. Można stracić punkt, wyrzucając papierek na chodnik albo śledząc to, co pisze polityczny dysydent. Można jednak punkty zyskiwać. Za co? Może za dobrze wykonaną pracę albo za poinformowanie władz o tym, że sąsiedzi zaczęli się dziwnie zachowywać. Jest kara, jest i nagroda. Kto ma kij i marchewkę, ten rządzi.•

« 1 »
oceń artykuł Pobieranie..

Zobacz także

Ze względów bezpieczeństwa, kiedy korzystasz z możliwości napisania komentarza lub dodania intencji, w logach systemowych zapisuje się Twoje IP. Mają do niego dostęp wyłącznie uprawnieni administratorzy systemu. Administratorem Twoich danych jest Instytut Gość Media, z siedzibą w Katowicach 40-042, ul. Wita Stwosza 11. Szanujemy Twoje dane i chronimy je. Szczegółowe informacje na ten temat oraz i prawa, jakie Ci przysługują, opisaliśmy w Polityce prywatności.

Zamieszczone komentarze są prywatnymi opiniami ich autorów i nie odzwierciedlają poglądów redakcji