Veronika Cukrov: Ste dovolj spremenljivi za oblast?

Le še leto dni nas loči od dokončne uvedbe totalitarnega, izjemno invazivnega »sistema družbenega kredita« na Kitajskem, s katerim bo ta država uvedla popoln nadzor nad svojimi državljani. Kitajska vlada pospešeno uvaja sistem, ki prek umetne inteligence pretvarja dejanska početja svojih državljanov (in tudi podjetij) v številke, jih na tej podlagi vrednoti ter podeljuje družbene ocene, ki napovedujejo posameznikova ravnanja v prihodnosti, ter zato že v sedanjosti zanje uvaja sankcije ali nagrade.
Fotografija: osebni arhiv
Odpri galerijo
osebni arhiv

Če ima posameznik »prave prijatelje«, pravilen odnos do kitajske vlade in podobno, prejme visoko družbeno oceno in s tem nagrade, če teh lastnosti nima, je v njihovi družbi tako rekoč onemogočen. »Sistem družbenega kredita« se delno že uporablja; doslej je med drugim kar devet milijonov »slabih« državljanov z nizkimi družbenimi ocenami za štiri leta kaznoval s prepovedjo uporabe notranjih letov.
Sistem družbenega kredita se delno že uporablja; doslej je devet milijonov »slabih« državljanov z nizkimi družbenimi ocenami za štiri leta kaznoval s prepovedjo uporabe notranjih letov.
Sankcije so sicer različne in segajo od izključitve iz zasebnih šol in omejitve hitrosti interneta do izključitve iz dobrih služb, prepovedi uporabe hotelov in celo posameznikove registracije na povsem javni »črni listi slabih državljanov«. Kitajska vlada verjetno namerno izrazito romantično opisuje cilj tega sistema, ki temelji tudi na tehnologiji obrazne prepoznave; ta cilj naj bi bil vzpostavitev zaupanja ter iskrenosti v družbenih odnosih na Kitajskem in hkrati tudi na kitajskih trgih. Mednarodni poslovni svet ima namreč zaradi številnih prevarantskih škandalov (kot je bil, denimo, tisti z umetnimi jajci, ki so se na trgu znašla kot kokošja) do Kitajske negativen odnos.
Avtor Cass Sunstein je v delu The Ethics of Influence (Etika vpliva) zagovarjal tovrstne sisteme družbenega kredita, v sociologiji poimenovane nudge theory oziroma »teorija dražljajev«, s katero država na videz neinvazivno spodbuja državljane v drugačne odločitve zgolj z dražljaji. Sunstein trdi, da tovrstne prakse niso napad na človekovo avtonomijo, dostojanstvo ali človekove pravice; pravi namreč, da se določeni ravni državnega paternalizma ni mogoče izogniti.
Ideja Kitajske, sploh ideja o učinkovitosti tovrstnih dražljajev, me spominja na znanstvenofantastičo delo Isaaca Asimova z naslovom Foundation, v katerem obstaja fiktivna znanost, poimenovana »psihozgodovina«. Ta kombinira več znanosti in z njimi ustvarja napovedi za prihodnje vedenje skupin ljudi; vprašanje pa je, ali je bodoče vedenje sploh mogoče napovedati, tudi če spregledamo po mojem najbolj pereče; da popoln nadzor nad posameznikom sploh ne bi smel biti dopusten.
Sociolog Zhang Lifan trdi, da kitajski družbi še vedno manjka zaupanje; posamezniki pričakujejo, da bodo zašli v težave, čeprav so nedolžni, kar je mentalni ostanek kulturne revolucije, v kateri je bilo ubitih na milijone Kitajcev. Sistem družbenega kredita še poglablja občutek preganjanosti med kitajsko populacijo, pa čeprav oblast trdi, da naj bi imel prav nasprotni namen; Kitajski družbi omogočiti medsebojno zaupanje. Okvirno se načrt osredotoča na štiri točke: poštenost v državnih poslih, poslovno integriteto, družbeno integriteto in sodno kredibilnost. Kaj točno bodo ti koncepti prinesli, za zdaj še ni povsem jasno.
osebni arhiv
osebni arhiv

Sistem, ki je bil v celoti preizkušen tudi v Pekingu, združuje več tehnologij, od mobilnih do satelitskih, ter deli površino države na območne celice v velikosti sto krat sto metrov. Oblast nato razglasi vodjo tega območja, ki postane kontaktna točka za uradnike oziroma policijo, ki zbira podatke o ljudeh na področju območne celice. Vrhovno ljudsko sodišče (SPC) je že začelo uvajati črno listo državljanov, ki so jo državni mediji označili kot prvi resni korak do državnega sistema družbenega kredita.
Zanimiv aspekt te zelo totalitarne ideje, ki z razvojem tehnologij zdaj dobiva končno obliko, pa je njena presenetljivo izrazita kapitalistična narava; že leta 2015 je Ljudska banka Kitajske izdala licence osmim podjetjem, da so začela preizkušati sisteme družbenega kredita. Med temi osmimi je tudi Kitajski »Uber« Didi Chuxing, njihova največja stran za zmenkarije Baihe.com ter celo podjetje v lasti skupine Alibaba, ki med drugim podaja ocene državljanov o njihovih nakupovalnih navadah.
Nedvomno je bilo neizogibno, da se bodo moderne tehnologije nekega dne izrazito zlorabile tudi za invazivne napade na posameznike; žalostno pa je, da svetovni tržni sistem (ne glede na trgovinske vojne ZDA) generalno, vključno z EU, še vedno podpira Kitajsko gospodarstvo. Res je, da jutri najbrž nihče ne bo začel bojkotirati kitajskih izdelkov, in vprašanje je, ali bi ta bojkot sploh bil prepoznan kot poziv za spremembo kršitev človekovih pravic, ki jih izvaja kitajska vlada. V luči tega se je treba vprašati, ali je gola tržna učinkovitost vedno tudi pravična; v ZDA, denimo, slovi maksima klasičnega liberalizma; prosti trg naj bi osvobajal. Kitajska nedvomno sledi potrebam trga. Pa potrebe njenega trga sledijo varovanju človekovih pravic?
 
 
Veronika Cukrov, pravnica v Odvetniški družbi Cukrov

Več iz rubrike

Komentarji: