ASTANA – Dok Kazahstan nastavlja sa ambicioznim planom izgradnje savremene mreže državnog nadzora i modernizacije digitalne infrastrukture, aktivista Sanzhar Boqajev je iz prve ruke iskusio šta takav sistem može značiti za ljude poput njega.
Nakon dolaska na aerodrom u Almati u junu, Boqajev – bivši zvaničnik, a danas poznati politički bloger – bio je zaustavljen od strane policije kada ga je sistem TargetEYE, zasnovan na veštačkoj inteligenciji za prepoznavanje lica, identifikovao i u svojoj bazi označio kao "civilnog aktivistu".
Boqajev je deo susreta snimio telefonom i kaže da mu je policajac čak pokazao njegov profil u bazi, koji je uključivao biometrijsko poređenje i lične podatke, pre nego što je upućen u policijsku stanicu.
Nakon kratkog zadržavanja, pušten je, a snimak je potom objavio na internetu, optužujući vlasti da koriste naprednu tehnologiju za praćenje aktivista.
Ministarstvo unutrašnjih poslova Kazahstana tvrdi da je Boqajev greškom unet u bazu podataka zbog sličnosti sa drugom osobom. Ministar unutrašnjih poslova Yerzhan Sadenov izjavio je da vlada ne pravi bazu aktivista i da "tehnologija takođe može da pogreši".
"Možete to videti na snimku. Prikazuje moju fotografiju, ime, ime oca, i označen sam kao 'civilni aktivista'. Ko bi to drugi mogao biti?", rekao je Boqajev za RSE. "Štaviše, navodi se da je podatke unelo Odeljenje za borbu protiv ekstremizma pri Ministarstvu. Zabeleženo je čak i prezime policajca koji je to uneo. A oni ipak poriču da sam to ja u bazi."
Za Boqajeva i druge aktiviste u zemlji, ovaj incident pruža uvid u najgori mogući scenario u kojem bi digitalna transformacija države – koja uključuje desetine hiljada kamera sa softverom za prepoznavanje lica, centralizovani sistem digitalne identifikacije i veliko dugoročno ulaganje u veštačku inteligenciju – mogla biti zloupotrebljena dok vlada nastoji da spreči ponavljanje masovnih protesta iz januara 2022. i krvavih nemira koji su ugrozili vlast predsednika Qasym-Zhomarta Toqaeva.
Zabrinutost dodatno povećava i činjenica da veliki deo hardverske i tehnološke osnove strategije digitalizacije Kazahstana dolazi iz – Kine.
Kineski serveri za skladištenje podataka, telekomunikaciona oprema, mikročipovi i kamere za nadzor postali su temelj digitalnih ambicija Kazahstana, koje su dodatno ubrzane u septembru kada je Tokajev najavio osnivanje novog Ministarstva za veštačku inteligenciju.
Stručnjaci su za RSE izjavili da zabrinjava ne samo to što bi se Kazahstan mogao tehnološki osloniti na kineske kompanije, već i mogućnost da usvoji kineski model javnog nadzora i cenzure – gde su građanske slobode i privatnost ozbiljno narušene u korist državne kontrole i bezbednosti.
"Kina, ni politički ni društveno, nije model za to kako tehnologija treba da se koristi u demokratiji", rekla je Dana Malikova, ekspertkinja za digitalna prava koja je radila za više organizacija za zaštitu građanskih sloboda u Kazahstanu.
"Kina ima naprednu tehnologiju, ali glavno pitanje je kako će ona biti korišćena u Kazahstanu."
Domaći sistem nadzora
Toqaev je uložio velika sredstva u digitalizaciju kako bi otvorio nove ekonomske mogućnosti za svoju zemlju, najavivši u govoru o stanju nacije 8. septembra, da želi da "pretvori Kazahstan u potpuno digitalnu naciju u roku od tri godine."
Ključni deo te strategije jeste razvoj domaćih kazahstanskih kompanija, za koje je Tokajev rekao da će pomoći da se zemlja pretvori u regionalnog tehnološkog lidera. Kazahstanske firme već su razvile niz domaćih proizvoda koji se koriste širom zemlje, uključujući Target AI, kompaniju osnovanu 2019. godine, koja je razvila program TargetEYE, isti onaj koji je ovog leta identifikovao Boqajeva.
Mnoge od najuspešnijih domaćih tehnoloških firmi u Kazahstanu posluju ukrštajući tehnologije za prepoznavanje lica, asistencije putem veštačke inteligencije i biometrijske identifikacije – koje se oslanjaju na sve veće količine podataka prikupljenih putem desetina hiljada nadzornih kamera postavljenih na raskrsnicama i zgradama širom zemlje.
Neke od tih kamera instaliraju privatne firme i građani, ali velika većina je deo državnih programa integrisanih sa softverima za prepoznavanje lica zasnovanim na veštačkoj inteligenciji, kao što je TargetEYE.
U kompaniji Target AI izjavila su za RSE da samo obezbeđuje tehnologiju, dok je na organima za sprovođenje zakona da odluče kako će se ti proizvodi koristiti.
"U većini slučajeva naša kompanija nema informacije o tome u koje svrhe i na koji način se tehničke funkcije platforme primenjuju", navodi se u izjavi za RSE.
Takođe su naveli da je njihova platforma već integrisana u policijske i nadzorne sisteme u osam regiona Kazahstana. Ta raširenost je pretvorila TargetEYE u domaći ključni alat za prediktivno delovanje policije i brze operacije odgovora.
Međutim, razmera primene i netransparentan način na koji vlast koristi ovu tehnologiju izazvali su ozbiljna pitanja o odgovornosti, posebno nakon incidenta sa Boqajevim.
Rastuće nadzorne sposobnosti vlade ne zaustavljaju se na Target AI-u.
"Smart Aqkol", kazahstanska verzija koncepta pametnog grada, testirana u malom gradu severno od Astane, nastala je kroz saradnju između Kazahtelekoma (državne telekomunikacione kompanije), Eurasian Resources Group (državne rudarske firme) i Tengri Lab (kazahstanski tehnološki startap).
Uloga ovog modela poslednjih godina se povukla iz fokusa zvaničnih izjava, ali on i dalje ukazuje na želju vlasti da razvije sopstvene nacionalne kapacitete za nadzor.
Drugi domaći projekat zove se "Sergek", koji je započet kao sistem za prikupljanje podataka zasnovan na veštačkoj inteligenciji u okviru bezbednosnog dela pametnog grada u Astani, a njegova primena se u međuvremenu znatno proširila.
Vlada tvrdi da je cilj ovih projekata unapređenje javne bezbednosti i borba protiv kriminala kroz sisteme pametnog grada koji povezuju kamere i softver za prepoznavanje lica sa policijskim terminalima i komandnim centrima radi sveobuhvatnog nadzora.
Ipak, postoje i ozbiljne zabrinutosti oko toga kako će vlada koristiti sve te podatke koje prikuplja.
"Rizik je ovde znatno veći zbog upotrebe prepoznavanja lica", kaže Malikova. "Ti biometrijski podaci mogu biti upotrebljeni i protiv građana i protiv nacionalne bezbednosti zemlje, ako padnu u pogrešne ruke."
Tačan broj kamera postavljenih širom zemlje kroz državne programe nije poznat, ali gradske vlasti u Almati navode da samo u tom gradu postoji najmanje 128.000 kamera, za koje je komercijalni direktor TargetAI, Dmitry Panchenko, rekao da su povezane sa njihovim sistemom.
Još 6.000 kamera je povezano sa sistemom u Atirau, dok region Pavlodar već ima najmanje 5.000 kamera, a lokalne vlasti planiraju da instaliraju još 4.200 u naredne tri godine.
Ministarstvo odbrane izjavilo je za RSE da se 14.000 kamera nalazi u državnim objektima pod njegovom kontrolom i da se video-podaci čuvaju na serverima unutar vojnih jedinica, gde, kako navode, nije bilo bezbednosnih incidenata.
Ministarstvo unutrašnjih poslova nije odgovorilo na pitanja RSE o broju kamera koje ima povezane širom zemlje, niti o načinu na koji se ti podaci čuvaju i koriste. Portparol je samo izjavio da su video-podaci "zaštićeni savremenim sredstvima" i da do sada nije bilo bezbednosnih incidenata.
"Sve kamere postavljene u telima unutrašnjih poslova prolaze bezbednosne provere. Instalirane kamere nisu povezane sa internetom, već funkcionišu u zatvorenom sistemu", rekao je portparol.
Da li Kazahstan želi da sledi kineski model?
Kazahstanski sistem nadzora koji se brzo širi do sada je hvaljen zbog efikasnosti i poboljšanja bezbednosti, jer je doprineo smanjenju stope kriminala u nekim gradovima i efikasnijem upravljanju saobraćajem u velikim urbanim sredinama.
Međutim, predsednik Qasym-Zhomart Toqaev je govorio o širenju nadzora i kao o pitanju reda i zakona, posebno nakon nemira iz januara 2022. godine u kojima je poginulo najmanje 238 ljudi, uglavnom civila, i kada je bilo potrebno raspoređivanje ruskih trupa iz Organizacije ugovora o kolektivnoj bezbednosti (ODKB) kako bi se povratio red.
"Usput, kamere koje smo postavili u mnogim velikim gradovima igraju vrlo pozitivnu ulogu", rekao je Toqaev u govoru iz februara 2022. nakon što su protesti utihnuli.
"Neophodno je ne samo da obnovimo javni red, već i da povećamo broj kamera. Nije reč o potpunom nadzoru ili praćenju aktivnosti naših građana; ovo je pitanje bezbednosti", dodao je.
Iako Toqaev nikada nije eksplicitno rekao da želi da Kazahstan sledi kineski model nadzora, više puta je pohvalio vodeće kineske brendove iz te oblasti – uključujući tokom posete Kini 2019. godine, kada je obišao Hikvision, najvećeg proizvođača nadzornih kamera na svetu.
Hikvision i Dahua, još jedna velika kineska firma za nadzorne sisteme, široko se koriste u Kazahstanu, iako su obe kompanije delimično u državnom vlasništvu i pod sankcijama SAD od 2020. godine zbog saradnje u kineskom obračunu sa Ujgurima i drugim muslimanskim manjinama u Sinđangu.
Te kompanije su korišćene – pa čak i promovisane – zbog sposobnosti da prate ljude označene kao "sumnjivi" i da identifikuju lica prema etničkoj pripadnosti.
Dok kineske firme uspešno ulaze na kazahstansko tržište, nivo saradnje između kazahstanske vlade i Pekinga nije u potpunosti poznat. Međudržavni ugovori između Astane i kineskih kompanija objavljuju se javno, ali ne sadrže konkretne detalje o ugovorenim poslovima s kineskim IT firmama, niti o uslovima i obavezama tih ugovora.
Ipak, više od 100.000 dokumenata "procurelih" iz privatne kineske firme Geedge Networks u septembru ukazuju na to da kazahstanska vlada kupuje složenije sisteme za cenzuru i nadzor iz Kine.
Prema InterSecLab, globalnom institutu za digitalnu forenziku koji je analizirao "procurele" dokumente, Kazahstan izgleda kao prvi međunarodni klijent Geedge Networks-a za sistem cenzure modelovan po kineskom "Velikom zaštitnom zidu" – sistemu koji omogućava nadzor nad internet saobraćajem, blokiranje određenih sajtova i VPN servisa i praćenje pojedinaca.
U izveštaju se navodi i da se Kazahstan ranije oslanjao na ruski sistem za nadzor telekomunikacija poznat kao SORM (Sistem za operativno istražno nadgledanje), ali:
"Dokumenti predstavljaju ključni dokaz da je kazahstanski sistem internet nadzora sada baziran na kineskoj tehnologiji, putem firme Geedge, a ne više na ruskoj, kako se ranije pretpostavljalo."
Kazahstanska Komisija za nacionalnu bezbednost (KNB) preusmerila je pitanja RSE prema Ministarstvu za veštačku inteligenciju i digitalni razvoj, koje je izjavilo da "informacije iz dokumenata ne odgovaraju stvarnosti".
Kakva je budućnost digitalnog Kazahstana?
Iako kineski hardver ostaje osnova zbog svoje povoljne cene i napredne tehnologije, i druge strane kompanije ulaze na kazahstansko tržište.
Axis Communications iz Švedske i Hanwha Vision iz Južne Koreje takođe su prisutni u zemlji, dok je Astana nedavno najavila ugovor sa firmom Presight AI, startapom iz UAE koji je dobio veliki posao – zamenu Sergek sistema za praćenje saobraćaja u prestonici. Ugovor predviđa postavljanje 22.000 novih kamera u gradu koje će biti povezane sa programom iz Emirata.
Mnogi novi stambeni objekti u glavnim gradovima Kazahstana već imaju Face ID uređaje na ulazima, koji omogućavaju stanarima da otključaju vrata prepoznavanjem lica, bez upotrebe ključeva.
Kazahstanska vlada takođe je u oktobru 2024. godine najavila pokretanje centralizovanog nacionalnog sistema za daljinsku biometrijsku autentifikaciju, koji će biti primenjen u svim ključnim sektorima. U avgustu je doneta i odluka da sve banke i mikrokreditne organizacije moraju koristiti biometrijsku identifikaciju za izdavanje online kredita.
Oyuna Baldakova, istraživačica na projektu DIGISILK pri Kraljevskom koledžu u Londonu, rekla je za RSE da ovakva centralizacija osetljivih podataka otvara brojna bezbednosna pitanja.
Centralizovane baze podataka nisu samo izložene hakerskim napadima, već mogu biti i prodate, procureti ili iskorišćene za nadzor građana.
"Vremenom će količina podataka dostići nivo pri kojem država može direktno da prati ljude", rekla je Baldakova. "To može postati ozbiljan problem u sistemu bez snažnih mehanizama kontrole i ravnoteže."
Ona dodaje da i dalje postoji veliki digitalni jaz u zemlji – između urbanih centara i velikih delova Kazahstana sa slabom ili nepostojećom internet konekcijom.
Kazahstanska vlada priznaje da još uvek nema dovoljan broj inženjera za izgradnju digitalnih sistema i pokušava da privuče više stranih investicija u oblast veštačke inteligencije. Baldakova smatra da još uvek ne postoje kapaciteti za ostvarenje potpuno digitalne države kako je Toqaev zamislio.
"U isto vreme, država već ima kapacitet da identifikuje i prati određene osobe od interesa", rekla je.
"I dalje mogu da ih nadgledaju putem digitalnih sistema, interneta i telekomunikacionih mreža."