АСТАНА – У той час, як Казахстан просуває амбітний план зі створення сучасної мережі спостереження та модернізації своєї цифрової інфраструктури, активіст Санжар Бокаєв з власного досвіду дізнався, що така система може означати для таких людей, як він.
Після прибуття до аеропорту Алмати в червні Санджар Бокаєв – колишній казахстанський чиновник, який став відомим політичним блогером – був зупинений поліцією, коли його ідентифікували за допомогою вітчизняної системи розпізнавання облич на базі штучного інтелекту під назвою TargetEYE та внесли до її бази даних як «громадського активіста».
Бокаєв записав частину розмови на свій телефон і каже, що офіцер навіть показав йому його профіль у базі даних, який включав біометричне порівняння та його особисті дані, перш ніж його попросили пройти до поліцейської дільниці.
Зрештою його відпустили після короткого затримання в аеропорту, а Бокаєв пізніше опублікував відеозапис в інтернеті, заявивши, що уряд використовує передові технології для відстеження активістів.
МВС Казахстану заявило, що Бокаєва додали до бази даних помилково через його схожість з іншою особою. Міністр внутрішніх справ Єржан Садєнов пізніше заявив, що уряд не створює базу даних активістів і що «технології також можуть припускатись помилок».
«Ви можете це побачити на відео. Там показане моє фото, ім'я, ім'я батька, і я позначений як «громадський активіст». Хто ще це міг би бути? – сказав Бокаєв Радіо Свобода. – Більше того, там зазначено, що до бази даних введено антиекстремістське управління Міністерства внутрішніх справ. Навіть прізвище офіцера, який ввів ці дані до бази, записане. Проте вони заперечують, що це я [в базі даних]».
Бокаєва та інших активістів цей інцидент підштовхує до думки про найгірший сценарій, коли урядові зусилля щодо цифровізації, які включають десятки тисяч камер спостереження, розгорнуті з програмним забезпеченням для розпізнавання облич, централізовану систему цифрової ідентифікації та значні довгострокові інвестиції у штучний інтелект, можуть містити зловживання.
Адже уряд прагне запобігти будь-якому повторенню масових протестів та кривавих заворушень січня 2022 року, які загрожували владі президента Казахстану Касима-Жомарта Токаєва.
До цих проблем додається те, що значна частина апаратного та технологічного фундаменту стратегії цифровізації Казахстану походить з Китаю.
Сервери даних, телекомунікаційне обладнання, мікрочипи та камери спостереження китайського виробництва стали основою цифрових амбіцій Казахстану, які продовжили набирати обертів у вересні, коли Токаєв оголосив про створення нового міністерства штучного інтелекту.
Експерти заявили Радіо Свобода, що занепокоєння полягає не лише в тому, що ця центральноазійська країна може стати залежною від китайських компаній у своєму технологічному розвитку, але й у тому, що вона може прийняти модель громадського спостереження та цензури, яка існує в Китаї, де потреби в громадянських свободах та конфіденційності були порушені на користь державного контролю та безпеки.
«Китай, як політично, так і соціально, не є взірцем того, як технології повинні використовуватися в демократії, – сказала Радіо Свобода Дана Малікова, експертка з цифрових прав, яка працювала в кількох групах громадянських свобод у Казахстані. – Китай має передові технології, але питання полягає в тому, як вони будуть використовуватися [в Казахстані]».
Створення власної системи спостереження
Токаєв зробив величезну ставку на цифровізацію, щоб прокласти шлях до нових економічних можливостей для своєї країни, оголосивши під час своєї промови «Про становище країни» 8 вересня, що він хоче «перетворити Казахстан на повністю цифрову країну протягом трьох років».
Ключовою частиною стратегії є створення власних місцевих компаній Казахстану, що, за словами Токаєва, допоможе перетворити країну на регіонального технологічного гравця. Казахські фірми вже розробили серію власних продуктів, які використовуються по всій країні, включаючи Target AI, яка була заснована у 2019 році та розробила програму TargetEYE, яка визначила Бокаєва цього літа.
Ризик набагато вищий через використання розпізнавання облич. Ці біометричні дані можуть бути використані як проти громадян, так і проти національної безпекиДана Малікова
Багато найуспішніших технологічних компаній Казахстану працюють на перетині розпізнавання облич, допомоги зі штучним інтелектом та біометричної ідентифікації, що підживлюється зростаючим обсягом даних, зібраних через десятки тисяч камер спостереження, що висять на перехрестях вулиць та біля будівель по всій країні.
Деякі з цих камер встановлені приватними підприємствами та фізичними особами, але переважна більшість є частиною державних програм, інтегрованих з технологією розпізнавання облич на основі штучного інтелекту, як-от TargetEYE.
У компанії TargetАІ заявили Радіо Свобода, що вони лише надають технологію, а правоохоронні органи самі вирішують, як використовуватимуться їхні продукти.
«У більшості випадків наша компанія не має інформації про те, для яких цілей або як застосовуються технічні функції платформи», – заявили в компанії Радіо Свобода.
Вони також повідомили Радіо Свобода, що їхня платформа вже інтегрована в поліцейські та наглядові системи у восьми регіонах Казахстану. Таке охоплення допомогло перетворити TargetAI на ключовий інструмент у прогнозній поліцейській діяльності та операціях швидкого реагування.
Але масштаби розгортання та непрозорий спосіб використання цієї технології владою викликали нагальні питання щодо підзвітності, особливо після інциденту з Бокаєвим.
Зростаючі можливості уряду щодо спостереження також виходять за межі TargetEYE.
Smart Aqkol, казахстанська версія концепції розумного міста, випробувана в невеликому містечку на північ від Астани, виникла в рамках угоди між Kazakhtelecom, національною телекомунікаційною компанією Казахстану, Eurasian Resources Group – державною гірничодобувною компанією – та Tengri Lab, казахстанським технологічним стартапом.
Ще один вітчизняний проєкт називається Sergek, який починався як система збору даних на основі штучного інтелекту для компонента безпеки розумного міста Астани, і з того часу його використання зростає.
Встановлені камери не підключені до інтернету, а працюють у замкнутому контуріРечник МВС Казахстану
Уряд заявив, що метою цих проєктів є підвищення громадської безпеки та боротьба зі злочинністю за допомогою систем розумного міста, які пов’язують камери та програмне забезпечення для розпізнавання облич з поліцейськими терміналами та командними центрами для забезпечення широкого моніторингу.
Але також існують побоювання щодо того, як уряд використовуватиме всі дані, які він збирає.
«Ризик тут набагато вищий через використання розпізнавання облич, – сказала Малікова. – Ці біометричні дані можуть бути використані як проти громадян, так і проти національної безпеки країни [у чужих руках]».
Точна кількість камер, розгорнутих по всій країні в рамках урядових програм, невідома, але мерія Алмати заявила, що тільки в місті є щонайменше 128 000 камер, які, за словами комерційного директора TargetAI Дмитра Панченка, пов’язані з їхньою системою.
Ще 6000 камер підключено до системи в Атирау, а в Павлодарській області вже підключено щонайменше 5000 камер, і протягом наступних трьох років планується встановити 4200 нових камер, повідомляють місцеві чиновники.
Міністерство оборони повідомило Радіо Свобода, що в державних будівлях, що перебувають під його контролем, встановлено 14 000 камер, а відеодані зберігаються на серверах у військових частинах, де, за їхніми словами, не було жодних порушень безпеки.
МВС не відповіло на запит Радіо Свобода щодо кількості підключених камер по всій країні та того, як ці дані зберігаються та використовуються. Речник лише сказав, що відеодані «захищені сучасними засобами» і на сьогодні жодних інцидентів безпеки не було.
«Усі камери, встановлені в органах внутрішніх справ, проходять аудит безпеки. Встановлені камери не підключені до інтернету, а працюють у замкнутому контурі», – сказав речник.
Казахстан наслідує китайську модель?
Досі розширення системи спостереження в Казахстані рекламувалося за її ефективність та підвищення безпеки, оскільки це призвело до деякого зниження рівня місцевої злочинності та ефективнішого управління дорожнім рухом у великих містах.
Але Токаєв також говорив про розширення спостереження як питання правопорядку, особливо після заворушень у січні 2022 року, внаслідок яких загинули щонайменше 238 людей, переважна більшість з яких були цивільними особами.
Тоді переважно російські війська з Організації Договору про колективну безпеку (ОДКБ) були направлені до Казахстану для допомоги у відновленні порядку.
«До речі, камери, які ми встановили в багатьох великих містах, відіграють дуже позитивну роль», – сказав Токаєв у зверненні до нації в лютому 2022 року після того, як протести та заворушення вщухли.
«Нам потрібно не лише відновити громадський порядок, а й збільшити кількість камер. Питання не в повному спостереженні чи моніторингу дій наших громадян; це питання безпеки», – додав він.
Хоча Токаєв прямо не заявив, що хоче, щоб Казахстан наслідував китайський підхід до спостереження, проте він високо оцінив провідні китайські бренди, які стали лідерами ринку в цій галузі, а під час візиту до Китаю у 2019 році він відвідав Hikvision, провідного світового виробника камер спостереження.
Як Hikvision, так і Dahua, ще одна провідна китайська компанія з виробництва камер спостереження, широко використовуються по всьому Казахстану, але ці дві частково державні компанії також були санкціоновані США у 2020 році за допомогу Пекіну в репресіях проти уйгурів та інших мусульманських меншин у Сіньцзяні.
Обидві компанії використовувалися – і навіть рекламувалися – за їхню здатність відстежувати людей, позначених як «підозрілі», та виявляти обличчя на основі етнічної приналежності.
Хоча китайські компанії знайшли великий ринок у Казахстані, повний обсяг співпраці між урядом Казахстану та Пекіном невідомий. Міжурядові угоди між Астаною та китайськими компаніями опубліковані в інтернеті, але вони не містять подробиць щодо контрактів, укладених з китайськими ІТ-компаніями, і у відкритому доступі немає жодної інформації про умови та положення контрактів.
Але витік понад 100 000 документів з приватної китайської компанії Geedge Networks у вересні вказує на те, що уряд Казахстану звертається до Китаю для придбання складніших систем цензури та спостереження.
За даними InterSecLab, глобальної дослідницької установи цифрової криміналістики, яка перевірила витік, Казахстан, схоже, є першим міжнародним клієнтом Geedge Networks для системи цензури, створеної за зразком «Великого китайського фаєрволу», яка дозволяє користувачам контролювати онлайн-інформацію, блокувати певні вебсайти та інструменти VPN, а також шпигувати за певними особами.
У звіті InterSecLab щодо файлів також зазначається, що раніше Казахстан покладався на російську технологію Системи оперативно-розшукових заходів (SORM) для апаратного та програмного забезпечення мережевого спостереження у своїх телекомунікаційних мережах.
Але, як зазначається у звіті, документи є «критичними доказами того, що апарат інтернет-спостереження Казахстану постачається з Китаю через Geedge, а не з Росії, як припускали попередні дослідження».
Комітет національної безпеки (КНБ), головне розвідувальне агентство Казахстану, передав запитання Радіо Свобода до Міністерства штучного інтелекту та цифрового розвитку, яке заявило, що інформація в документах «не відповідає дійсності».
Яке цифрове майбутнє Казахстану?
Хоча економічно ефективне та передове обладнання Китаю відіграє значну роль у Казахстані, інші іноземні фірми також просуваються у цей регіон.
Продукція шведської Axis Communications та південнокорейської Hanwha Vision також використовується по всій країні, і Астана нещодавно оголосила про угоду з Presight AI, державним стартапом ОАЕ, який виграв великий контракт на заміну системи моніторингу дорожнього руху Sergek в Астані. Угода передбачає встановлення 22 000 нових камер у столиці, які потім підключаться до програми Еміратів.
У багатьох нових житлових будинках у головних містах Казахстану біля вхідних дверей встановлено пристрої Face ID, які дозволяють мешканцям відчиняти двері за допомогою біометричного відбитка обличчя замість ключа.
Уряд Казахстану також оголосив у жовтні 2024 року про плани запуску централізованої національної системи дистанційної біометричної автентифікації, яка буде впроваджена у всіх основних галузях промисловості. Потім, у серпні, Казахстан зобов'язав банки та мікрофінансові організації проводити біометричну автентифікацію для видачі онлайн-кредитів.
Оюна Балдакова, молодший науковий співробітник проєкту DIGISILK Королівського коледжу Лондона, розповіла Радіо Свобода, що ця зростаюча централізація детальних даних у країні створює кілька вразливостей у безпеці. Централізована база даних не лише вразлива до потенційних хакерських атак, але й може стати жертвою витоку інформації, як це сталося в червні.
З часом у вас буде рівень даних, коли держава зможе втручатися та відстежувати людейОюна Балдакова
Зібрані дані також можна продавати компаніям чи іншим урядам, або використовувати для моніторингу окремих громадян.
«З часом у вас буде рівень даних, коли держава зможе втручатися та відстежувати людей, – сказала Балдакова Радіо Свобода. – Це може бути серйозною проблемою в системі без належної системи стримувань і противаг».
Вона додає, що в Казахстані все ще існує цифровий розрив між його міськими центрами та великими частинами країни зі слабким зв’язком або взагалі без доступу до інтернету.
Уряд Казахстану також заявив, що наразі йому все ще не вистачає інженерів для створення цифрових систем, і він намагається залучити більше іноземних інвестицій у штучний інтелект. Балдакова каже, що все ще «недостатньо потужностей» для реалізації повністю цифрової держави, окресленої Токаєвим.
«Водночас держава все ще має можливість виділити певних людей, що становлять інтерес, – сказала вона. – Вони все ще можуть відстежувати їх та стежити за ними через ці цифрові системи, інтернет та телекомунікаційні мережі».
(Із Астани повідомляв казахстанський кореспондент Радіо Свобода Жолдас Орісбаєв. Із Праги повідомляв кореспондент з питань Китаю Рід Стендіш)
Форум