Додека Казахстан напредува со амбициозен план за изградба на најсовремена мрежа за надзор и модернизација на својата дигитална инфраструктура, активистот Санжар Бокаев од прва рака дозна што би можел да значи таков систем за луѓе како него.

По пристигнувањето на аеродромот во Алмати во јуни, Бокаев - поранешен казахстански функционер кој стана истакнат политички блогер - беше запрен од полицијата кога беше идентификуван преку домашен систем за препознавање лица со вештачка интелигенција наречен „TargetEYE“ и беше наведен во нивната база на податоци како „граѓански активист“.

Бокаев снимил дел од интеракцијата на својот телефон и вели дека еден полицаец дури му го покажал и неговиот профил во базата на податоци, кој вклучувал биометриска споредба и негови лични податоци, пред да биде замолен да оди во полициска станица.

На крајот беше ослободен откако беше кратко приведен на аеродромот, а Бокаев подоцна објави снимка на интернет, велејќи дека владата користи напредна технологија за следење на активистите.

Казахстанското Министерство за внатрешни работи соопшти дека Бокаев е погрешно додаден во базата на податоци поради неговата сличност со друго лице. Министерот за внатрешни работи Јержан Саденов подоцна изјави дека владата не составува база на податоци за активисти и дека „технологијата исто така може да прави грешки“.

„Можете да го видите во видеото. На него се прикажани мојата фотографија, име, име на татко и јас сум означен како „граѓански активист“. Кој друг би можел да биде?“, изјави Бокаев за Радио Слободна Европа.

„Покрај тоа, се вели дека базата на податоци е внесена од одделот за борба против екстремизам на Министерството за внатрешни работи. Дури и презимето на службеникот што ја внесол е евидентирано. Сепак, тие негираат дека ова сум јас (во базата на податоци)“.

За Бокаев и другите активисти во земјата, инцидентот нуди увид во најлошото сценарио каде што владиниот притисок за дигитализација - кој вклучува десетици илјади камери за надзор распоредени со софтвер за препознавање лица, централен систем за дигитална идентификација и голема долгорочна инвестиција во вештачка интелигенција - би можел да биде злоупотребен, додека владата се стреми да спречи какво било повторување на масовните протести и крвавите немири од јануари 2022 година што му се закануваат на казахстанскиот претседател Касим-Жомарт Токаев да ја задржи власта.

Дополнително на ова загрижува и фактот од каде доаѓа голем дел од хардверската и технолошката основа за стратегијата за дигитализација на Казахстан: Кина.

Серверите за податоци, телекомуникациската опрема, микрочиповите и камерите за надзор произведени во Кина станаа темел на амбициите на Казахстан за дигитално прво место, кои продолжија да се засилуваат во септември кога Токаев најави создавање на ново министерство за вештачка интелигенција.

Загриженоста, изјавија експертите за Радио Слободна Европа не е само дека централноазиската земја би можела да остане зависна од кинеските компании за својот технолошки напредок, туку дека би можела да го усвои и моделот на јавен надзор и цензура во Кина, каде што потребите за граѓанска слобода и приватност се еродирани во корист на државната контрола и безбедност.

„Кина, и политички и социјално, не е модел за тоа како треба да се користи технологијата во демократија. Кина има напредна технологија, но прашањето е како таа ќе се користи во Казахстан“, изјави за РСЕ Дана Маликова, експерт за дигитални права која работела за повеќе групи за граѓански слободи во Казахстан.

Домашен систем за надзор

Токаев стави огромен облог на дигитализацијата за да го отвори патот за нови економски можности за својата земја, објавувајќи за време на својот говор за состојбата на нацијата на 8 септември дека сака „да го претвори Казахстан во целосно дигитална нација во рок од три години“.

Клучен дел од стратегијата е градењето на сопствените локални компании на Казахстан, за кои Токаев изјави дека ќе помогнат земјата да се претвори во регионален технолошки играч. Казахстанските фирми веќе развија серија домашни производи што се користат низ целата земја, вклучувајќи ја и Target AI, која беше основана во 2019 година и ја разви програмата TargetEYE што го идентификуваше Бокаев летово.

Многу од најуспешните домашни технолошки компании во Казахстан работат на пресекот на препознавање лица, помош со вештачка интелигенција и биометриска идентификација, кои се поттикнати од растечката количина на податоци собрани преку десетици илјади камери за надзор што висат на раскрсниците на улиците и надвор од зградите низ целата земја.

Некои од овие камери се инсталирани од приватни бизниси и поединци, но огромното мнозинство се дел од државни програми интегрирани со технологија за препознавање лица со вештачка интелигенција како TargetEYE.

Target AI за РСЕ изјави дека само ја обезбедува технологијата и дека агенциите за спроведување на законот треба да одлучат како ќе се користат нејзините производи.

„Во повеќето случаи, нашата компанија нема информации за тоа кои цели или како се применуваат техничките функции на платформата“, изјави компанијата за РСЕ.

Оттаму додаваат дека нејзината платформа веќе е интегрирана во полициските и надзорните системи во осум региони на Казахстан. Тој досег помогна Target EYE да се претвори во домашна клучна алатка во предвидливото полициско работење и операциите за брза реакција.

Но, обемот на распоредување и непроѕирниот начин на кој властите ја користат технологијата покренаа итни прашања за одговорноста, особено по инцидентот со Бокаев.

Растечките можности за надзор на владата се протегаат и надвор од Target AI.

„Smart Aqkol“, домашната верзија на казахстанскиот концепт за паметен град тестиран во мал град северно од Астана, се појави како дел од договор помеѓу Казахтелеком (Kazakhtelecom), националната телекомуникациска компанија на Казахстан, Eurasian Resources Group - државна рударска компанија - и Tengri Lab, казахстански технолошки стартап.

Релевантноста на моделот исчезна од владините изјави во последниве години во корист на други домашни производи за надзор, но тој ја истакнува желбата на Астана да изгради свои национални ентитети.

Друг домашен проект се нарекува „Сергек“, и тој започна како систем за собирање податоци управуван од вештачка интелигенција за безбедносната компонента на паметниот град на Астана и оттогаш неговата употреба расте.

Владата изјави дека нејзината цел со овие проекти е да ја подобри јавната безбедност и да се бори против криминалот со системи за паметни градови што ги поврзуваат камерите и софтверот за препознавање лица со полициски терминали и командни центри за да обезбедат широко распространет мониторинг.

Но, постојат и загрижености за тоа како владата ќе ги користи сите податоци што ги собира.

„Ризикот овде е многу поголем поради употребата на препознавање лица. Тие биометриски податоци можат да се користат и против граѓаните и против националната безбедност на земјата во погрешни раце“, предупредува Маликова.

Точниот број на камери распоредени низ целата земја преку владини програми не е познат, но канцеларијата на градоначалникот на Алмати соопшти дека само градот има најмалку 128 000 камери, за кои Дмитриј Панченко, комерцијалниот директор на TargetAI, рече дека се поврзани со нивниот систем.

Други 6000 камери се поврзани со системот во Атирау, а регионот Павлодар веќе има најмалку 5000 камери поврзани со системот и планира да инсталира 4200 нови камери во текот на следните три години, соопштија локалните власти.

Министерството за одбрана за Радио Слободна Европа изјави дека 14000 камери се инсталирани во државни згради под негова контрола и дека видео податоците се чуваат на сервери во воените единици, каде што како што велат, дека немало безбедносни нарушувања.

Министерството за внатрешни работи не одговори на прашањата на РСЕ за бројот на камери што ги поврзало низ целата земја и за тоа како се складираат и користат податоците. Портпаролот само рече дека видео податоците „се заштитени со современи средства“ и дека досега немало безбедносни инциденти.

„Сите камери инсталирани во органите за внатрешни работи се подложуваат на безбедносни ревизии. Инсталираните камери не се поврзани на интернет, туку работат во затворена контура“, рече портпаролот.

Дали Казахстан сака да го следи кинескиот модел?

Досега, системот за надзор во Казахстан, кој е во експанзија, беше фален за неговата ефикасност и безбедносни придобивки, бидејќи доведе до одреден пад на локалните стапки на криминал и поефикасно управување со сообраќајот во големите градови.

Но, Токаев, исто така, зборуваше за проширувањето на надзорот како прашање на законот и редот, особено по немирите од јануари 2022 година, во кои загинаа најмалку 238 лица, од кои огромното мнозинство беа цивили, и беше потребен одред од претежно руски војници од Организацијата на договорот за колективна безбедност (ОДБК) за да се помогне во воспоставувањето на редот.

„Патем, камерите што ги инсталиравме во многу големи градови играат многу позитивна улога. Треба не само да го вратиме јавниот ред, туку и да го зголемиме бројот на камери. Проблемот не е целосен надзор или следење на активностите на нашите граѓани, ова е безбедносно прашање“, додаде тој“, рече Токаев во обраќањето до нацијата во февруари 2022 година, откако протестите и немирите стивнаа.

Иако Токаев експлицитно не изјави дека сака Казахстан да го следи пристапот на Кина кон надзорот, тој ги пофали водечките кинески брендови кои станаа лидери на пазарот во оваа област, како на пример за време на посетата на Кина во 2019 година, кога го посети Hikvision, водечкиот светски производител на камери за надзор.

И Hikvision и Dahua, друга врвна кинеска фирма за камери за надзор, се користат широко низ целиот Казахстан, но двете компании делумно во државна сопственост беа санкционирани и од Соединетите Држави во 2020 година за помагање на Пекинг во репресијата против Ујгурите и другите муслимански малцинства во Синџијанг.

Двете компании се користени - па дури и промовирани - за нивната способност да следат луѓе означени како „сомнителни“ и да таргетираат лица врз основа на етничка припадност.

Иако кинеските компании пронајдоа голем пазар во Казахстан, целосниот обем на соработка помеѓу казахстанската влада и Пекинг не е познат. Меѓувладините договори помеѓу Астана и кинеските компании се објавени на интернет, но тие не содржат специфики во врска со договорите склучени со кинески ИТ компании и нема детали во јавноста за условите, обврските и условите на договорите.

Но, протекувањето на повеќе од 100 000 документи од приватната кинеска компанија Geedge Networks во септември укажува на тоа дека казахстанската влада се врти кон Кина за да купи посложени системи за цензура и надзор.

Според InterSecLab, глобална институција за истражување на дигитална форензика која го разгледа протекувањето, се чини дека Казахстан е првиот меѓународен клиент на Geedge Networks за систем за цензура, моделиран според кинескиот „Голем заштитен ѕид“, кој им овозможува на корисниците да следат онлајн информации, да блокираат одредени веб-страници и VPN алатки и да шпионираат одредени лица.

Извештајот на InterSecLab за досиејата, исто така, забележува дека Казахстан претходно се потпирал на технологијата на рускиот Систем за оперативни истражни мерки(СОИМ) за хардвер и софтвер за мрежен надзор во своите телекомуникациски мрежи.

Но, документите, се наведува во извештајот, се „клучен доказ дека апаратот за интернет надзор на Казахстан е набавен од Кина, преку Geedge, а не од Русија, како што претпоставуваа претходните истражувања“.

Комитетот за национална безбедност (KNB), главната разузнавачка агенција на Казахстан, ги упати прашањата на Радио Слободна Европа до Министерството за вештачка интелигенција и дигитален развој, кое рече дека информациите во документите „не одговараат на реалноста“.

Како ќе изгледа дигиталната иднина на Казахстан?

Иако исплатливиот и напреден хардвер на Кина игра голема улога во Казахстан, и други странски фирми се вселуваат.

Производите од шведската „Аксис Комуникејшнс“ и јужнокорејската „Ханва Вижн“ исто така се користат низ целата земја, а „Астана“ неодамна објави договор со „Презајт АИ“, стартап поддржан од државата на ОАЕ, кој доби голем договор за замена на системот за следење на сообраќајот на „Сергек“ во главниот град на Казахстан. Договорот предвидува инсталирање на 22000 нови камери во градот, а потоа поврзување со програмата на Емиратите.

Многу нови станбени згради во главните градови на Казахстан имаат инсталирано уреди за идентификација на лице на своите влезови, кои им овозможуваат на жителите да се ослободат од користење на клуч.

Казахстанската влада, исто така, објави планови во октомври 2024 година за лансирање на централизиран национален систем за далечинска биометриска автентикација што ќе се имплементира во сите поголеми индустрии. Потоа, во август, Казахстан им наложи на банките и организациите за микрофинансирање да спроведуваат биометриска автентикација за издавање онлајн кредити.

Ојуна Балдакова, вонреден истражувач во проектот DIGISILK на Кингс колеџ во Лондон, за Радио Слободна Европа изјави дека оваа растечка централизација на детални податоци во земјата покренува неколку безбедносни слабости. Централизираната база на податоци не само што е изложена на потенцијални хакерски напади, туку може и да биде протечена, како што се случи во јуни.

Може да се продаде и на компании или други влади или да се користи за следење на индивидуални граѓани.

„Со текот на времето, ќе имате ниво на податоци каде што државата може да се вклучи и да ги следи луѓето. Ова може да биде голем проблем во систем без добри проверки и рамнотежи“, изјави Балдакова за РСЕ.

Таа додава дека сè уште постои дигитален јаз во Казахстан помеѓу неговите урбани центри и големи делови од земјата со слаби врски или воопшто без пристап до интернет.

Казахстанската влада, исто така, изјави дека во моментов сè уште има недостиг од регрутирање инженери за изградба на дигитални системи и се обидува да привлече повеќе странски инвестиции во вештачката интелигенција.

Балдакова вели дека сè уште „нема доволно капацитет“ за да се реализира целосно дигиталната состојба што ја опиша Токаев.

„Во исто време, државата сè уште има капацитет да издвојува одредени „луѓе од интерес“. Тие сè уште можат да ги следат и преку овие дигитални системи, интернет и телекомуникациски мрежи.“

Во соработка со Жолдас Орисбаев од казахстанскиот сервис на РСЕ .