О том, что такое современная сеть наблюдения, гражданский активист из Алматы Санжар Бокаев узнал буквально на своей шкуре.
В июне Бокаева, бывшего чиновника, ставшего известным политическим блогером, задержали в алматинском аэропорту. Полицейские остановили его после того, как система распознавания лиц на основе искусственного интеллекта TargetEYE указала на Бокаева как на находящегося в розыске.
Бокаев записал часть разговора с силовиками на телефон и рассказал, что сотрудник полиции показал его профиль в базе данных. В смартфоне полицейского, где отображаются данные из базы, были имя, фамилия и отчество Бокаева, также было указано, что он гражданский активист.
После непродолжительного задержания в аэропорту его отпустили. Позже Бокаев выложил видеозапись в интернете, отметив, что правительство использует передовые технологии для слежки за активистами.
«Это видно на видео. Там есть моя фотография, имя, отчество, и я отмечен как "гражданский активист". Кто ещё это может быть? — говорит Бокаев. — Более того, там говорится, что в базу данных внёс отдел по борьбе с экстремизмом МВД. Даже фамилия сотрудника, который внёс, зафиксирована. Но они отрицают, что это я [в базе данных]».
МВД Казахстана сообщило, что Бокаев был ошибочно добавлен в базу данных из-за сходства с другим человеком. Министр внутренних дел Ержан Саденов впоследствии заявил, что правительство не ведет базу данных активистов и что «техника тоже ошибается».
Правительство Казахстана стремится предотвратить повторение массовых протестов и кровавых беспорядков января 2022 года, которые поставили под угрозу власть президента Казахстана Касым-Жомарта Токаева, и реализует свою политику цифровизации. Но для Бокаева и других активистов в стране инцидент дает представлении о наихудшем сценарии, при котором эта правительственная политика, включающая десятки тысяч камер видеонаблюдения с функцией распознавания лиц, централизованную систему цифровой идентификации и крупные долгосрочные инвестиции в искусственный интеллект, может быть использована во вред.
Опасения усугубляются тем, что значительная часть оборудования и технологической основы стратегии цифровизации Казахстана поступает из Китая.
Серверы, телекоммуникационное оборудование, микрочипы и камеры видеонаблюдения китайского производства стали основой цифровых амбиций Казахстана, которые продолжают набирать обороты. В сентябре Токаев объявил о создании нового министерства по искусственному интеллекту.
Как отмечают эксперты в разговоре с Радио Свободная Европа/Радио Свобода, опасения вызывают не только то, что Астана может оказаться в зависимости от китайских компаний в плане своего технологического прогресса, но и то, что она может перенять китайскую модель общественного надзора и цензуры. Внутри Китая гражданские свободы и неприкосновенность частной жизни отданы в жертву государственному контролю и безопасности.
«Китай ни в политическом, ни в социальном плане не является образцом того, как надо использовать технологии в демократическом обществе, — считает Дана Маликова, эксперт по цифровым правам, работавшая в нескольких группах по защите гражданских свобод в Казахстане. — У Китая есть передовые технологии, но вопрос заключается в том, как они будут применяться [в Казахстане]».
Создание собственной системы видеонаблюдения
Токаев делает ставку на цифровизацию, чтобы проложить путь к новым экономическим возможностям для своей страны. В выступлении перед парламентом 8 сентября он заявил, что ставит задачей «превращение Казахстана в течение трех лет в полноценную цифровую страну».
Ключевым элементом стратегии является развитие собственных компаний, которые, по словам Токаева, помогут превратить государство в регионального технологического игрока. Казахстанские компании уже разработали ряд собственных продуктов, которые используются по всей стране, включая Target AI, основанную в 2019 году и разработавшую программу TargetEYE, которая идентифицировала Санжара Бокаева минувшим летом.
Многие из самых успешных казахстанских технологических компаний работают на стыке распознавания лиц, искусственного интеллекта и биометрической идентификации, чему способствует растущий объем данных, собираемых десятками тысяч камер видеонаблюдения, установленных на перекрестках и зданиях по всей стране.
Некоторые из этих камер размещены частными компаниями и частными лицами, но подавляющее большинство из них, интегрированных с технологией распознавания лиц на основе искусственного интеллекта (как, например), TargetEYE, являются частью государственных программ.
Компания Target AI сообщила Радио Свободная Европа/Радио Свобода, что она лишь предоставляет технологию, а государственные органы самостоятельно решают, как использовать её продукты.
«В большинстве случаев наша компания не имеет информации о целях и способах применения технических функций платформы», — заявила компания.
Компания также отметила, что её платформа уже интегрирована в полицейские и надзорные системы в восьми регионах Казахстана. Это помогло превратить Target EYE в ключевой инструмент предупредительной полицейской работы и операций быстрого реагирования.
Однако масштабы внедрения и непрозрачность использования технологии властями вызывают острые вопросы об ответственности, особенно после инцидента с Бокаевым.
Растущие возможности правительства в области слежки за людьми выходят за рамки Target AI.
Smart Aqkol, казахстанская версия концепции «умного города», протестированная в небольшом городе Акколе к северу от Астаны, стала результатом соглашения между «Казахтелекомом», национальной телекоммуникационной компанией Казахстана, горнодобывающей компанией с государственной поддержкой Eurasian Resources Group и казахстанским технологическим стартапом Tengri Lab.
В последние годы актуальность модели снизилась из-за заявлений правительства, отдавшего предпочтение другим продуктам для видеонаблюдения, но она подчеркивает стремление Астаны развивать собственные национальные проекты.
Ещё один отечественный проект — «Сергек», который начинался как система сбора данных на базе искусственного интеллекта для обеспечения безопасности Астаны, постепенно расширяет сферу применения.
Правительство заявило, что цель этих проектов — укрепить общественную безопасность и бороться с преступностью с помощью систем «умного города», которые связывают камеры и программы распознавания лиц с полицейскими терминалами и оперативными центрами для обеспечения повсеместного мониторинга.
Но есть также опасения относительно того, как правительство будет использовать собираемые данные.
«Риск здесь значительно выше из-за использования распознавания лиц, — рассуждает Маликова. — Биометрические данные могут быть использованы как против граждан, так и против национальной безопасности страны [если попадут в чужие руки]».
Точное количество камер, установленных по всей стране в рамках государственных программ, неизвестно, но акимат Алматы заявил, что в этом городе установлено не менее 128 тысяч камер, которые, по словам коммерческого директора TargetAI Дмитрия Панченко, подключены к системе.
Ещё 6000 камер подключены к системе в Атырауской области, в Павлодарской области — не менее 5000 камер, и в течение следующих трёх лет планируется установить 4200 новых, сообщают местные власти.
Министерство обороны сообщило Радио Свободная Европа/Радио Свобода, что в подконтрольных ему государственных зданиях установлено 14 тысяч камер, а видеоданные хранятся на серверах в воинских частях, где, по заверению ведомства, нарушений безопасности не зафиксировано.
Министерство внутренних дел не ответило на вопросы редакции о количестве подключенных камер по всей стране и о том, как хранятся и используются собранные данные. Представитель ведомства заявил лишь, что видеоданные «защищены современными средствами», и на сегодняшний день связанных с безопасностью инцидентов не зафиксировано.
«Все камеры, установленные в органах внутренних дел, проходят проверку на безопасность. Установленные камеры не подключены к интернету и работают в замкнутом контуре», — заявили в МВД.
Стремится ли Казахстан следовать примеру Китая?
Власти хвалят расширяющуюся систему видеонаблюдения в Казахстане, заявляя о ее эффективности. Они подчеркивают, что снизился уровень преступности на местах, улучшилось управление дорожным движением в крупных городах.
Однако Токаев также говорил о расширении видеонаблюдения как о проблеме обеспечения правопорядка, особенно после Январских событий 2022 года, в результате которых погибли по меньшей мере 238 человек, в основном мирных жителей, когда для восстановления порядка Астана обратилась за помощью к Организации Договора о коллективной безопасности (ОДКБ), направившую иностранных военнослужащих, преимущественно российских.
«Кстати говоря, эти камеры, которые мы сейчас поставили во многих крупных городах, играют очень положительную роль», — сказал Токаев в выступлении в феврале 2022 года после протестов и беспорядков.
«Надо увеличить количество камер. Дело не в том, что мы собираемся установить какой-то тотальный мониторинг или слежение за действиями наших граждан. Это вопрос их безопасности», — добавил он.
Хотя Токаев прямо не заявлял, что хочет, чтобы Казахстан последовал примеру Китая в вопросах видеонаблюдения, он ранее хвалил ведущие китайские бренды, ставшие лидерами рынка в этой сфере. В ходе визита в Китай в 2019 году, когда он посетил компанию Hikvision — ведущего мирового производителя камер видеонаблюдения.
В Казахстане широко используется также продукция Hikvision и Dahua, ещё одной ведущей китайской компании по производству камер видеонаблюдения. Две компании, частично принадлежащие государству, попали под санкции США в 2020 году за содействие Пекину в репрессиях в отношении уйгуров и других тюркоязычных мусульман в Синьцзяне.
Обе компании рекламируют способности своих камер отслеживать людей, помеченных как «подозрительных», и опознавать лица по этническому признаку.
Хотя китайские компании нашли в Казахстане большой рынок, истинный масштаб сотрудничества между Астаной и Пекином неизвестен. Межправительственные соглашения между Казахстаном и китайскими компаниями публикуются в интернете, но не содержат подробностей о контрактах, заключенных с китайскими IT-компаниями. В открытом доступе нет подробной информации об условиях, обязательствах и сроках контрактов.
Однако утечка более 100 тысяч документов частной китайской компании Geedge Networks в сентябре указывает на то, что правительство Казахстана обратилось к Китаю за усовершенствованными системами интернет-цензуры и слежки.
По данным InterSecLab, международного исследовательского центра цифровой криминалистики, изучившего утечку, Казахстан, по всей видимости, стал первым зарубежным покупателем Geedge Networks и получил систему цензуры, созданную по образцу «Великого китайского файрвола». Система позволяет отслеживать онлайн-информацию, блокировать определённые сайты и VPN-инструменты, а также шпионить за конкретными лицами.
В исследовании InterSecLab по файлам также отмечается, что Казахстан ранее использовал российскую систему оперативно-розыскных мероприятий для обеспечения безопасности оборудования и программного обеспечения сетевого мониторинга в своих телекоммуникационных сетях.
Однако утекшие документы, как утверждают в InterSecLab, являются «важнейшим доказательством того, что система интернет-слежки в Казахстане поставлена из Китая через Geedge, а не из России, как предполагалось в предыдущих исследованиях».
Комитет национальной безопасности (КНБ) переадресовал вопросы Радио Свободная Европа/Радио Свобода в министерство искусственного интеллекта и цифрового развития, которое заявило, что информация InterSecLab «не соответствует действительности».
Каким будет цифровое будущее Казахстана?
Хотя экономичное и современное китайское оборудование играет важную роль в Казахстане, в стране внедряются продукты и других иностранных компаний.
Продукция шведской Axis Communications и южнокорейской Hanwha Vision также используется по всей стране, и Астана недавно объявила о сделке с Presight AI, стартапом, из ОАЭ, поддерживаемым государством. Компания выиграла крупный контракт на замену системы мониторинга дорожного движения Sergek в Астане, который предусматривает установку 22 тысяч новых камер в столице с последующим подключением к разработанному в Эмиратах программному обеспечению.
Во многих новых жилых домах крупных городов Казахстана установлены устройства Face ID, которые позволяют жителям заходить на территорию без использования ключа.
Правительство Казахстана также объявило в октябре 2024 года о планах запуска централизованной национальной системы удаленной биометрической аутентификации, которая будет внедрена во всех основных отраслях. В августе Казахстан ввел обязательное требование к банкам и микрофинансовым организациям проводить биометрическую аутентификацию при выдаче онлайн-кредитов.
Оюна Балдакова, исследователь проекта DIGISILK Королевского колледжа Лондона, говорит Радио Свободная Европа/Радио Свобода, что растущая централизация подробных данных в стране создаёт ряд уязвимостей. Централизованная база данных не только подвержена потенциальным взломам, но и может быть подвержена утечке, как это произошло в июне.
Базу также можно продать компаниям или другим правительствам, или использовать для мониторинга отдельных граждан.
«Со временем появится такой уровень данных, что государство сможет вмешиваться и отслеживать жизнь людей, — отмечает Балдакова. — Это может стать серьёзной проблемой в системе без эффективной структуры сдержек и противовесов».
Она добавляет, что в Казахстане всё ещё существует цифровой разрыв между городскими центрами и обширными территориями страны со слабым интернет-соединением или полным его отсутствием.
Правительство Казахстана заявило, что в настоящее время ему по-прежнему не хватает инженеров для создания цифровых систем. Оно пытается привлечь больше иностранных инвестиций в сферу искусственного интеллекта. Балдакова считает, что для создания полностью цифрового государства, описанного Токаевым, «пока недостаточно мощностей».
«В то же время государство по-прежнему может выделять определённых людей, представляющих интерес, — сказала она. — Они по-прежнему могут отслеживать их и следить за ними через эти цифровые системы, интернет и телекоммуникационные сети».
