July 13, 2019

Деньги не пахнут

Фото: Gilles Sabrié for The New York Times

Недавно я ездил в Китай и был потрясен масштабами системы слежки за людьми. Камеры там повсюду, причём самые разные. Всё чаще можно встретить камеры с функцией распознавания лиц — они, как правило, стоят чуть выше человеческого роста и оснащены фонарями, которые вечером светят прямо в лицо, как копы в американских фильмах, которые остановили подозрительный автомобиль где-то на загородном шоссе…

Когда в сеть утекли данные с этих камер в одном из районов Пекина (а они хранились на сервере без пароля), оказалось, что там содержится информация по каждому из прохожих — по каким маршрутам ходят, где часто бывают, какие телефоны оказываются рядом. Были определены имена и номера паспортов, рядом стояли пометки, если гражданин уже попадал в поле зрения правоохранительных органов — «наркозависимый», «отбывал заключение» и так далее. Газета «Нью-Йорк Таймс» с возмущением писала, что камеры даже умеют определять национальность наблюдаемых, и если, например, несколько человек «подозрительной» национальности (под этим обычно понимаются выходцы из Синьцзяна) собираются вместе, полиция получает своевременный сигнал…

Скриншот: techcrunch
Скриншот: techcrunch

Алгоритмы китайских мессенджеров настроены так, что контент цензурируется ещё на этапе отправки. Допустим, пытаешься отправить другу видосик с протестами в Гонконге через китайский мессенджер WeChat, и твой аккаунт моментально блокируют, а для его разблокировки требуется подтвердить «согласие» с обвинением в нарушении правил, а затем на камеру сосчитать до десяти для разблокировки (при этом будет повторно снято лицо и записан образец голоса).

Кроме того, в Китае, по всей видимости, действует аналог американской PRISM — системы анализа сообщений в мессенджерах по ключевым словам. Ежедневно 1 миллиард диалогов (и примерно 3,7 миллиарда сообщений) в мессенджере WeChat отправляются «оператору» на изучение.

Скриншот: BBC

Чтобы собирать, хранить и анализировать весь этот массив данных (а это терабайты и терабайты информации), нужен специальный софт. В Китае есть несколько разработчиков такого софта, один из которых, компания Semptian, разработала систему Aegis.

Semptian highly likely связана с правительством КНР, а её софт используется для сбора данных о 200 миллионах жителей Китая, то есть почти четверти всех интернет-пользователей в стране. Разработчик гордится тем, что система позволяет определить геолокацию «почти каждого жителя Китая», а также собирает электронную переписку, телефонные переговоры, историю поиска в интернете и много чего ещё. «Aegis не имеет границ», — с гордостью говорят о нём сотрудники Semptian.

В этот момент вы могли подумать: «Ну это же коммуняки, которые только спят и видят, как бы залезть к вам в постель с фонариком!»

Но не спешите с выводами.

Расследование издания The Intercept показало, что в 2015 году Semptian вступила в американскую некоммерческую организацию OpenPower Foundation, которая занимается «распространением передовых знаний», позволяющих «переосмыслить подходы к технологиям» и «способствовать инновациям». OpenPower Foundation основана Google и IBM, и сотрудники этих компаний до сих пор занимают в ней руководящие посты. По всей видимости, через OpenPower Foundation американские компании и помогают Semptian в разработке Aegis без ущерба для собственной репутации.

Сама Semptian очень гордится сотрудничеством с передовыми американскими техническими гигантами. Недавно в Пекине проходила конференция, на которой китайские разработчики рассказывали американским партнёрам, как они работают над системой слежения за общественным мнением…

Это далеко не единственный случай, когда вскрываются тайные связи между передовыми американскими разработчиками и китайскими компаниями, связанными с государством и занимающимися слежкой за людьми. Американцы делятся с китайцами и научными разработками, и технологическими решениями, и оборудованием — всё это может быть использовано (и используется) для контроля за гражданами Китая.

В феврале 2018 года один из самых престижных технологических институтов в США, Массачусетский институт технологий, объявил о запуске «полноформатного исследовательского партнёрства» с китайской компанией SenseTime, занимающейся разработкой искусственного интеллекта. Этой компании принадлежит 49% в другой китайской компании SensNets, которая занимается разработкой систем слежки за жителями Китая, в том числе в Синьцзяне. Поэтому когда журналисты «Нью-Йорк Таймс» в следующий раз захотят возмутиться системой слежки за уйгурами, они могут писать обращение сразу в MIT.

Вообще у этого института много всяких интересных партнёров. Например, китайская компания iFlytek, занимающаяся системами определения личности по голосу и тоже сотрудничает с MIT. Какой сюрприз!

Есть ещё одна рукопожатная американская компания — Microsoft. В Америке она выступает за создание «понятных правил и принципов работы» систем распознавания лиц на основе траспарентности, подотчетности, законности и добровольности. Красивые слова, не правда ли?

Но тут оказывается, что уже упомянутая SenseNets, та самая, которая развивает системы слежки за гражданами Китая, на своём сайте указывает Microsoft в качестве партнёра! Сам Microsoft, правда, всё отрицает и говорит, что сотрудничество в создании таких систем противоречило бы принципам компании… Но осадочек всё равно остался.

И, как оказалось, не зря.

Недавно стало известно, что Microsoft всё-таки сотрудничает с китайскими оборонными институтами в сфере исследований по разработке систем, которые могут быть использованы для слежки за гражданами и цензуры! Надо же, как неудобно получилось!

К сожалению, реальность такова, что принципы принципами, а деньги, как известно, не пахнут. Передовые компании на словах могут выступать за подотчетность, законность, свободу, разнообразие взглядов и терпимость к тому, «какие мы все разные», но не давайте им себя обмануть. Как только поблизости раздастся звук хрустящих бумажек, эти компании моментально забудут про свои убеждения и выстроятся в очередь, чтобы помочь государствам в разработке систем контроля за людьми.

Помните, как было в рекламе? «Так то работа, а то жизнь».