Книга Государство строгого режима. Внутри китайской цифровой антиутопии - Джеффри Кейн

Что же мог предложить этот новый, малоизвестный мессенджер на уже переполненном рынке?

«В то время, – объясняет Ирфан, – у всех телекоммуникационных операторов были свои собственные популярные мессенджеры. WeChat объединил их на единой платформе. Это и стало решением нашей проблемы».

Weixin, позже переименованный в WeChat, быстро взлетел. Уже через год у него было 100 млн пользователей, а через два года – 300 млн. Для достижения подобных показателей Facebook потребовалось четыре года, а Twitter – пять.

Со временем стало понятно, что успех WeChat отчасти объяснялся талантливым маркетингом и проработанным функционалом, который позволял пользователям не вылезать из своих телефонов. В приложении можно было записаться на прием к врачу, вызвать такси, расплатиться в местном супермаркете, нанять уборщицу, организовать романтическое свидание и управлять инвестициями – принципиально новые функции во времена, когда WhatsApp еще был относительно минималистичен, а эпоха Tinder и Uber не наступила.

В WeChat были и немного странные функции, привлекательные для пользователей, желавших получить очередную дозу дофамина. Например, телефон можно было встряхнуть, чтобы пообщаться с незнакомцем из любого уголка планеты, который тоже активировал функцию «встряхивания».

Помогло и то, что конкуренты, Facebook и Twitter, в Китае были заблокированы.

WeChat подчинил себе жизнь китайцев, особенно молодежи. Прежде всего это означало, что любая активность пользователей теперь могла отслеживаться, а данные о ней собирались. «Над людьми ставились эксперименты по наблюдению», – вспоминает Ирфан. WeChat предоставлял «внушительную онлайн-базу данных о человеческой жизни: покупках, лайках, расставаниях и переписках. Создавалась экосистема. Мы собирали большой объем информации, необходимый для массовой слежки».

В апреле 2013 года Ирфан «получил задание от руководства, которому, в свою очередь, приказывало правительство». Областная администрация Синьцзяна разбиралась с серией терактов в регионе и желала собрать информацию о подозреваемых.

«Меня назначили ответственным за установку около четырех тысяч серверов в Синьцзяне. На серверах должны были храниться все метаданные QQ и WeChat, а также номера телефонов [жителей Синьцзяна]», – рассказывал Ирфан.

Проект «Безопасный город», расширившийся до массового сбора данных со смартфонов, начал вызывать у Ирфана чувство дискомфорта.

«Некоторые в нашем офисе были недовольны, – заметил он. – Действительно ли властям нужны метаданные WeChat о каждом человеке, чтобы бороться с преступностью?»

«Управление общественной безопасности черпало метаданные из WeChat. В рамках проекта мы предоставили правительству доступ к нашим [телекоммуникационным] серверам, поэтому управление могло хранить метаданные в Синьцзяне… Все это было секретно. Они не говорили людям, что изучают информацию о них».

Как офис Ирфана вообще получил доступ к метаданным WeChat?

«В Китае не нужно спрашивать разрешения. Если [Министерство общественной безопасности] запросит метаданные, каждый китайский разработчик приложений, по крайней мере в Синьцзяне, их предоставит», – пояснил Ирфан.

В общем смысле метаданные – это упрощенные данные, которые описывают или идентифицируют другие части данных, например номер телефона, по которому совершался звонок, но не само содержание разговора. Ирфан рассказывал, что у властей не было возможности хранить сами телефонные разговоры на новых серверах в Синьцзяне за исключением отдельных звонков, выловленных и перехваченных офицерами службы общественной безопасности или их коллегами по сбору информации – сотрудниками органов государственной безопасности.

Но это было неважно. Хватало и метаданных. Управление госбезопасности в Синьцзяне могло расписать схему взаимоотношений любого человека почти с каждым, с кем он переписывался или созванивался посредством WeChat. Доступ к этой паутине связей означал, что полицейские знали, до кого из друзей, знакомых или членов семьи им нужно добраться, если они захотят кого-нибудь допросить или арестовать.

Чем ближе Ирфан был к завершению проекта, тем заметнее менялось настроение в его офисе. Там работало всего несколько уйгуров. Практически все остальные были ханьцами, и они начинали все с большим подозрением относиться к Ирфану, уйгуру, считая его гражданином второго сорта, которому небезопасно доверять государственные тайны.

Ирфан продолжал работать в своем офисе, несмотря на царившую вокруг него атмосферу недоверия. Он опасался, что Китай пытается понять, как построить общество апартеида с опорой на технологии. Власти уже получили все необходимые данные из мессенджера WeChat и из телекоммуникационной сети Ирфана, отслеживающей телефонные звонки и передачу информации.

«Способен ли Китай вывести слежку на новый уровень?» – задавался вопросом Ирфан.

Он был убежден, что да.

Глава 5

Глубинная нейронная сеть

Не паникуйте, верьте в науку, не распространяйте слухи!

Государственный пропагандистский плакат

Несмотря на весь этот прогресс, оставалась и проблема. Китайские технологические компании в основном продвигали продукт по схеме Me Too («Я тоже»): приложения и услуги копировались с американских и европейских аналогов, а затем адаптировались для китайского рынка.

В работе с иностранными партнерами китайские корпорации, поддерживаемые государством, практиковали то, что в бизнесе называется «принудительной передачей интеллектуальной собственности». Чтобы выйти на закрытый рынок Китая, иностранным компаниям обычно приходилось договариваться с китайскими партнерами. Одно из неформальных требований заключалось в передаче китайским компаниям так называемых чувствительных технологий – полупроводников, медицинской аппаратуры и нефтегазового оборудования.

По правилам Всемирной торговой организации такое требование является незаконным, однако американские компании хоть и неохотно, но все же раскрывали свои коммерческие тайны в надежде получить доступ к 1,4 млрд потенциальных клиентов в Китае.

Когда Китай начал накапливать данные о своих гражданах, собирая информацию об использовании приложений и сервисов, подобных WeChat, перспектива стать лидерами в расширяющейся и прибыльной индустрии искусственного интеллекта привлекла многие зарождающиеся местные высокотехнологичные компании. Китайские исследователи в области ИИ, которых становилось все больше, внимательно следили за открытиями, которые совершались в США, мировом лидере отрасли. Китайские компании надеялись раскрыть тайны искусственного интеллекта, разыскивая талантливых разработчиков-китайцев, учившихся за границей и работавших в Microsoft и Amazon, и заманивая их на родину высокими зарплатами и призывами к патриотизму. К началу 2010‐х годов китайские программисты вплотную приблизились к созданию глубинной нейронной сети – святого Грааля надзорного государства; системы, способной обучаться и находить закономерности между миллионами изображений и точек данных.

В течение многих лет исследователи в области ИИ полагались на так называемую «основанную на правилах» систему программирования. Они закладывали в компьютер программу для распознавания кошки, сообщая ему: «Ищи окружность с двумя треугольниками сверху». Такой подход был оправдан, поскольку на большее у компьютеров не хватало вычислительной мощности. Однако он также и ограничивал возможности ИИ: не все изображения кошек представляют собой идеальную окружность с двумя треугольниками сверху, и не все окружности с треугольниками сверху являются кошками.

Более современная технология – глубинная нейронная сеть – обладала целым рядом преимуществ. У операторов больше не было необходимости выполнять монотонную и трудоемкую работу по ручной категоризации изображений и данных, а затем писать правила для системы искусственного интеллекта. Вместо этого программное обеспечение научилось самостоятельно соединять разрозненные данные, просматривая огромный объем информации, а затем обучаться на основе этих данных. Впоследствии программа могла совершенствовать алгоритм выполнения задачи, для решения которой ее и создавали. Чем меньше операторов контролировало и ограничивало программное обеспечение, тем больше вариантов применения ИИ появлялось у компаний. Глубинные нейронные сети научились управлять беспилотными автомобилями, помогать врачам ставить диагнозы, а также выявлять мошенничество с кредитными картами.

До 2012 года идея о том, что глубинная нейронная сеть способна оказать влияние на рынок, считалась вздором. Как бы ни старались программисты из Microsoft Research Asia и новых возникающих компаний, их труды ни к чему не приводили. В 2012 году разработчики в области ИИ в Китае и Кремниевой долине говорили мне, что создание нейронной сети станет золотой жилой для Microsoft. В мае 2011 года Microsoft приобрела Skype, популярную во всем мире программу для звонков и видеоконференций, совершив крупнейшую на тот момент сделку в отрасли. Если бы Skype или Microsoft Windows умели распознавать голос и лица, это стало бы прорывом. Была бы заложена основа для функции перевода в реальном времени и системы кибербезопасности, опирающихся на технологию распознавания лиц.

В 2011 году в Пекине я познакомился с группой молодых китайских исследователей, вкалывающих до потери пульса и без выходных в попытках разрешить целый