электрической сети. Он оберегает людей от поражения током, а имущество — от пожара. Или антивирусные программы — они защищают от компьютерных вирусов. Я уверен, со временем появятся технологии и политические решения и для проблем, связанных с негативным влиянием ИИ, с предвзятостью и непрозрачностью его работы.
Но сначала нам придется пойти по стопам Наяны и Сахеджа и сообщить людям о серьезности проблем, а уж затем мобилизовать человечество на поиск их решений.
Глава 2. Боги под масками
И правда, и утро со временем проясняются.
Африканская пословица
РАССКАЗ ПЕРЕВЕДЕН ЭМИЛИ ДЖИН
Примечание Кай-Фу: В этой истории рассказывается о молодом нигерийском видеопродюсере, которого наняли для создания серьезного дипфейка[22]. Одним из основных направлений ИИ является так называемое компьютерное зрение — оно учит машины «видеть», и недавние прорывы в этой сфере позволяют получать невиданные доселе результаты. Этот рассказ — фантазия о мире будущего, характерной чертой которого стали беспрецедентные высокотехнологические игры в стиле «кошки-мышки» между мошенниками и их разоблачителями; между преступниками и потенциальными жертвами. Можем ли мы избежать такого мира, в котором все визуальные линии размыты и нечетки? Я исследую этот вопрос в своем комментарии: я опишу недавние и предстоящие открытия в области компьютерного зрения, биометрии и безопасности ИИ — трех технологических сферах, которые позволяют создавать подделки-дипфейки и другие подобные технологии.
Поезд наземного метро подтягивался к станции Яба, и Амака нажал кнопку открытия дверей. Они с визгом разъехались; парень, не дожидаясь полной остановки, спрыгнул на перрон. Он больше не мог вынести в этом черепашьем поезде, в его спертом воздухе, ни одного мгновения. Почти прижавшись к какому-то пожилому мужчине, Амака ловко проскользнул через турникет на выходе из вокзала — он опять проехался зайцем.
Система распознавания лиц автоматически списывала стоимость проезда со счета каждого проходящего мимо камер человека. Но Амака был в маске — камеры его не увидели, и он опять прокатился бесплатно.
Маски давно стали обычным аксессуаром для молодежи Лагоса[23]. Для их родителей они были скорее ритуальными атрибутами, но для молодых людей, которых в последние десятилетия заметно прибавилось, маски стали модным трендом, а заодно и средством обмана камер наблюдения.
В Лагосе, крупнейшем городе Западной Африки, жило примерно от 27 до 33 миллионов человек — каждый метод подсчета давал свою цифру. Пять лет назад государство строго ограничило число приезжих, считая мигрантами даже тех, кто родился в других частях Нигерии. И странствующим мечтателям вроде Амаки пришлось постоянно находиться в состоянии поиска убежища — организовывать пристанище в нелегальных квартирах, в общежитиях, на рынках, на автобусных станциях или даже под эстакадами.
Амака встречал много бездомных, оказавшихся на улице по самым разным причинам. Дома одних снесли, чтобы расчистить место для новых торговых центров; другие недавно приехали в Нигерию из еще более бедных стран; третьи были просто нищими бродягами. Нигерия — «молодая» страна, средний возраст жителей всего 21 год: результат высокой рождаемости. Но в выигрыше от этого оказались далеко не все граждане третьего в мире по численности населения государства.
Некоторые части Лагоса задыхались и страдали от избытка молодежи, но район Яба процветал. Он получил название «Кремниевая долина Западной Африки» и выгодно выделялся порядком, свежим воздухом и бытом, насыщенным высокими технологиями. Пешеход тут мог активировать мультяшного персонажа на рекламном щите и взаимодействовать с ним с помощью жестов. Роботы-уборщики неустанно шныряли по улицам, собирая и сортируя мусор — и район был невероятно чистым. Бытовые отходы отправляли в центры переработки и превращали в возобновляемые материалы и биотопливо. Модным трендом, а не только строительным материалом, вдруг стал экологически чистый бамбук — по крайней мере, для жителей Ябы.
Выйдя из вокзала, Амака поднял смартстрим на уровень глаз и наложил активную виртуальную карту на окружающий пейзаж. Следуя по проложенному маршруту, он добрался до тихого переулка. Компания Ljele, которую он искал, находилась, судя по всему, на третьем этаже серого дома с номером 237.
Два дня назад он получил из Ljele загадочный анонимный мейл с предложением работы, которая, как сообщалось в послании, наверняка «придется ему по душе». Место уже практически его, было написано дальше, но надо лично явиться на собеседование — это пустая формальность, таков общий порядок.
Амака вошел в небольшую приемную на третьем этаже, и улыбчивая администраторша тут же указала на маску — ее надо было снять для проверки личности. Молодой человек на секунду замешкался, но команду выполнил. В объектив камеры попало юное лицо с гладкой кожей.
Амака носил самую простую маску, напечатанную на 3D-принтере. Изысканные дорогие модели ручной работы туристы с удовольствием раскупали как сувениры на рынке Лекки — они стоили абсурдно дорого. Но и дешевая маска Амака неплохо дурила большинство камер наблюдения в городе.
Благодаря грубой поделке с узором в форме бабочек Амака был в понимании искусственного интеллекта «человеком без лица», и это парня очень устраивало. Маска не только позволяла ему экономить, но и, что куда важнее, защищала от преследования властей — у него еще не было официального вида на жительство для мигрантов.
Администраторша провела Амаку в конференц-зал. Парень сел на стул и замер, обдумывая, что говорить о предыдущем опыте работы. Придется врать, решил он. Тут, кажется, без вариантов.
Прошло минут десять. Обещанный интервьюер все не появлялся. И вдруг прямо напротив Амаки засветилась проекционная стена — началось воспроизведение видеозаписи камеры наблюдения.
С первых кадров Амака узнал запись — он помнил ее мельчайшие подробности. Полночь. Тусклый желтый свет фонарей. Несколько бездомных лежат под эстакадой на самодельных матрасах, набитых мусором. Из темноты возникает щуплый силуэт. Мальчик подходит к спящим и всматривается в их лица.
Наезд камеры. Мальчику не больше пяти-шести лет, белый, одет в полосатую пижамку, личико бледное и невыразительное. Один из спящих, вздрогнув, просыпается и встречается взглядом с мальчиком. Спрашивает, как его зовут и что он тут делает. Мальчик что-то бессвязно бормочет и дрожит всем телом.
Внезапно его лицо искажается жуткой гримасой, он разевает рот — обнажаются два ряда острых зубов. И вдруг ребенок вонзает клыки в шею бедного бездомного! Мужчина кричит от боли — просыпаются остальные. По губам и подбородку мальчика течет кровь, он отступает и быстро скрывается в темноте.
Видео было выложено в интернете и называлось «Белый вампир нападает на бездомных в Лагосе». В первые сутки ролик набрал миллионы просмотров на платформе обмена видео GarriV. Но через несколько дней платформа идентифицировала видео как фейк и удалила — как того и требовал закон.
