только в связи с дипфейками — как в случае с большинством новых прорывных новшеств, позитивные способы применения этой технологии со временем наверняка превзойдут по численности негативные.
ВЕРИФИКАЦИЯ ЛЮДЕЙ С ПОМОЩЬЮ БИОМЕТРИИ
Биометрия — это область изучения физических характеристик человека с целью их дальнейшего использования для проверки и подтверждения личности. То, как сложная GAN использовалась в рассказе «Боги под масками», представляет собой одну из форм биометрической верификации. Там GAN объединяла важные признаки, включая распознавание лиц, походки, геометрии ладоней и пальцев, идентификацию говорящего, распознавание вен и жестов.
В реальности биометрия обычно применяется в режиме реального времени с помощью специальных датчиков, а не путем извлечения необходимых данных из видеозаписи, как это показано в нашем рассказе. Например, радужная оболочка человеческого глаза и отпечатки пальцев уникальны для каждого человека и идеально подходят для проверки личности.
Распознавание радужной оболочки глаза считается наиболее точным методом биометрической идентификации. Чтобы верифицировать личность таким способом, глаза объекта фотографируют в инфракрасном свете, а снимок сравнивают с радужной оболочкой человека, которого проверяют.
Распознавание отпечатков пальцев — также чрезвычайно точная методика. Однако и в том и в другом случае требуется согласие объекта и специальное оборудование с датчиками ближнего действия[30], поэтому в ситуации с видеозаписями из нашей истории эти методы использовать было бы невозможно.
Последние достижения в области глубокого обучения и GAN продвинули область биометрии далеко вперед. Получив любой биометрический параметр (например, голос или лицо), ИИ уже сегодня превосходит людей в деле верификации или распознавании личности. А в ситуациях, когда есть возможность собрать и объединить множество признаков, точность, по сути, будет абсолютной.
К 2041 году ИИ, без всяких сомнений, возьмет на себя рутинную задачу по распознаванию и верификации людей. Я также берусь утверждать, что в следующие двадцать лет использование интеллектуальной биометрии для уголовных расследований и криминалистики позволит нам раскрывать гораздо больше преступлений и существенно снизит уровень преступности.
БЕЗОПАСНОСТЬ ИИ
Как известно, по ходу технического прогресса возникают новые области уязвимости и повышаются риски безопасности для всех вычислительных платформ: вирусы — для ПК, кража личных данных — для кредитных карт, спам — для электронной почты. А поскольку ИИ все больше становится мейнстримным явлением, ему тоже не избежать атак на особенно уязвимые места. И дипфейки — это лишь один из множества вариантов.
Уязвимым местом ИИ являются границы, разделяющие его решения, которые можно примерно оценить и использовать для маскировки входных данных, заставляя ИИ ошибаться. Например, один исследователь разработал солнцезащитные очки. Если их надеть, ИИ верифицирует тебя как Миллу Йовович. А другой наклеил на дорогу стикеры, и автопилот Tesla Model S сменил полосу движения и выехал на встречную полосу.
В самом начале нашего рассказа Амака использует маску, чтобы обмануть систему распознавания лиц на вокзале. Так вот, маскировка такого типа очень пригодилась бы военным — только представьте, что танк можно замаскировать под, скажем, машину скорой помощи!
Еще один тип атаки называется отравлением (poisoning). Процесс обучения ИИ намеренно искажается за счет загрязнения обучающих данных, обученных моделей или самого процесса обучения. Это приводит к систематическому отказу ИИ в целом или к тому, что контроль над ИИ могут получить злоумышленники.
Только представьте себе боевые дроны, взломанные и перенаправленные террористами на их создателей! Такие атаки хуже обычного хакерства: ИИ-модели отладить очень нелегко, они представляют собой чрезвычайно сложные уравнения, имплементированные в тысячах слоев нейронных сетей, а не в детерминированном компьютерном коде.
Впрочем, несмотря на многие проблемы и трудности, мы уже сегодня можем предпринять некоторые меры: усилить безопасность среды обучения и исполнения; создать инструменты для автоматической проверки на наличие признаков отравления и разработки технологий, специально предназначенных для борьбы с подделкой данных.
Нам удалось с помощью технологических инноваций в основном преодолеть проблему спама и компьютерных вирусов, вот и безопасность ИИ обязательно будет усиливаться, хотя, конечно, время от времени атаки на него все же неизбежны (точно так же, как мы по-прежнему периодически подвергаемся атакам спама или вирусов).
Уязвимость, порождаемую техническим прогрессом, всегда устраняли или как минимум ослабляли благодаря новым технологическим решениям.
Глава 3. Воробьи-близнецы
Мы оба, милый друг, солнце и луна, море и суша.
Цель не в том, чтобы слиться друг с другом,
а чтобы познать друг друга и научиться видеть
и уважать в другом то, чем он является:
противоположность и дополнение другого.
Герман Гессе, «Нарцисс и Златоуст»
РАССКАЗ ПЕРЕВЕДЕН БЛЭЙКОМ СТОУН-БЭНКСОМ
Примечание Кай-Фу: В этой истории исследуется будущее образования, основанного на искусственном интеллекте. В ней мудрые ИИ-учителя, замаскированные под виртуальных друзей, помогают двум корейским сиротам-близнецам реализовать их человеческий потенциал. Благодаря направлению ИИ под названием «обработка естественного языка» (ОЕЯ), которое, по моим оценкам, готово к стремительному росту уже в ближайшее десятилетие (включая способность ИИ самообучаться языкам), эти ИИ-компаньоны умеют свободно разговаривать на человеческом языке. Сможет ли ИИ достичь к 2041 году уровня полноценного человеческого интеллекта? Я отвечу на этот вопрос в анализе-комментарии. Я также опишу недавние прорывы в области ОЕЯ, такие как алгоритм GPT-3 и другие успехи в стремлении ИИ понять язык.
— Да, погода сегодня шикарная, — завела светскую беседу Ким Чи Юн, директор закрытой школы-интерната «Источник». С посетителями, дорого и нарядно одетыми супругами Пак — Чжун Хо и Хе Джин, она была хорошо знакома. Кабинет и вправду заливало солнце, через арочные окна хорошо просматривался школьный двор.
— Я уверена, вам известно, что наши ресурсы очень ограничены, — перешла к делу директриса (ее тут называли Мама Ким). — Мало кто беспокоится, на какие средства заведения вроде нашего должны раскрывать таланты воспитанников. Но мы в «Источнике» стараемся восполнить этот пробел. У нас своя технология, и мы ее запатентовали. Мы обеспечиваем развитие детей, учитывая их потенциал, сколько бы времени они ни оставались с нами. Ой, да что это я — вы же отлично все это знаете.
Чжун Хо откашлялся:
— Мы с Хе Джин большие поклонники ваших достижений, именно поэтому наш фонд Delta Foundation так щедро вас поддерживает. Но сегодня мы к вам не как члены попечительского совета.
Он бросил быстрый взгляд на жену, Хе Джин подбодрила его ответным взглядом и кивнула.
— Видите ли, — продолжил Чжун Хо, — мы с Хе Джин решили усыновить ребенка.
— Неожиданно! — Мама Ким обрадовалась. — Вы кого-то присмотрели?
— Они все кажутся замечательными, — включилась Хе Джин, — но нас заинтересовали мальчики-близнецы.
— Воробьи, Золотой и Серебряный… — протянула Мама Ким и понизила голос. — Вы в курсе, что для усыновления двоих семейную экспертизу придется
