Нам следует опасаться. Но не разумных машин. Нам следует опасаться машин, принимающих решения, для принятия которых они недостаточно разумны. Я гораздо больше опасаюсь машинной глупости, чем машинного интеллекта. Машинная глупость рождает хвостовой риск. Машины могут принять множество хороших решений, а затем однажды совершить катастрофическую ошибку при столкновении с хвостовым событием, которое они не встречали в своих обучающих данных. В этом и состоит различие между узким и общим интеллектом[379].
Или, как выразился исследователь Педро Домингос, “люди боятся, что компьютеры станут слишком умными и захватят мир, но настоящая проблема в том, что они слишком глупы и уже захватили мир”[380].
Меня беспокоит ненадежность ИИ. Меня также беспокоит его применение. Помимо этических вопросов, описанных в главе 7, меня пугает использование систем ИИ для создания фальшивых материалов: текстов, звуков, изображений и видео, с ужасающей реалистичностью показывающих события, которые никогда не происходили.
Так следует ли нам опасаться ИИ? Да и нет. В ближайшее время не стоит ждать появления сверхразумных сознательных машин. “Набор хитростей” не сможет сравниться с теми аспектами человеческого разума, которые мы ценим больше всего. По крайней мере, на мой взгляд. Но существует множество поводов для беспокойства из-за опасного или неэтичного использования алгоритмов и данных. Все это пугает, но я рада видеть, что в последнее время эта тема привлекает большое внимание в сообществе ИИ и за его пределами. В стремлении решить эти вопросы исследователи, корпорации и политики сообща идут к одной цели.
Вопрос: какие интересные задачи ИИ еще не решены?
Почти все.
Когда я начала работать в сфере ИИ, отчасти меня вдохновлял тот факт, что почти все важные вопросы отрасли оставались открытыми и ждали новых идей. Думаю, ничего не изменилось и сейчас.
Если вернуться к истокам, можно вспомнить заявку Джона Маккарти и его коллег (описанную в главе 1), где были перечислены основные темы исследований ИИ: обработка естественного языка, нейронные сети, машинное обучение, абстрактные концепции и рассуждения, а также креативность. В 2015 году руководитель научно-исследовательской лаборатории Microsoft Эрик Хорвиц пошутил: “Можно даже сказать, что после переформатирования заявку [1955 года] можно снова подать в Национальный научный фонд… сегодня и, вероятно, получить финансирование от восторженных кураторов научных программ”[381].
Я ни в коем случае не критикую прошлые исследования ИИ. Искусственный интеллект ничуть не проще других великих научных загадок, стоящих перед человечеством. Родни Брукс из MIT описал это лучше всех: “Когда исследования ИИ только начинались, ориентиром были человеческие показатели и интеллект человеческого уровня. Думаю, в первые шестьдесят лет большинство исследователей приходили в сферу ИИ, надеясь достичь этой цели. Тот факт, что мы к ней не приблизились, говорит не о том, что исследователи работали недостаточно усердно или не были светилами, а о том, что достичь этой цели очень сложно”[382].
Самые интересные вопросы ИИ касаются не только сфер его возможного применения. Основатели отрасли вдохновлялись как желанием создать новые технологии, так и стремлением ответить на множество научных вопросов о сущности разума. Мысль о том, что разум – это явление природы, которое, как и другие явления природы, можно изучить, создав упрощенные компьютерные модели, привела в эту сферу очень многих (в том числе и меня).
Влияние ИИ на всех нас будет расти. Надеюсь, эта книга помогла вам, думающему человеку, получить представление о текущем состоянии этой быстро развивающейся отрасли и увидеть в ней множество нерешенных проблем, оценить потенциальные преимущества и риски использования ее технологий, а также задуматься, какие научные и философские вопросы о природе человеческого разума она поднимает. Если же эти строки читает компьютер, пусть он скажет мне, какое слово заменяется местоимением “ней” в предыдущем предложении, и присоединяется к дискуссии.
Благодарности
Эта книга обязана своим существованием Дугласу Хофштадтеру. Именно благодаря работам Дага я заинтересовалась искусственным интеллектом, и впоследствии он стал моим научным руководителем. Не так давно Даг пригласил меня на встречу в Google, где у меня и родилась идея этой книги, а затем прочитал все главы рукописи, оставляя на страницах ценные замечания, которые существенно улучшили итоговый вариант. Я очень благодарна Дагу за идеи, книги и статьи, за поддержку моей работы и – главное – за дружбу.
Я хочу сказать спасибо еще нескольким друзьям и родственникам, которые великодушно прочитали каждую главу и поделились со мной своими дельными соображениями: Джиму Левенику, Джиму Маршаллу, Рассу Макбрайду, Джеку Митчеллу, Норме Митчелл, Кендаллу Спрингеру и Крису Вуду. Также большое спасибо всем, кто отвечал на мои вопросы, переводил фрагменты текста и помогал мне иным образом: Джеффу Клюну, Ричарду Данцигу, Бобу Френчу, Гарретту Кеньону, Джеффу Кефарту, Блейку ЛеБарону, Шеню Лундквисту, Дане Мозер, Дэвиду Мозеру и Франческе Пармеджани.
