Ознакомительная версия. Доступно 16 страниц из 79
Дискуссии всегда проходят невероятно интересно, и иногда эти выдающиеся умы с удивлением обнаруживают, что их коллеги в соседнем здании работают над близкой темой или сталкиваются с похожими проблемами и трудностями. Просматривая свои заметки за последние три года, я с удивлением понял, как много исследователей сталкиваются с одной и той же дилеммой — решать конкретные задачи, чтобы помочь многим людям сегодня, или же прикладывать усилия к тому, что способно помочь всем людям в недалеком или отдаленном будущем. Поскольку ресурсы ограниченны, как выразился один исследователь, приходится выбирать между попытками усовершенствовать москитные сетки и работой над изобретением лекарства от малярии. Безусловно, мы должны делать и то, и другое, но даже ученые с мировым именем сегодня стоят перед такого рода альтернативой.
Что показали мои битвы с компьютерами? То, что я мог отсрочить неизбежное на несколько лет, если бы лучше готовился к партиям? Или то, к чему могут привести десятилетия научных исследований и технического прогресса? Думаю, вы понимаете, что мой ответ на эти вопросы будет несколько субъективным, но я на нем долго не задержусь. Период с 1996 по 2006 год, когда человеко-машинные шахматы были действительно состязательными, казался мне очень долгим, поскольку я находился на переднем крае. Если смотреть в перспективе, это может служить хорошим примером того, насколько незначительными становятся человеческий масштаб времени и человеческие возможности на фоне ускоряющегося технического прогресса.
Если отразить этот прогресс на графике, чтобы лучше его осознать, легко увидеть, почему дальнейшее распространение ИИ и автоматизация могут вызывать тревогу. Веками люди превосходили любую машину в шахматах и во всем остальном, требующем умственных усилий. Мы тысячи лет наслаждались безоговорочной доминацией во всех интеллектуальных областях. В XIX веке механические калькуляторы чуточку подорвали нашу ведущую роль, но реальная конкуренция началась только в цифровую эпоху, примерно в 1950-е годы. С того момента прошло еще около 40 лет, прежде чем машины, наподобие Deep Thought, стали серьезной угрозой для сильнейших шахматистов. Восемь лет спустя я проиграл очень дорогостоящему специализированному суперкомпьютеру Deep Blue. Еще через шесть лет, несмотря на более солидную подготовку и более справедливые правила, я сумел лишь свести вничью два матча против ведущих компьютерных программ Deep Junior и Deep Fritz. Они были не слабее Deep Blue, хотя работали на стандартных серверах стоимостью всего несколько тысяч долларов. В 2006-м Владимир Крамник, следующий после меня чемпион мира, при еще более благоприятных правилах проиграл со счетом 2:4 программе Fritz последнего поколения. Таким образом, завершилась эпоха, когда люди сражались с машинами по стандартным правилам шахматных состязаний: все последующие такие соревнования будут проводиться с учетом необходимости обеспечить соперникам равные условия.
Теперь представьте все эти изменения на временнóй шкале. Тысячи лет непрерывной доминации человека, несколько десятилетий слабой конкуренции, несколько лет борьбы за превосходство. И все, игра окончена. График уходит в бесконечность; отныне машина всегда будет обыгрывать человека в шахматы. Период конкуренции людей и шахматных машин представляет собой крошечную точку на временнóй шкале человеческой истории. И такой однонаправленный технологический прогресс неизбежен буквально во всем — от ткацких станков и производственных роботов до интеллектуальных агентов.
Короткий период конкуренции привлекает столько внимания лишь потому, что мы ощущаем его воздействие на себе. Фаза борьбы часто оказывает непосредственное влияние на нашу жизнь, поэтому мы переоцениваем ее значимость в общей картине. Конечно, нельзя сказать, что происходящее несущественно. Бездушно было бы говорить, что не стоит обращать внимание на людей, страдающих от последствий технического прогресса, поскольку в долгосрочной перспективе их горести не имеют большого значения. Но если мы хотим найти решения, позволяющие облегчить эти страдания, нет смысла говорить о возвращении назад. Искать способы, с помощью которых можно извлечь пользу из перемен, куда более продуктивно, чем противостоять изменениям и держаться за умирающий статус-кво.
Самый главный вывод касается не фазы конкуренции, а той уходящей в бесконечное будущее линии, которая начинается после нее. Прошлое не повторится. Как бы мы ни беспокоились по поводу потери рабочих мест, изменения социальной структуры или машин-убийц, мы никогда не вернемся назад. Это противоречит человеческой природе и человеческому прогрессу. Как только машины начинают лучше (дешевле, быстрее, безопаснее) выполнять какую-либо работу, люди перестают ею заниматься, разве только для развлечения или в случае отключения электроэнергии. Мы уже никогда не откажемся от технологий, которые облегчают нашу жизнь.
Хотя поп-культура не показатель, меня огорчает, что сегодня сказочные и мифические истории в духе фэнтези занимают место научной фантастики. Взгляните на список бестселлеров в категории «Фантастика и фэнтези» на Amazon — и вы увидите, что по крайней мере первые 20 позиций занимают книги, посвященные вампирам, драконам и магам или всему сразу. В жанре фэнтези пишет много талантливых авторов, и сам я являюсь большим поклонником Толкина и Джоан Роулинг. Но я испытываю разочарование от того, что сложная и важная работа по прогнозированию будущего сегодня вдруг вышла из моды, как по мановению волшебной палочки.
Вместе с тем трудно не впасть в пессимизм по поводу завтрашнего дня после просмотра таких фильмов, как «Терминатор» Джеймса Кэмерона (1984) и «Матрица» Вачовски (1999). Обе истории основаны на том, как созданные людьми технологии обращаются против самих людей. Этот классический мотив становится как нельзя более актуальным на фоне того, что начиная с 1980-х мы живем в окружении компьютеров и искусственный интеллект стал горячей темой в исследованиях и общественных дискуссиях. В 2009 году на съезде Ассоциации по развитию искусственного интеллекта в Монтерее (Калифорния) всерьез обсуждался вопрос, существует ли вероятность того, что люди могут потерять контроль над суперинтеллектуальными компьютерами.
Представление, будто сверхумные машины могут превзойти своих создателей и объявить им войну, зародилось не сегодня. В своей лекции в 1951 году Алан Тьюринг предсказал, что машины «перещеголяют людей с их ничтожными способностями» и в итоге возьмут власть. Американский математик и писатель-фантаст Вернор Виндж популяризовал эту идею и в 1983 году выдвинул концепцию «технологической сингулярности». «В скором времени мы создадим разум более мощный, чем наш собственный. Когда это произойдет, человеческая история достигнет своего рода точки сингулярности — перехода, столь же непостижимого, как и искривление пространства-времени в центре черной дыры, — и мир выйдет за пределы нашего понимания». Десять лет спустя он уточнил: «В течение ближайших 30 лет у нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена».
Бостром принял эстафету и продолжил бег. Благодаря широчайшим знаниям и умению найти общий язык с массовой аудиторией он стал одним из ведущих проповедников, вещающих об опасностях суперинтеллектуальных машин. Его книга «Суперинтеллект» выходит за рамки обычных мрачных пророчеств и детально объясняет (подчас наводя ужас), как и почему мы можем создавать машины гораздо умнее нас и по какой причине те могут в конце концов перестать нуждаться в людях.
Ознакомительная версия. Доступно 16 страниц из 79
