но аналоговые вычисления, выполняемые системой в целом, намного превышают по сложности базовый код. Результирующая импульсно закодированная модель социального графа сама становится социальным графом. Она широко распространяется по всему кампусу, а затем и по всему миру[43].
Что, если вам захочется построить машину, способную узнать, что означает все на свете, известное человечеству? С учетом закона Мура оцифровка всей доступной информации не займет много времени. Вы сканируете каждую когда-либо напечатанную книгу, собираете все когда-либо отправленные электронные письма и накапливаете видео на сорок девять лет просмотра каждые двадцать четыре часа, отслеживая, где люди находятся и что они делают, в режиме реального времени. Но как вывести из всего этого смысл?
Даже в эпоху господства цифры смысл невозможно определить сколько-нибудь строго логически, потому что смыслы и значения для людей не являются сугубо логичными. Лучшее, что вы можете сделать, собрав все возможные ответы, – это составить тщательно продуманные вопросы и нарисовать основанную на анализе импульсов карту взаимосвязей. Прежде чем вы это поймете, ваша система не только займется наблюдением и отображением значений, но и начнет конструировать значения. Со временем она станет контролировать значения, как карта трафика начинает контролировать поток уличного движения, даже если никто не контролирует ситуацию непосредственно.
* * *
Существуют три закона искусственного интеллекта. Первый известен как закон Эшби, в честь кибернетика У. Росса Эшби, автора книги «Конструкция мозга»; он гласит, что любая эффективная система управления должна быть не менее сложной, чем система, которой она управляет.
Второй закон, сформулированный Джоном фон Нейманом, гласит, что определяющая характеристика сложной системы такова: она представляет собой простейшее описание собственного поведения. Простейшей полной моделью организма выступает сам организм. Попытка свести поведение системы к любому формальному описанию усложняет ситуацию, а не делает ее проще.
Третий закон утверждает, что любая система, достаточно простая для ее понимания, не сумеет усложниться настолько, чтобы начать вести себя разумно, тогда как любая система, достаточно сложная для того, чтобы вести себя разумно, будет слишком сложной для понимания.
Третий закон утешает тех, кто верит, что нет нужды беспокоиться насчет сверхчеловеческого интеллекта, возникающего среди машин, пока мы не постигнем саму суть разума. Но в этом третьем законе есть лазейка. Вполне возможно построить что-то, не понимая его сути. Нет необходимости понимать в мельчайших подробностях, как работает мозг, чтобы создать его работоспособную копию. Эту лазейку не помогут прикрыть никакие надзоры за алгоритмами со стороны программистов и их советников по этике. Условно «благой» ИИ есть миф. Наши отношения с подлинным ИИ всегда будут строиться на вере, а не на факте.
Мы слишком много думаем о машинном интеллекте и уделяем недостаточно внимания самовоспроизведению, коммуникациям и контролю. Следующая революция в компьютерном мире ознаменуется возвышением аналоговых систем, над которыми утратит власть цифровое программирование. Ответ Природы тем, кто верит, что возможно создать машины, контролирующие все на свете, будет заключаться в том, что им позволят создать машину, которая станет контролировать их самих.
Глава 5
Что мы можем сделать?
Дэниел К. Деннет
профессор философии в университете и стипендиат Остина Б. Флетчера, а также директор Центра когнитивных исследований при университете Тафтса. Он опубликовал более десятка книг, в том числе «Объясненное сознание» и, если упоминать последние, «От бактерий к Баху и обратно: эволюция разума».
Дэн Деннет – «философ выбора» в сообществе исследователей искусственного интеллекта. Возможно, он наиболее известен в когнитивных науках своей концепцией интенциональных систем и моделью человеческого сознания, которая описывает вычислительную архитектуру репрезентации потока сознания в массово-параллельной [44]коре головного мозга. Против такого бескомпромиссно «вычислительного» подхода выступали такие философы, как Джон Серл, Дэвид Чалмерс и покойный Джерри Фодор[45], которые утверждали, что наиболее важные аспекты сознания – интенциональность и субъективные признаки – не подвластны вычислениям.
Двадцать пять лет назад я навещал Марвина Минского, одного из пионеров в исследованиях искусственного интеллекта, и спросил его о Дэне. «Он наш лучший нынешний философ, новый Бертран Рассел, – сказал Марвин и добавил, что, в отличие от традиционных философов, Дэн изучал нейронауки, лингвистику, искусственный интеллект, информатику и психологию. – Он переосмысливает философию и реформирует ее роль. Конечно, Дэн не понимает мою теорию сообществ разума[46], но никто не совершенен».
Мнение Дэна по поводу стараний исследователей ИИ создать сверхразум остается неизменно уравновешенным. С какой стати беспокоиться? В своем очерке он напоминает нам, что ИИ прежде всего следует рассматривать – и воспринимать – как инструмент, а не как человекоподобного коллегу.
Он начал интересоваться теорией информации, когда проходил обучение в Оксфорде. Вообще-то он признался мне, что на заре своей карьеры всерьез обдумывал, не написать ли ему книгу о кибернетических идеях Винера. Для мыслителя, приверженного научному методу, показательна его готовность ошибаться. В недавней статье под названием «Что такое информация?» он заявляет: «Я опираюсь на принципы, но допускаю их пересмотр. Я уже вышел за их пределы и осознаю, что разработаны иные, лучшие способы решения некоторых задач». Скорее всего, он сохранит хладнокровие и беспристрастность применительно к исследованиям ИИ, хотя сам Дэн нередко признает, что его собственные идеи эволюционируют – как и все идеи на свете.
Многим знакома ирония ситуации, когда впервые читаешь великую книгу в том возрасте, когда еще слишком молод, чтобы сполна оценить ее величие. Причислить классическое произведение к уже прочитанным и тем самым как бы обезопасить себя от дальнейшего влияния, усвоив всего-навсего сюжет и обрывки нескольких непонятных идей – вот верный рецепт потратить время впустую и без всякой пользы. Эта мысль сразу пришла мне на ум, когда я стал перечитывать «Человеческое применение человеческих существ». Первый раз я прочитал эту книгу шестьдесят лет назад, в далекой юности. Вообще-то, стоило бы ввести в обычай перечитывание книг нашей молодости, ведь так нам откроются наглядные признаки ряда наших собственных более поздних «открытий» и «изобретений», а также станет понятным, какое богатство идей мы вынужденно игнорировали до тех пор, пока наш разум не натренировался, не познал страдания и радости, а кругозор не расширился благодаря многочисленным житейским вызовам, которые пришлось преодолевать.
Написанная в те времена, когда вакуумные лампы являлись основными «кирпичиками» электронных устройств, а действующих вычислительных машин имелось считаное количество, книга Норберта Винера рисовала будущее, в котором мы сегодня обитаем, с поразительными прозрениями – и почти без явных ошибок. Знаменитая статья Алана Тьюринга «Вычислительная техника и интеллект» (1950) в философском журнале «Майнд» предрекала появление ИИ, и Винер разделял это мнение, но он смотрел дальше и глубже, признавая, что ИИ
