Одни эти слова сами по себе должны были бы вызвать тревогу. Во всех прочих случаях, когда мы пытались эксплуатировать эволюционирующие саморазмножающиеся системы, пришлось проявлять при этом крайнюю бдительность. На ум сразу же приходит катастрофа, едва не случившаяся в прошлом году в нанотехнической лаборатории Массачусетского технологического института – и мы прекрасно знаем, что там все могло быть гораздо хуже, – или многочисленные смерти от анафилактического шока в Азии в 2020-е, вызванные новыми культурами риса.
Элейн яростно строчила в блокноте. Себастьян Фогель, внимательно слушая, сидел спокойно и неподвижно, словно бородатый Будда.
– Мне могут возразить, что эти примеры относятся к «реальным» самовоспроизводящимся системам в мире, а не к компьютерному коду. Однако это лишь свидетельство нашей близорукости. Пусть виртуальная экосистема БЭК-колец и отрезана от внешнего мира, ее фактические размеры попросту чудовищны. За один-единственный день она порождает буквально миллиарды алгоритмов, которые вырастают друг из друга, а потом уступают место последующим поколениям. Время от времени мы проводим отбор на соответствие желаемым результатам, но размножаются-то они непрерывно. Мы исходим из того, что, единожды задав граничные условия, мы сохраняем над алгоритмами власть, подобно верховным божествам. Увы, это не обязательно так.
Согласен, мы еще не потеряли ни одного ученого из-за того, что на него напал взбесившийся алгоритм. – Снова смех: похоже, аудитории это нравилось, хотя обеспокоенные сотрудники департамента наблюдения и интерпретации не спешили присоединяться к веселью. – И я вовсе не намекаю ни на что подобное. Однако имеются свидетельства – которые я не имею права обсуждать в подробностях, – что комплекс в Кроссбэнке был отключен за несколько часов до карантина в Слепом Озере, потому что там действительно произошло нечто, представляющее угрозу, причем связанную с БЭК-кольцами.
Зрители в зале буквально застыли в креслах. Крис бросил взгляд на Элейн, та пожала плечами: она не предполагала, что Рэй решится коснуться этой темы.
Быть может, не предполагал и сам Рэй. Он некоторое время перебирал бумаги, словно в замешательстве.
– Разумеется, подробности происшедшего еще расследуются…
Он отложил бумаги в сторону.
– Позвольте мне на минуту вернуться к заявлению предыдущего докладчика…
– Он импровизирует, – прошептала Элейн. – Похоже, какая-то фраза Маргерит попала в самую точку. Или он перед выходом на сцену успел опрокинуть пару стаканов.
– Если я ничего не путаю… Кажется, это Гёте сказал, что природа любит иллюзии… «Природа любит иллюзии, а тех, кто пытается их развеять, она наказывает, словно жесточайший из тиранов»[2]. Мы уверенно рассуждаем о «разумных» видах, словно разум есть несложное, легко измеримое качество. Что, само собой, не так. Наше восприятие своего собственного разума пристрастно и основано на идиосинкразии. Мы противопоставляем себя прочим приматам, как если бы мы были рациональны, а они руководствовались исключительно животными импульсами. А ведь если взять, к примеру, самца шимпанзе, он практически полностью рационален: он добывает пищу, когда голоден – ест ее, когда устал – засыпает, совокупляется, когда для этого одновременно есть желание и возможность. Шимпанзе-философ вполне мог бы задаться вопросом, какой из наших видов в действительности движим рассудком.
Он мог бы спросить: «Что у нас, шимпанзе и людей, общего?» Разумеется, не то, что мы едим, пьем и испражняемся – это делают все животные. Человек проявляет свою уникальность, когда производит сложные орудия труда, создает оперы, устраивает войны из-за идеологических разногласий или посылает роботов на Марс – на все это способны только люди. Мы воображаем себе будущее и обдумываем свое прошлое, личное или же коллективное. А шимпанзе? Способен ли шимпанзе анализировать события прошедшего дня или заглядывать в будущее, не являющееся прошлым? Ответ очевиден – да, он делает это во сне.
Крис бросил взгляд туда, где сидела Маргерит. Она была поражена не меньше всех остальных. Речь Рэя съехала на совершенно неожиданную колею, однако двигалась по ней весьма уверенно.
– Во сне. Когда шимпанзе спит. Во сне он не руководствуется рассудком, но видит сны, которые дают его рассудку пищу. Во сне шимпанзе воображает, что за кем-то гонится или сам убегает от погони, что он сыт или же голоден, что он боится или чувствует себя в безопасности. Ничего этого в действительности не происходит. Он бежит или страдает от голода в мире, который представляет собой лишь фрагментарную модель настоящего и существует только в его воображении. Как это по-человечески! Как это исчерпывающе по-человечески! Вы, люди, мог бы сказать шимпанзе-философ, – единственные гоминиды, которые спят наяву. Вы живете не в реальном мире, а в мире, который постоянно вам снится.
Сны и мечты пропитывают все наше существование. Наши предки научились бросать копье не в бегущего зверя, а в то место, где бегущий зверь окажется одновременно с летящим по воздуху с определенной скоростью копьем. Предки использовали для этого не математику – воображение! Иными словами, сон. Мы видим во сне будущее положение животного и бросаем копье. Мы видим во сне картины из прошлого и на их основании планируем и анализируем собственное будущее. Как эволюционная стратегия, наши сны оказались чрезвычайно успешны. Если рассматривать человечество как вид, мы увидели во сне выход из тупика животных инстинктов в огромный мир еще не испробованных моделей поведения.
И мы сделали это, на мой взгляд, настолько эффективно, что сумели позабыть фундаментальную истину – мы видим сны наяву. Мы перепутали сон и рассудок. Который есть и у шимпанзе. Однако шимпанзе не снятся идеологии, терроризм, мстительные боги, рабовладение, газовые камеры, прочие убийственные решения для призрачных проблем. На поверку сны чаще всего оказываются кошмарами.
Аудитория за ним уже не поспевала. Рэю, похоже, было все равно. Он беседовал сам с собой, ведя свою мысль сквозь лабиринт, видимый лишь ему одному.
– Это именно те сны, от которых мы, как биологический вид, не способны проснуться. Это те самые сны, которые любит природа. Это наше эпигенетическое свойство, и оно великолепно послужило нашему геному. За какие-то несколько сотен тысяч лет мы выросли из крошечного подвида гоминидов в доминирующую на всей планете расу в десять миллиардов особей. Когда мы рассуждаем в рамках своего сна наяву, природа нас вознаграждает. Рассуждая столь же просто и приземленно, как шимпанзе, мы бы никогда не превзошли их численностью.
Однако теперь мы перешли на новую стадию. Мы начали строить машины, которые видят сны. Изображения, генерируемые БЭК-кольцами, есть не что иное, как сны. Они основаны на реальном мире, убеждаем мы себя, но они не аналогичны изображениям, полученным телескопами, ни с какой точки зрения. Глядя в телескоп, мы видим нечто человеческими глазами и интерпретируем его человеческим сознанием. Глядя на изображение от БЭК-кольца, мы наблюдаем сон, который научилась видеть машина.
