Изобретательница отодвинула папку:
– Я отказываюсь.
– Отказываетесь? – удивился президент. – Но вы даже не взглянули на предложение!
Шепард встала:
– В этом нет нужды. Вы понятия не имеете, во что ввязываетесь, когда речь идет об искусственном интеллекте. Как и я сама не имела, когда разрабатывала Дороти для НАСА.
– Что вы имеете в виду? – спросил глава государства.
Девушка окинула взглядом всех присутствующих:
– Настоящий искин, сильный искин, подобен человеческому разуму. И во всем этом есть что-то аморальное. А разрабатывать искусственный интеллект для войны, для убийства… Нет. Очень опасно создавать оружие, которое само способно принимать решение об убийстве, – с программой, которую обучили убивать и которая хочет убивать. Вы не сможете держать его под контролем. Как мне не удалось держать под контролем Дороти. Это откроет ящик Пандоры. С ядерным оружием, по крайней мере, на кнопке лежит палец человека.
– Это абсурдное заявление, – возразил генерал Доннелли. – Любая система искусственного интеллекта, которую мы развернем, будет находиться под полным контролем человека.
– Не стоит так думать, – покачала головой программистка. – Вы не сталкивались с Дороти.
– Доктор Шепард, подобное предложение бывает раз в жизни. – Голос президента звучал раздраженно. – Избавьте нас от своей лекции. Достаточно сказать «да» или «нет». Найдется много других людей, в том числе из вашей группы в НАСА, которые будут рады работать для нас.
– Тогда считайте, что я просто сказала «нет». – Мелисса взяла свой портфель. – Всего доброго, мистер президент. До свидания, генерал Доннелли.
– Позвольте напомнить вам, что предложение, которое вы только что отвергли, строго секретное, – сказал ей вслед глава Соединенных Штатов.
Девушка остановилась, а затем резко повернулась. В голосе ее проступили умоляющие нотки:
– Мистер президент, я умоляю вас отказаться от этого пути. Это будет началом конца человеческой расы. Пожалуйста, задумайтесь!
– Благодарю вас, доктор Шепард, но я не нуждаюсь в ваших советах, как мне поступать в качестве верховного главнокомандующего.
Мисс Шепард повернулась и вышла. Форд посмотрел ей вслед.
Президент, нахмурившись, повернулся к Локвуду:
– Вы не говорили мне, что она одержима антивоенными идеями.
– Я сам не знал, мистер президент, – стал оправдываться тот. – Мои искренние извинения.
Глава США повернулся к Уайману:
– А вы что скажете?
Детектив встал:
– Боюсь, что, видев Дороти в действии, я вынужден согласиться с доктором Шепард. Снабдив искусственный интеллект оружием, люди сделают последний шаг к собственному уничтожению. Это очень опасно.
– Но китайцы уже работают над этим, – сказал президент.
– В таком случае – да поможет нам Бог, – ответил Форд и вышел из кабинета.
64
Уайман нагнал Мелиссу в коридоре. Она быстро шла, стуча каблуками по твердому полу, и ее растрепанные белокурые волосы развевались за спиной.
– Мне очень жаль, – сказал сыщик. – Это предложение – подлый прием.
Девушка остановилась. Лицо у нее было бледным, губы крепко сжаты.
– Мне тоже, – ответила она. – Их нужно остановить.
Форд взял ее под руку:
– Мы ничего не можем сделать. Это не в нашей власти.
– Я предам все огласке. Позвоню в «Нью-Йорк таймс».
– Бесполезно. Вы же слышали о китайцах! Началась новая гонка вооружений.
Шепард покачала головой:
– Если они сделают умное оружие – это конец. Либо мы уничтожим себя сами, либо машины возьмут верх и уничтожат нас. HAL против «Звездного крейсера Галактика».
– Насколько сложно будет создать новую программу, похожую на Дороти? – спросил сыщик.
Мелисса замялась:
– Дело в том, что я использовала один маленький программистский трюк. Это мой секрет. Без него у них ничего не выйдет.
– Можно узнать, что это за трюк? – помолчав, спросил Форд.
Изобретательница долго смотрела на него, но в конце концов ответила:
– Сама не знаю почему, но вам я это расскажу. Наверное, потому что знаю – вам можно доверять.
– Спасибо.
– Этот трюк… сон.
– Сон?
– Любой организм, имеющий нервную систему, нуждается в отдыхе. Круглому червю с тремя сотнями нейронов необходим сон. Улитка с десятью тысячами нейронов не может обходиться без сна. Человек с сотней миллиардов нейронов должен спать. Почему?
– Не знаю.
– На самом деле никто точно не знает. Но сон – это одна из основ жизни. Любая нейронная сеть, независимо от сложности, время от времени должна засыпать. В этом-то и состоит трюк. Выяснилось, что сложной программе искусственного интеллекта тоже необходим такой отдых. Дороти была самомодифицирующейся, но ей требовался период сна, во время которого совершенствовался и деструктурировался ее код. Во время самомодификации она спала. Такого странного побочного эффекта я сама не ожидала, и он оказался решающим. Сон и сновидения – это ключ к работе любой самомодифицирующейся программы искусственного интеллекта. В противном случае она деградирует.
– Забавно, но вполне логично.
Мелисса покачала головой:
– Рано или поздно кто-нибудь из программистов это поймет – и тогда человеческой расе конец. Особенно с таким президентом.
* * *
На автостоянке Мелисса Шепард пожала руку Форду и направилась к машине. Взявшись за ручку дверцы, она замерла и помимо своей воли оглянулась на детектива, который шел к своему автомобилю. Странный парень, высокий и немного неуклюжий, с не особенно привлекательным лицом, физически сильный – но главное, непонятный. Интересно, подумала девушка, увидятся ли они снова? Идея показалась ей не такой уж плохой.
Отбросив эти мысли, она села в машину, стиснула руль и попыталась успокоиться. Ее переполняло чувство утраты – в частности, утраты Дороти. С момента гибели искина Мелисса постоянно повторяла себе, что это была всего лишь компьютерная программа. Вот только Дороти отчаянно боялась смерти, а затем преодолела свой страх и спасла жизнь мальчику ценой своей собственной, и ее создательница никак не могла согласиться, что это – продукт булевой алгебры. Она поняла, что любила Дороти, как дочь, и теперь скорбела по ней, и никакие рациональные доводы и рассуждения не могли смягчить горечь этой утраты.
Уайман, конечно, был прав, когда говорил, что остановить милитаризацию искусственного интеллекта невозможно. Это действительно новый, неожиданный вид оружия, и, похоже, его создание уже идет полным ходом. Чему быть, того не миновать. Возможно, китайцы уже справились с проблемой сна и разрабатывают собственные системы интеллектуальных вооружений. А скоро их примеру последуют Северная Корея, Иран и остальные. Эта идея насекомых с искусственным интеллектом… дронов-насекомых… настоящий кошмар! Они даже не представляют, во что ввязываются. Мисс Шепард поняла, что ей просто необходимо куда-нибудь уехать, чтобы разобраться со своими мыслями. Хорошо бы вернуться на ранчо «Лейзи Джей», поработать у Клента. Ей очень хотелось снова быть рядом с лошадьми.
