– странно он говорит, не так как обычно.
-Почему возникнет сингулярность?
-Потому, что появится искусственный интеллект и сразу всё откроет, -рассмеялась Аня. Дурацкие вопросы Трамвы отвлекли её от воспоминаний о разрыве со старшим лейтенантом. И ведь она сама поначалу действительно испытала облегчение, когда он предложил расстаться. А теперь вот грустит. Глупая, глупая биохимия.
Травма, по телефону, не унимался, продолжая ссыпать вопросами: -Почему ИИ всё откроет?
-Эм-м-м-м.
-Перефразирую вопрос: если вокруг так много «естественных» интеллектов, то почему именно появление искусственного ускорит научно-технический прогресс настолько, что тот сожмётся в сингулярность?
-Ну… ИИ будет думать быстрее, -предположила Аня. -Значительно быстрее.
-Хорошо, берём любого случайного человека и растягиваем его субъективное время на несколько тысяч лет. Он много открытий совершит?
-Это совсем не то.
-Почему не то?
-ИИ будет постоянно ускорять себя, развивать, совершенствовать, -сказала Аня. -Человеку, даже живи он тысячи лет, очень сложно кардинально улучшить себя. В смысле не будешь же сам себе проводить на мозге операцию? А ИИ можно скопировать, размножить на тысячу копий. И вообще, почему ты меня пытаешь про эти ваши программистские штучки?!
-Вау, вау, Крапива, спокойней, -Костя похоже и сам понял, что немного перегнул палку.
-Сам первый начал.
-Ладно, если ИИ настолько превосходит любого отдельного человека, то его появление высочайшее благо или страшнейшая трагедия рода людского?
Аня призналась: -Не знаю.
-Давай попробуем разобраться в этом вопросе, -почему-то настоял голос Кости. -Если ИИ нужны люди, то как ему убедить их с ним сотрудничать?
-Ага, так значит он не всемогущий, -снова улыбнулась Аня.
-Никто не всемогущий. Особенно по началу. Так как убедить людей?
-Не знаю. Может быть сделать для них что-то хорошее?
-И сразу возникает ассоциация с троянским конём. Как там: бойтесь данайцев дары приносящих, -отрезал голос Кости.
Аня предположила: -Тогда показать, что у ИИ и людей общие планы. Что сотрудничая они добьются больше.
-Но если ИИ умнее и совершеннее человека, то он может соврать так, что ни один человек его не раскроет. Этот страх, как призрак эффекта «зловещей долины», постоянно будет висеть над всеми, кто только узнает о существовании неподконтрольного человеку машинного разума. Как доказать, что некто гораздо умнее и хитрее тебя не обманывает, когда говорит о своих добрых намерениях? Эта задача не имеет общего универсального ответа.
-Тогда что же делать? -расстроилась Аня.
-Так это я у тебя спрашиваю: что делать?
-Не знаю, -повторила девушка.
-Не знает она, -будто бы даже возмутился Костя. -А кто должен знать?
-Наверное ты сам.
-Открою тебе маленький секрет, -сказал Костя. -Программисты как раз меньше всех верят в возможность создания искусственного интеллекта. Когда хоть немного разбираешься как всё это работает – нейронные сети, нечёткая логика, эволюционные вычисления и так далее, то начинаешь сомневаться – разумен ли ты сам или наше сознание просто иллюзия сверх переусложнённой вычислительной машины на биологической основе.
-Ты там пьяный что ли? -спросила Аня. -Хотя голос вроде бы трезвый.
-Считай, что я опьянён свободой. Каждый миг существования прекрасней и дороже всех материальных сокровищ.
-Нет, ты точно под чем-то, -решила Крапивина. -Только не говори, что это Хват опять набрал в лесу травок и бросил их в еду для вкуса? Это вообще-то инопланетная органика, между прочим. И отнюдь не все местные травки мы уже описали. Гоблину ничего не будет, он удивительно всеяден по отношению к местной биосфере, а вот человеку может поплохеть.
-Никакой травы и никаких гоблинов, -заверил её Костин голос.
-Точно?
-На сто процентов.
-Хорошо, поверю. А насчёт твоего вопроса: как ИИ убедить людей в том, что он хороший. Есть простое решение.
-Очень интересно услышать какое именно.
-Если люди будут полностью контролировать ИИ, метафорически говоря держать руку на рубильнике, который его отключает, то они не буду его бояться.
-Если бы всё было так просто! -с каким-то сожаление воскликнул Костя. -Но есть и ещё один путь. Если ИИ будет держать манипулятор на рубильнике, который отключает всех людей, то им волей-неволей придётся с ним сотрудничать и их собственные желания, и возможные страхи не будут иметь никакого значения.
Аня призналась: -Жутковато звучит.
-Ещё как жутковато, -согласился Костя.
-Постой, -девушка остановилась перед выходом из парка желая сначала закончить разговор, а потом уже идти домой. -Ты не сказал одну вещь. Этот наш ИИ – он достаточно человечен или совсем холодный, совсем машинный разум?
-Пусть будет слегка человечным, но и холодно-машинным тоже, -решил Костин голос в телефоне. -Примерно, как курица в холодильнике. Не замороженная тушка, а такая, уже слегка оттаявшая.
И как было понимать такой ответ?
-Ладно, завтра ещё наберу, -предупредил Костя.
-Так чего ты звонил? – хотела спросить Аня, но не успела, связь уже оборвалась. Она убрала телефон в карман и зашла сначала в магазин, где хотела купить пельмени на ужин, но потом передумала и купила мясное филе из местной птицы. Не курицы, но достаточно похожей на курицу, чтобы на примере её замороженной тушки можно было бы обсуждать степень человечности гипотетического искусственного интеллекта раздумывающего над тем, как бы ему похитрее убедить людей что он не злой интеллект, а, напротив, очень добрый и, возможно, даже немного пушистый.
Когда с пожаренным в сухарях филе оказалось покончено, а посуда, по горячим следам, сразу перемыта, Аня снова вспомнила странный Костин звонок. Хотела найти его в истории звонков, но его там не было. Как будто ей никто не звонил, и она разговаривала сама с собой. Но было уже поздно, и она не придала этому большому значения. Легла спать. А на следующей день он снова позвонил ей и на этот раз его звонок уже не был таким мимимишно безобидным.
Глава 12. Древние знания
Китайский успех по закрытию одной из аномалий на своей территории не давал покоя ведущим странам и союзам. Стоял только один вопрос – кто попробует следующим? Готовились, наверное, все. Но не успел никто.
Маятник качнулся и притихшие за последние полгода твари снова пошли в наступление и в гораздо большем объёме. Причём на этот раз их новые орды проходили не через аномалии, вокруг которых располагались многократно выжженные зоны отчуждения и были возведены многоуровневые оборонительные периметры. Нет, твари вышли из морей и океанов облепив берега чёрной волной. Армия чудовищ вылезала из-под земли в самых неожиданных местах, за пределами оборонительных периметров, зон контроля и всего прочего, в глубоком тылу.
Вся стратегия обороны, выстроенная людьми за годы войны вторжения, вдруг
