Все встали, здороваясь. Было их от двенадцати до пятнадцати. Очевидно, почти все они уже знали Варама и Женетта, а Свон познакомилась разом с большим числом людей, чем могла запомнить.
Когда представления закончились и все снова сели на подушки, Варам повернулся к Свон.
— Свон, мы хотим поговорить с тобой без участия Полины. Надеюсь, ты согласишься отключить ее.
Свон медлила, но что-то в выражении лица Варама, необычная невысказанная мольба, как на лице мистера Тоуда — Жабы — когда тот пытается убедить Крысу и Крота[136]присоединиться к нему в том, что он считает чрезвычайно важным, заставило ее сказать:
— Да, конечно. Полина, отключись, пожалуйста.
Услышав щелчок, которым Полина давала знать, что уснула, Свон для страховки нажала кнопку за ухом.
— Отключила, — сказала Свон.
Отключение Полины было для нее обычным делом, но ей не нравилось, когда об этом просили другие. Инспектор Женетт забрался на стол и уставился на нее; теперь их глаза были почти на одном уровне.
— Мы бы хотели убедиться, что Полина действительно бездействует. Иногда нельзя ручаться. Ты могла заметить, что я оставил Паспарту в городе — для гарантии.
— А разве он не может записывать тебя на расстоянии?
На лице Женетта было сомнение.
— Не думаю, но именно для того, чтобы исключить и такую возможность, мы собрались тут. Мы сидим в хорошо изолированном месте. И хотели бы обезопасить себя, проведя несколько проверок.
— Хорошо, — сказала Свон надменно, как ответила бы Полина. — Проверяйте ее, но я уверена, что она спит.
— Спящие тоже слышат. А нам надо, чтобы она ничего не слышала. Видишь, какие есть преимущества при расположении компьютера вне твоего тела!
— Невежливые люди не раз говорили мне об этом, — ответила Свон.
Уровень активности Полины проверили, приложив к шее Свон какие-то палочки; потом ее попросили ненадолго надеть на голову гибкую проволочную шапку.
— Хорошо, — сказал Варам, когда один из его коллег утвердительно кивнул. — Сейчас мы изолированы, и этот разговор не записывается. Мы все должны обещать сохранить сказанное здесь в тайне. Ты согласна? — спросил он у Свон.
— Да, — сказала Свон.
— Хорошо. Такие встречи придумали Алекс и Жан. Алекс считала, что возникшие проблемы следует обсуждать за границами царства искусственного разума. Одной из таких проблем стал новый тип квантовых компьютеров, вышедший на сцену. Инспектор?
Инспектор Женетт сказал Свон.
— Помнишь якобы людей на «Внутренней Монголии»? Они по-своему прошли тест Тьюринга, или тест Свон, как его можно назвать: ты решила, что они люди, притворяющиеся компьютерами. Люди иногда так делают, и это гораздо более вероятное объяснение, чем существование полностью независимых компьютеров.
— Я по-прежнему считаю их людьми, — сказала Свон. — А ты нет?
— Да. Это были три из обнаруженных нами человекоподобных компьютеров. Всего их около четырехсот. Большинство ведут себя точь-в-точь как люди и стараются не привлекать внимания. Некоторые ведут себя необычно. Встреченные тобой трое как раз из числа странных. Еще один такой пытался прорваться в станцию Вана на Ио. Мы нашли его остатки в лаве, следы квантовой вычислительной основы.
Свон покачала головой.
— Те трое, которых я встретила, глуповаты для машин, если вы понимаете, о чем я.
— Может, ты просто привыкла к Полине, — предположил инспектор.
— Она часто бывает глуповатой, — возразила Свон. — Это вполне заурядно. Хотя, признаюсь, иногда она меня удивляет. Больше, чем люди.
— Ты всегда ей перечишь, — заметил Варам, бросив на нее любопытный взгляд.
— Да. Мне нравится ее дразнить.
Женетт кивнул.
— Но ты заложила в программы Полине дерзкий подход — умение спорить, живо реагировать на необычные повороты в обычном. В ней есть некие рекурсивные программы, благодаря которым она способна к ассоциативным и метафорическим построениям, а не только к логическому «если — то».
Но это лишь одна часть. Предположительно дедукция определяется логикой, и у Полины есть сильная дедуктивная программа. Но иногда дедукция становится почти метафорическим мышлением или мышлением свободными ассоциациями. В результате Полина ведет себя необычно.
Варам обратился ко всей группе.
— Вопрос программирования — в центре нашего сегодняшнего разговора. Есть определенные доказательства того, что новые компьютеры сами себя программируют, в особенности те, что собирают эти гуманоидные машины с квантовым компьютером вместо мозга. Мы не знаем, зачем люди поручили им это, и не знаем, зачем они вообще это делают. Итак, первый вопрос: что они такое и кто их производит? Мы знаем, что они не могут общаться друг с другом внутренне из-за декогеренции. Иными словами, они не образуют единый коллективный мозг. Но могут общаться друг с другом, как мы, используя все наши способы коммуникации. Однако в их случае, когда они используют квантовую шифровку, раскрыть их коды невозможно. Робин, — человек напротив Свон кивнул ей, — координирует запись их разговоров по радио и в облаке и даже некоторые прямые голосовые контакты. Мы не можем расшифровать их разговоры, но видим, что они общаются между собой.
— Давайте вернемся немного назад — как они могут программировать себя? — удивилась Свон. — Я слышала, что рекурсивное самопрограммирование способно лишь оптимизировать уже известные операции.
— Да, но если им поставлена задача постараться что-то сделать, например, они могут прийти к необычным результатам. Пытаясь что-то сделать, они могут обогатиться новыми идеями. Это отчасти похоже на шахматы. Им дается задача — в данном случае выиграть, — а затем во время обычной для них проверки всех возможностей они, вырабатывая новый эффективный способ достижения цели, могут столкнуться с неожиданным успехом. Это не процесс более высокого порядка, но он позволяет выполнить задачу и создает новые алгоритмы. И в какой-то момент самопрограммирование оказывается более эффективным, квакомы могут внезапно получить сознание или нечто подобное. Или процесс может привести к новому поведению — необычному, даже деструктивному. По крайней мере такова теория, которой мы руководствуемся.
— Далеко мог зайти этот процесс по отношению к программам мышления первых квантовых компьютеров? Я хочу сказать, могут ли квакомы все еще путаться в алгоритмах?
— Видишь ли, программисты, создававшие квантовые компьютеры, использовали разные структуры и в итоге создали несколько различных внутренних вычислительных архитектур. Поэтому на самом деле существуют разные квантовые компьютеры, каждый со своей особой формой познания — разными протоколами, алгоритмами, нейронными сетями. Они имитируют мозговую деятельность разных видов — у них есть то, что можно назвать самосознанием и другими особенностями сознания. Это не одна конструкция, и в терминах их мышления они могли начать мыслить.
