также предположим, что цели, полученные через "дар цели", также должны считаться бесполезными. При таких предположениях пластиковая утопия обречена в том, что касается ценности цели?
Это не так однозначно. Я подозреваю, что даже при таком самом строгом стандарте, при котором только (то, что мы назовем) "практические цели" проходят проверку, у нас все еще могут быть возможности обеспечить некоторую цель-ценность.
Есть два направления, в которых мы можем искать такие практические цели. Мы можем искать практические цели, в которых важно только то, чтобы что-то было сделано: мы назовем эти цели агент-нейтральными. Или мы можем искать их там, где важно, чтобы что-то было сделано каким-то конкретным агентом (или типом агента): мы назовем эти цели агентно-относительными.
Сначала мы рассмотрим возможность нейтральных для агента практических целей.
Когда мы обсуждали некоторые связанные с этим вопросы, кажется, во вторник, мы пришли к выводу, что для нас, старых добрых людей, нет никакой надежды угнаться за машинами в плане способности выполнять практически полезные задачи. Однако мы могли бы задуматься, возможно ли нам избежать устаревания, если мы будем готовы совершенствовать себя?
Очевидно, что для того, чтобы это было хотя бы отдаленно жизнеспособным предложением, потребуется нечто гораздо большее, чем анаболические стероиды или когнитивные стимуляторы. Даже тщательная генетическая перестройка человеческого организма была бы совершенно неадекватной, поскольку биологические субстраты фундаментально ограничены с точки зрения плотности энергии, силы, скорости вычислений и многих других основных параметров.190
Поэтому давайте рассмотрим несколько более радикальных вариантов модернизации. Самым естественным первым шагом будет загрузка вашего разума. Затем вы могли бы увеличить скорость своего мышления, пересев на более быстрый компьютер. После оцифровки вам будет легко увеличить количество нейронов, добавить новые типы процессоров, а также высокоскоростные соединения с внешней цифровой инфраструктурой. С помощью таких усовершенствований вы сможете стать сверхразумным.
Думаю, нам не стоит слишком суетиться по поводу непсихических составляющих вашего существа, поскольку мы, кажется, уже смирились с тем, что нас превосходят машины (и многие нечеловеческие животные) по силе, скорости и прочему. Но если вы настаиваете на том, чтобы сохранить свое конкурентное преимущество не только в умственных, но и в физических способностях, то в качестве тела мы могли бы дать вам, например, распределенную сеть продвинутых нанотехнологических актуаторов, позволяющих вам захватывать и манипулировать отдельными молекулами - несколькими числами Авогадро за раз; или, когда вам нужно будет работать с более крупными объектами, ваши наноразмерные актуаторы могут превратиться в большие придатки, достаточно сильные, чтобы позволить вам вырывать деревья из земли. Вы также сможете перепрыгивать высокие здания одним махом и т. д.
Сможете ли вы тогда не отставать от машин?
Я отношусь к этому скептически. На самом деле сомнительно, что мы сможем идти в ногу с машинами и что, даже если мы сможем, мы захотим этого. Но здесь нужно разобраться в нескольких вопросах, поэтому давайте рассмотрим их по порядку.
Первое, что следует рассмотреть, - это какие виды (нейтральных для агентов) практических задач необходимо решать в зрелой цивилизации. Предположим, например, что к моменту технологической зрелости вся инфраструктура достигла такого высокого уровня совершенства, что не нуждается ни в каком обслуживании или активной эксплуатации - все самовосстанавливается и работает само по себе, как самозаводящийся швейцарский часовой механизм. Предположительно, в эту инфраструктуру будет встроен определенный уровень интеллектуальной обработки, но, возможно, все это будет достаточно низкоуровневым и рутинизированным? В этом сценарии большинство задач наиболее эффективно выполняются с помощью простых автоматизированных процессов, действующих в соответствии с заранее вычисленными планами, выполнение которых практически не требует от человека высших познавательных или творческих способностей.
Мы можем представить это как крайнее продолжение тенденций, которые мы можем наблюдать в некоторых областях человеческого рынка труда. Когда-то сапожнику требовалось немного ума и изобретательности, чтобы сделать ботинок. На каком-то более позднем этапе развития работник, производящий обувь, может быть принят на фабрику, где ему поручат собирать подошвы из коробки и ставить их на конвейер: это требует гораздо меньше навыков. Возможно, к моменту технологической зрелости вся производственная деятельность будет оптимизирована и разложена на подзадачи, для выполнения которых не потребуется больше, чем интеллект на уровне насекомого? Тогда проблема не в том, что люди недостаточно способны, а в том, что мы слишком способны, а потому неэффективны. Использовать человеческий разум для выполнения задачи, для которой достаточно простого процессора, например чипа в старомодном карманном калькуляторе, было бы (если не сказать больше) энергетически расточительно.
Что ж, это вполне возможно. Однако я думаю, что, скорее всего, еще миллиарды лет будет сохраняться хотя бы практическая потребность в более высоких уровнях познания. Я привел несколько примеров задач в одном из раздаточных материалов, с которыми вы сможете ознакомиться позже.
ПАМЯТКА 18. НЕКОТОРЫЕ ЗАДАЧИ ВЫСОКОГО УРОВНЯ ТЕХНОЛОГИЧЕСКОЙ ЗРЕЛОСТИ
Приведенные ниже примеры "работы высокого уровня" - это области задач, которые, даже в условиях технологической зрелости, вероятно, не могут быть рутинизированы или автоматизированы когнитивными системами, значительно менее сложными, творческими или в целом способными, чем человеческий разум. (Этот список не претендует на то, чтобы быть исчерпывающим или окончательным, а лишь наводит на мысль о некоторых возможностях).
Физическая экспансия, по крайней мере, до тех пор, пока все доступные части Вселенной не будут заселены и оптимизированы. По прибытии на новый ресурс потребуется когнитивная работа, чтобы адаптировать существующие планы к местным условиям - определить, как оптимально заселить и создать цивилизационную инфраструктуру, учитывая точное распределение материалов и такие факторы, как температура, давление, радиация и т. д.
Работа с редкими стохастическими событиями. Даже оптимальные процессы могут иметь определенный процент ошибок, и иногда эти ошибки могут усугубляться, вызывая уникальные проблемы. Для обнаружения, диагностики и решения этих проблем могут потребоваться сложные когнитивные процессы.
Подготовка к взаимодействию с инопланетянами. Независимо от того, существуют ли инопланетяне или нет, выяснение того, как лучше взаимодействовать с ними, может считаться важным; и хотя исследования на эту тему будут приносить убывающую прибыль, они могут сохранять достаточно высокую ожидаемую ценность, чтобы оправдать постоянные инвестиции; и эти исследования могут потребовать когнитивной обработки высокого уровня. (Понимание недоступных сверхразумов также может быть очень важным).
Контроль и координация внутренней деятельности цивилизации. Если цивилизация состоит из простых повторяющихся паттернов, таких как равномерная сетка из гедониевых ящиков, то необходимость в этом может быть меньше; но если у нас более многогранная и развивающаяся цивилизация, со многими независимыми очагами развития, то может остаться необходимость в сложной координирующей деятельности - например, контроль за местными событиями, чтобы они не начали процесс, который приведет к распространению коррупции,
