Ознакомительная версия. Доступно 9 страниц из 42
просто изоморфом)[28]. Если искин обладает всеми перечисленными качествами дельфина, то в соответствии с вычислительной теорией он должен обладать сознанием. В самом деле, у этого искина будут наблюдаться все те же состояния сознания, что и у оригинальной системы.
Все это хорошо и замечательно, однако не оправдывает технооптимизм в отношении искусственного сознания. Вычислительная теория сознания на удивление мало может сказать о том, будет ли ИИ, который мы, вероятнее всего, создадим, обладать сознанием, – она утверждает лишь, что если нам удастся построить изоморф биологического мозга, то он будет обладать сознанием. Она ничего не говорит о системах, которые не являются изоморфами биологического мозга.
В сущности, вычислительная теория сознания сводится к принципиальному признанию возможности машинного сознания: если бы мы могли создать точный изоморф, он обладал бы сознанием. Но даже если такая технология в принципе реализуема, это не означает, что она действительно будет когда-нибудь реализована. Например, космический корабль, проходящий сквозь кротовую нору, может выглядеть концептуально возможным (хотя это в настоящее время является предметом споров), но, однако, нельзя исключать, что его реальное создание несовместимо с законами физики. Например, не существует способа получения достаточного количества той экзотической разновидности энергии, что требуется для стабилизации кротовой норы. Или законы природы это допускают, но земляне никогда не достигнут необходимого уровня технического развития.
Философы отличают логическую, или концептуальную, возможность машинного сознания от возможностей других типов. Законная (или «номологическая») возможность требует, чтобы событие, представляющее создание чего-либо, не противоречило законам природы. В рамках номологической возможности полезно далее выделить техническую возможность создания чего-либо. То есть является ли создание артефакта, о котором идет речь, не только номологически, но и технически осуществимым. Хотя дискуссии на тему более широкой, концептуальной возможности искусственного сознания весьма ценны, я всегда подчеркиваю, что с практической точки зрения очень важно определить, сможет ли ИИ, который мы со временем создадим, обрести сознание. Так что у меня особый интерес к технической возможности машинного сознания и к тому, будут ли предприняты попытки его создать.
Чтобы разобраться в этих категориях возможности, рассмотрим популярную разновидность мысленного эксперимента, в котором речь идет о создании изоморфа. Вы, читатель, будете субъектом этого эксперимента. Предлагаемая процедура оставляет все ваши мыслительные функции нетронутыми, но все же представляет собой усовершенствование, поскольку переносит эти функции на иной, более долговечный субстрат. Начнем.
Процедура омоложения вашего мозга
Наступил 2060 год. Вы все еще бодры и в здравом рассудке, но принимаете решение пройти процедуру профилактического омоложения мозга. Друзья советуют вам воспользоваться услугами Mindsculpt – компании, которая в течение часа заменяет части мозга соответствующими микрочипами, пока в конечном итоге мозг не становится полностью искусственным. Сидя в приемной в ожидании консультации хирурга, вы нервничаете. Не каждый день человек принимает решение заменить свой мозг микрочипами. Когда подходит ваша очередь для беседы с врачом, вы спрашиваете: «Останусь ли я при этом самим собой?»
Врач уверенно объясняет, что сознание определяется функциональной организацией мозга, т. е. абстрактным паттерном причинно-следственных взаимодействий между частями вашего мозга. Она говорит, что новые технологии сканирования и визуализации мозга позволяют получить вашу персонализированную карту разума: схему каузальных механизмов, т. е. полное описание того, как ваши ментальные состояния причинно-следственно взаимодействуют друг с другом всеми возможными способами, определяющими, какие эмоции вы испытываете, какие модели поведения выбираете, что воспринимаете и т. д. Похоже, врач и сама восхищается прецизионностью новых технологий. Наконец, взглянув на часы, она подводит итог: «Таким образом, хотя ваш мозг будет заменен микросхемами, карта разума не изменится».
Объяснение врача успокоило и ободрило вас, так что вы записываетесь на хирургическую процедуру. Во время операции врач просит вас не засыпать и отвечать на вопросы. Затем она начинает удалять группы нейронов, заменяя их искусственными нейронами на основе кремния. Первой изменению подвергается слуховая зона коры. Работая над ней, доктор время от времени спрашивает, не замечаете ли вы каких-нибудь изменений в звучании ее голоса. Вы отвечаете отрицательно, и она, закончив, переходит к зрительной зоне коры. Вы говорите, что ваше зрительное восприятие, кажется, не изменилось, так что она двигается дальше.
Не успеваете вы и опомниться, как хирургическая операция подходит к концу. «Поздравляю! – восклицает врач. – Вы теперь своего рода искин. У вас искусственный мозг, скопированный с биологического оригинала. В медицинских кругах таких, как вы, называют изоморфами»[29].
Что это все значит?
Цель философских мысленных экспериментов – подстегнуть воображение; вы вольны соглашаться или не соглашаться с развязкой сюжета. В данном случае говорится, что операция прошла успешно. Но как бы вы себя чувствовали после такой операции на самом деле – точно так же, как прежде, или в чем-то иначе?
Вашей первой реакцией, возможно, будет вопрос, действительно ли то, что получилось, – это настоящий вы, а не какой-нибудь дубль. Это важный вопрос, который стоит в центре нашего разговора в главе 5. Пока же будем считать, что человек после операции – это по-прежнему вы, и сосредоточимся на том, изменится ли при этом в нашем восприятии ощущаемое качество сознания.
В книге «Сознающий ум»[30] философ Дэвид Чалмерс, обсуждая аналогичные ситуации, настаивает, что ваши переживания должны остаться неизменными, поскольку альтернативные гипотезы попросту слишком притянуты за уши[31]. В соответствии с одной из таких гипотез ваше сознание будет постепенно гаснуть по мере замены нейронов микрочипами, примерно как гаснет звук музыкального проигрывателя, когда вы плавно поворачиваете ручку громкости. В какой-то момент, в точности как звучание песни, ваше сознание просто исчезнет. Еще одна гипотеза предполагает, что до какого-то момента ваше сознание будет оставаться неизменным, а потом резко «выключится». В обоих случаях конечный результат один и тот же: свет гаснет.
Оба этих сценария и Чалмерсу, и мне представляются маловероятными. Если искусственные нейроны действительно представляют собой точные функциональные копии, как предполагает наш мысленный эксперимент, то трудно понять, почему они должны вызвать плавное угасание или резкие сдвиги в качестве вашего сознания. Такие дуплицированные искусственные нейроны по определению обладают всеми причинно-следственными свойствами, принципиально важными для вашей ментальной жизни[32].
Итак, кажется правдоподобным, что такая процедура, будь она проведена, привела бы к появлению ИИ, обладающего сознанием. Этот мысленный эксперимент может служить аргументом в пользу того, что синтетическое сознание возможно, по крайней мере концептуально. Но, как отмечено в главе 1, концептуальная возможность, следующая из подобного мысленного эксперимента, не гарантирует, что в случае создания подвинутого ИИ тот будет обладать сознанием.
Важно задаться вопросом, возможна ли в принципе ситуация, описанная в мысленном эксперименте. Не противоречит ли создание изоморфа законам природы? И если
Ознакомительная версия. Доступно 9 страниц из 42
