Ознакомительная версия. Доступно 9 страниц из 42
тоже понравится публике. Загруженный разум мог бы даже управлять процессом терраформирования в негостеприимных мирах, чтобы подготовить их для людей. Кто знает.
К тому же загрузка мозга могла бы подтолкнуть развитие методов лечения мозга и расширения его способностей и, таким образом, пойти на пользу человеку или животным. Исследователи ИИ, нацеленные на создание искинов, способных интеллектуально конкурировать с человеком, возможно, найдут ее полезным средством разработки ИИ. Кто знает, не будут ли искины, происходящие от нас, отличаться большей доброжелательностью по отношению к нам?
Наконец, некоторые люди по понятным причинам захотят завести себе цифровых дублей. Если вы узнали, что скоро умрете, вам вполне может захотеться оставить после себя свою копию, которая сможет общаться с вашими детьми или завершить начатые проекты. Мало того, в роли личных помощников – этаких Siri и Alexa будущего – возможно, будут выступать загруженные в компьютер копии умерших людей, которых мы при их жизни глубоко любили. Возможно, нашими друзьями станут наши же копии, подправленные так, как нам захочется. И не исключено, что мы вдруг разглядим в этих цифровых копиях самосознающие создания, которые заслуживают уважительного отношения.
Заключение: Послежизнь мозга
Стержнем этой книги является диалог между философией и наукой. Мы уже видели, что научные основы новых, нарождающихся технологий могут, с одной стороны, бросить вызов нашим представлениям о разуме, собственном «я» и личности, а с другой – заметно расширить их. И наоборот, философия улучшает наше видение того, чего могут достичь эти нарождающиеся технологии: могут ли существовать обладающие сознанием роботы, можно ли заменить значительную часть мозга микрочипами и при этом быть уверенным, что человек останется самим собой, и т. д.
Я попыталась в самых общих чертах исследовать возможности конструирования разума. Хотя мы не знаем, будут ли существовать такие места и компании, как Immortex или Центр конструирования разума, их появление меня бы не удивило. Сегодняшние события говорят сами за себя: именно сейчас разрабатываются искины, которые в ближайшие несколько десятилетий заменят на рабочих местах большинство работников – как белые, так и голубые воротнички; именно сейчас активно прощупываются пути слияния человека и машины.
Я не считаю, что сложные продвинутые искины непременно будут обладать сознанием. Нет, я выступаю за взвешенный, промежуточный подход – тот, что отвергает мысленный эксперимент с китайской комнатой, но при этом не исходит априори, основываясь на вычислительной природе мозга или концептуальной возможности изоморфов, из того, что продвинутый искин будет обладать сознанием.
Не исключено, что самосознающий искин нельзя построить на практике, а сознание на ином, небиологическом субстрате вообще противоречит законам физики. Но если мы будем тщательно проверять создаваемые нами искины на наличие сознания, то сможем подойти к этому вопросу с должной осторожностью. А публичная дискуссия без скатывания к технофобии или к тенденции видеть сознание в каждом искине, который на первый взгляд напоминает человека, позволит нам лучше судить о том, следует ли создавать самосознающий ИИ и если следует, то как. Общество должно делать выбор в этих вопросах очень осторожно и при участии всех заинтересованных сторон.
На мой взгляд, с этической точки зрения лучше всего считать, что продвинутый искин может оказаться самосознающим, по крайней мере до тех пор, пока мы не разработаем надежные тесты для выявления сознания. Любая ошибка может негативно сказаться на спорах о том, могут ли искины заслуживать особого этического отношения как самосознающие существа, и ошибаться здесь лучше в безопасную сторону. Неспособность распознать самосознающую машину может не только вызвать ненужную боль и страдание. Как показывают такие фильмы, как «Из машины» и «Я, робот», отсутствие милосердия к искину может вернуться к нам бумерангом, заставить машины относиться к нам так же, как мы относились к ним.
Кому-то из читателей помоложе когда-нибудь, возможно, и правда придется принимать решения, связанные с конструированием разума. Если вы относитесь к их категории, то мне хотелось бы дать вам следующий совет: прежде чем совершенствовать свой мозг, необходимо как следует поразмыслить над тем, кто вы есть. Если вы не уверены до конца в глубинной природе личности, как я например, выбирайте постепенные изменения и усовершенствования на биологической основе, – те, что отражают тип перемен, которые претерпевает нормальный мозг в процессе обучения и взросления. С учетом мысленных экспериментов, которые подвергают сомнению наиболее радикальные подходы к усовершенствованию, и отсутствия согласия в спорах об идентичности личности, осторожный подход выглядит наиболее благоразумным. Лучше всего избегать радикальных, быстрых изменений, даже тех, которые не меняют тип субстрата (например, углерод на кремний). Разумно также избегать попыток «переноса» разума на другой субстрат.
Пока мы не узнаем больше о синтетическом сознании, нельзя быть уверенным в том, что передача ключевых ментальных функций ИИ-компонентам в тех частях мозга, которые отвечают за сознание, безопасна. Конечно, нам еще только предстоит определить, обладает ли искин сознанием, так что неизвестно, будете ли вы (или, может быть, точнее сказать – ваша ИИ-копия) хотя бы самосознающим существом, если попытаетесь слиться с машиной.
В настоящий момент, как вы видели, посещение Центра конструирования мозга может принести разочарование и даже стать опасным. Мне хотелось бы указать вам ясный и однозначный путь и провести вас безопасным маршрутом через дебри решений по конструированию разума. Но вместо этого приходится ограничиваться следующим посланием: любые решения по конструированию разума необходимо рассматривать в первую очередь в ключе метафизического смирения. Помните о рисках. Будущее разума, будь то человеческий разум или разум робота, – это вопрос, требующий открытого диалога и философского рассмотрения.
Приложение
Трансгуманизм
Трансгуманизм – не монолитная идеология, но у него все же есть официальная декларация и организация. Всемирная трансгуманистическая ассоциация – это международная некоммерческая организация, которую основали в 1998 г. философы Дэвид Пирс и Ник Бостром. Основные постулаты трансгуманизма изложены в приведенной ниже Декларации трансгуманизма[126].
Декларация трансгуманизма
1. Человечество в будущем радикально изменится благодаря новым технологиям. Мы предвидим изменение условий человеческой жизни, в том числе избавление от неизбежности старения, ограниченности естественного и искусственного интеллекта, незыблемости психологии поведения, страданий и нашего заточения в пределах планеты Земля.
2. Для понимания грядущих путей развития и предсказания долгосрочных последствий необходимы систематические исследования.
3. Трансгуманисты полагают, что открытость и восприимчивость к новейшим технологиям даст нам больше шансов добиться улучшений, чем попытки запретить подобные технологии или воспрепятствовать их развитию.
4. Трансгуманисты защищают моральное право тех, кто хочет воспользоваться передовыми технологиями, на расширение своих умственных и физических способностей (включая репродуктивные) и улучшение контроля над своей жизнью. Мы ищем пути для
Ознакомительная версия. Доступно 9 страниц из 42
