по назначению. Правила спортивных соревнований (например, запрет на стероиды и эритропоэтин) не распространяются на интеллектуальные состязания в реальном мире. Прогресс в борьбе с ослаблением когнитивных способностей, по определению, чреват побочными эффектами.
Еще одна передовая человеческого применения человеческих существ – «мозговые органоиды». Мы научились ускорять биологическое развитие. Процессы, которые обычно растягиваются на месяцы, в лаборатории возможно свести к четырем суткам при использовании правильных «рецептов» для факторов транскрипции[195]. Мы можем создать мозг, который с повышенной точностью воспроизведет различия между людьми, страдающими от рождения аберрантными когнитивными расстройствами (например, микроцефалией). Добавим сюда «правильную» сосудистую сеть (вены, артерии и капилляры), отсутствовавшую ранее, и это позволит мозговым органоидам превзойти прежний субмикролитровый предел, возможно, даже оставить позади нынешний объем человеческого мозга (1,2 литра) – а то и 5-литровый мозг слона или 8-литровый мозг кашалота.
Обычные компьютеры против биоэлектронных гибридов
Сегодня, когда миниатюризация по закону Мура приближается к следующему скачку в мощности (безусловно, этот барьер отнюдь не сплошная стена), мы наблюдаем пределы стохастики атомов легирующей примеси в кремниевых пластинах и пределы уменьшения размеров на рубеже порядка 10 нанометров. Проблемы с энергопотреблением столь же очевидны: великий Watson, победитель в игре «Jeopardy!», требовал напряжения 85 000 ватт в режиме реального времени, тогда как человеческому мозгу достаточно 20 ватт. Впрочем, не станем передергивать: человеческому организму требуется 100 ватт для функционирования и двадцать лет развития, следовательно, он расходует около 6 триллионов джоулей энергии для «производства» зрелого человеческого мозга. Стоимость вычислений масштаба Watson аналогична. Так почему же люди не вытесняют компьютеры?
Во-первых, разумы игроков в «Jeopardy!» выполняли гораздо больше дел, чем просто поиск информации, причем программа Watson многие из них наверняка посчитала бы ненужным отвлечением (скажем, контроль улыбок мозжечком). Кроме того, человеческий мозг допускает, чтобы некоторые способности выскакивали, как чертик из коробки, и эта трансцендентность непостижима для Watson (вспомним пять знаменитых annus mirabilis Эйнштейна 1905 года[196]). Вдобавок люди потребляют больше энергии, чем минимум (100 Вт), необходимый для жизни и размножения. В Индии тратят в среднем 700 Вт на человека, в США – до 10 000 Вт. Конечно, это меньше, чем 85 000 Вт системы Watson. Компьютеры могут стать более похожими на нас благодаря нейроморфным вычислениям – возможно, окажутся заметно ближе к нам. Но человеческий мозг тоже способен стать эффективнее. Органоидный «мозг в бутылке» может достичь предела в 20 Вт. Уникальные преимущества компьютеров в математике, хранении и поиске данных (свойства, не слишком-то востребованные нашими предками) можно спроектировать и развить заново в лабораториях.
Компания «Фейсбук», Агентство национальной безопасности США и прочие возводят хранилища площадью четыре гектара и с мегаваттной мощностью, а человеческая ДНК вмещает столько же данных в миллиграмме. Очевидно, что ДНК не является зрелой технологией хранения данных, но, учитывая, что «Майкрософт» и «Техниколор» планируют удвоить ее емкость, разумно обратить внимание на эти изыскания. Главной причиной расхода 6 триллионов джоулей энергии для получения продуктивного человеческого разума являются двадцать лет обучения.
Пускай суперкомпьютер может «обучать» своих клонов за считаные секунды, затраты на производство зрелого кремниевого клона сопоставимы. Инженерные (человеческие) чудеса мало ускоряют этот медленный процесс, но вот ускорение разработки и внедрения новой памяти (аналогичной ДНК или иной) может сократить время дупликации биокомпьютера до предела дупликации клеток (от одиннадцати минут до двадцати четырех часов). Дело в том, что, пусть нам неведомо, какое соотношение био-/гомо-/нано-/робогибридов будет доминирующим на каждом этапе нашей ускоряющейся эволюции, мы можем стремиться к высоким уровням гуманного, справедливого и безопасного обращения («применения» друг друга).
Английский «Билль о правах» датируется 1689 годом. Франклин Д. Рузвельт провозгласил «Четыре свободы» – свободу слова, свободу совести, свободу от страха и свободу от нужды[197]. Всеобщая декларация прав человека ООН (1948) гарантирует право на жизнь, запрещает рабство, защищает права человека в случае их нарушения, гарантирует свободу перемещений, собраний, мысли, совести и веры, перечисляет социальные, экономические и культурные права, формулирует обязанности человека перед обществом и запрещает злоупотребление правами в нарушение целей и принципов Организации Объединенных Наций.
«Универсальный» характер этих прав отнюдь не является по-настоящему универсальным и подвергается широкой критике, а также нарушается. Как повлияет на ситуацию возникновение искусственного интеллекта? Что ж, можно предположить, что будет все труднее прятаться за интуицией при вынесении этических решений («Я узна́ю, когда увижу воочию», как высказался судья Верховного суда США Поттер Стюарт в 1964 году), за «мудростью отвращения» (так называемый фактор гадости Леона Касса[198], 1997 год), или за невнятными ссылками на «здравый смысл». Поскольку нам приходится иметь дело с чуждым разумом, причем порой чуть ли не в буквальном смысле с нашей точки зрения, нужно вести себя доходчиво – если хотите, алгоритмически.
Беспилотные автомобили и летательные аппараты, биржевые сделки, деятельность АНБ и все остальные сферы деятельности требуют быстрого и заранее одобренного принятия решений. Мы можем тем самым получить представление о многих аспектах этики, которые пытались выявить и объяснить на протяжении столетий. Тут предстоит учитывать конфликтующие приоритеты, а также укоренившиеся биологические, социологические и отчасти (наполовину) логические когнитивные предвзятости. Примечательно, что универсальным догмам прав человека прямо противоречат представления о неприкосновенности частной жизни и достоинстве личности, положенные в основу многих законов и руководящих принципов.
У людей может возникнуть желание изучить (и изменить) мышление компьютеров, чтобы понять, почему те принимают решения, противоречащие нашим человеческим инстинктам. Разве не справедливо будет со стороны машины захотеть того же от нас? Мы отмечаем стремление к прозрачности, позволяющее предотвращать потенциальные финансовые конфликты, распространение программного обеспечения с открытым исходным кодом, свободного аппаратного и «мозгового» обеспечения; нелишним будет вспомнить закон о равном доступе к науке и технологиям (FASTR) и деятельность фонда «Открытые люди»[199].
В своей книге «Возможности вычислительных машин и человеческий разум» (1976) Джозеф Вейценбаум утверждал, что машины не должны заменять человека в ситуациях, требующих проявлений уважения, достоинства или заботы, но другие авторы – Памела Маккордак, ученые Джон Маккарти и Билл Хиббард[200] – считают, что машины могут быть беспристрастнее, спокойнее и последовательнее, а также причинять меньше вреда, чем люди на соответствующих должностях.
Равенство
Что имел в виду тридцатитрехлетний Томас Джефферсон в 1776 году, когда писал: «Мы считаем самоочевидной истиной, что все люди созданы равными, что Создатель наделил их определенными неотъемлемыми правами, что среди оных – жизнь, свобода и поиски счастья»? Разнообразие нынешних людей потрясает. В 1776 году «людьми» не считались цветные и женщины. Даже сегодня люди с врожденными когнитивными или поведенческими проблемами удостаиваются неравного обращения (хотя в большинстве случаев к ним относятся с состраданием) – говорим ли мы о синдроме Дауна, болезни Тея – Сакса, синдроме хрупкости, церебральном параличе или чем-то еще.
А при смене географии обитания
