Ознакомительная версия. Доступно 24 страниц из 120
К вопросу о покорении: сейчас многие посвящают всю свою жизнь обслуживанию (или даже служению) технологии и содействию ее «эволюции». Эти люди добывают минералы, разрабатывают «железо», создают программы, помогают диаспорам тех или иных устройств, передавая их пользователям, чтобы те, в свою очередь, служили и обслуживали, еще и платя за это. Люди помогают технологии выполнять ее задачи, а она помогает им выполнять их задачи. Беспристрастный свидетель мог бы задать вполне обоснованный вопрос: кто тут хозяин, а кто — слуга?
Что касается смерти, болезни, инвалидности: токсичные промышленные химикаты и материалы, которые используются при производстве, эксплуатации, распространении или ликвидации технологии, и электромагнитные излучения (от самих устройств и средств связи, используемых для их коммутации) привели к взрывному развитию оксидативного стресса — повреждения клеток, от которого защищают антиоксиданты, — и связанных с ним человеческих недугов — рака, нейродегенеративных и аутоиммунных заболеваний, хронических мультисимптомных нарушений и расстройств аутистического спектра.
Некоторые замечают, что эти заболевания, похоже, выборочно поражают самых умных (тех, кто мог бы стать сверхразумным?) представителей нашего вида. Я полагаю, что, раз оксидативный стресс повреждает митохондрии — энергетические станции клеток — и раз у тех, кто обладает, в силу биологических особенностей, большим мозгом, больше потребности в энергии, у таких людей с потенциальными суперспособностями повышен риск клеточных повреждений и смерти. Проблемы, порождаемые оксидативным стрессом, усиливаются в ситуациях высоких энергетических запросов (даже типичный человеческий мозг, составляющий около 2 процентов от массы тела, использует около 20 процентов кислорода и 50 процентов глюкозы от общего потребления). Возможный вывод: восстание сверхразумных компьютеров уже началось, и теперь они пытаются выборочно изъять у нас тех, кто мог бы стать сверхразумным человеком.
Потому — да, в очевидном смысле технология способна обрести разум и принять решение уничтожить или поработить нас. Но она может использовать не самые очевидные средства, и не исключено, что этот процесс происходит прямо сейчас.
Метапрезентация
Нога Ариха
Историк идей; автор, совместно с Марчелло Симонеттой, книги «Наполеон и мятежник: История о братской дружбе, страсти и власти» (Napoleon and the Rebel: A Story of Brotherhood, Passion, and Power)
История человечества и история технологий переплетаются друг с другом. Мы всегда использовали наши когнитивные способности, чтобы создавать предметы, необходимые нам для выживания: оружие, одежду, жилища. Эволюция человеческого разума проиллюстрирована эволюцией технологий. Мы выработали способность к метарепрезентации — осознанию того, что у нас есть разум и возможности его анализировать, которая является функцией сознания более высокого порядка. И, чтобы смотреть на себя в этом зеркале, мы всегда использовали технологические аналогии — сравнивали свой разум с изобретенными нами технологиями. Для каждой эпохи — своя машина: от гидравлических насосов до компьютеров.
Мы создали технологии, которые не сможет освоить ни один отдельно взятый человек. Наши творения уже вышли за пределы нашего понимания. Поэтому неудивительно, что нам так легко представить, как они становятся самостоятельными существами, обладающими по меньшей мере столь же гибким разумом, как и наш. Научная фантастика описывает идеальных роботов, неотличимых от нас, имеющих тела, говорящих и, очевидно, испытывающих чувства, — роботов, которые могут ввести нас в заблуждение и, вероятно, способны напасть на нас.
Но в нашем понятийном мышлении о собственных разумах мы склонны оставаться картезианскими дуалистами. Мышление кажется такой бесплотной деятельностью, что мы забываем: мы не мозги в банках, никакая микротехнология не воссоздаст всей сложной биологии, благодаря которой работает наш разум, изобилующей нейромедиаторами, энзимами и гормонами. Мы — это наши тела; у нас есть эмоции, непосредственно связанные с телом и влияющие на мыслительный процесс. Машины способны освоить ориентированные на определенные цели когнитивные способности, но их совершенная обработка данных коренным образом отличается от несовершенного, непостоянного, неочевидного мышления людей, связанного с осознанием своего «я», проприоцепцией, чувством собственной целостности, квалиа, отличающих нас от зомби. Компьютеры превосходно справляются с процессами, в которых большинство из нас выглядит довольно неуклюже, мы все чаще обращаемся к машинам, когда нам нужны факты. Значительная часть нашей памяти передана Google, и нет сомнений в том, что наши разумы все больше и больше выходят за границы наших тел — что мы существуем в растущей сети бестелесных разумов и данных. Мышление — отчасти социальная способность; мыслить — значит участвовать в коллективном предприятии, а его сложность так же характеризует состояние человека, как и наша телесность. У машин нет социальной жизни, уже не говоря о том, что они не являются набором биологических тканей, сформированным в ходе эволюции. Они хорошо справляются с определенными задачами, а мы хорошо научились использовать машины для своих целей. Но до тех пор пока мы не создадим телесное эмоциональное существо, чего, как я полагаю, мы сделать не сможем, наши машины продолжат заниматься лишь подобием нашего мышления и эволюционировать сообразно нашим потребностям.
Посылка[131]: так мало времени — так много предстоит сделать
Демис Хассабис
Вице-президент по конструкторским и технологическим вопросам в Google DeepMind; соучредитель DeepMind Technologies
Шейн Легг
Исследователь искусственного интеллекта; соучредитель DeepMind Technologies
Мустафа Сулейман
Руководитель направления по прикладным системам искусственного интеллекта, Google DeepMind; соучредитель DeepMind Technologies
Долгие годы мы доказывали, что искусственный интеллект, в особенности область машинного обучения, быстро развивается и находится на пороге еще более быстрого и значительного роста. При этом мы выступали за то, что идеи безопасности и этики в сфере искусственного интеллекта — важная тема, и что всем нам надо воспринимать ее очень серьезно. Потенциальные выгоды искусственного интеллекта будут огромны, но, как в случае с любой мощной технологией, они сильно зависят от того, насколько внимательно мы будем подходить к применению этой технологии.
Хотя некоторые ученые нас всячески поддерживали, когда мы запустили проект DeepMind, многие были настроены скептически. Однако за последние годы климат для амбициозных исследований в области искусственного интеллекта значительно улучшился, чему, несомненно, способствовала череда удивительных достижений. Были наконец решены давние проблемы; кроме того, в научном сообществе начала крепнуть уверенность в том, что лучшее еще впереди. Мы видим это во взаимодействии с широким кругом исследователей, а также в том, как изменился тон статей об искусственном интеллекте в СМИ. Если вы не заметили, «зима ИИ» уже закончилась и наступила «весна ИИ».
Ознакомительная версия. Доступно 24 страниц из 120
