Ознакомительная версия. Доступно 19 страниц из 95
Трауэр не считает, что Robby вытеснит живых работников. Рост затрат и уменьшение притока рабочих рук создадут ситуацию, когда робот-помощник будет расширять возможности и пациентов, и обслуживающего персонала. Трауэр говорит, что сиделки уже сейчас обходятся в $70 000 или больше в год, и дешевый робот станет реальным помощником даже тем, у кого не так много средств.
Не обращая внимания на опасения Тюфекчи, Трауэр сконцентрировался на расширении возможностей и помощи людям. Но когда эти машины оправдают наши надежды на них? И как их встретят те, о ком они будут заботиться? Эти вопросы остаются открытыми, хотя есть немало примеров, говорящих о том, что по мере улучшения распознавания и синтеза речи, снижения стоимости датчиков и появления более ловких машин мы будем с благодарностью принимать их. К тому же для привыкшего к интернету поколения, которое выросло с планшетами, iPhone и Siri, машины для ухода будут казаться совершенно естественными. Роботы для ухода за пожилыми и для сферы обслуживания, роботы-водители и роботы-солдаты – это неизбежность. Труднее предсказать характер наших отношений с ними. Истории, подобные притче о големе, рисующие образ счастливого слуги, который выполняет каждое наше желание, прочно сидят в наших душах и в мифологии. Появление интеллектуальных машин, которые в значительной степени заменят живой труд, несомненно спровоцирует кризис самоосознания человека.
Трауэр пока сосредоточился на понятной и важной роли роботов как помощников для больных и пожилых. Это отличный пример прямого использования искусственного интеллекта в интересах людей, но что будет, если интеллектуальные машины быстро распространятся по всей экономике? Мы можем только надеяться, что кейнсианцы окажутся правы – в долгосрочной перспективе.
Выбор пути, по которому пойдет развитие искусственного интеллекта и усиления интеллекта, налагает огромную ответственность на два сообщества разработчиков, описанных в этой книге. Когда Стив Джобс собирал команду инженеров, которая должна была вдохнуть новую жизнь в мир персональных компьютеров с помощью Lisa и Macintosh, он ясно видел цель. Джобс думал о компьютерах как о «велосипеде для разума». Персональные компьютеры, первоначально предложенные небольшой группой инженеров и провидцев в 1970-е гг., оказали огромное влияние на экономику и современные трудовые ресурсы. Они расширяли возможности каждого человека и высвобождали творческий потенциал людей в глобальном масштабе.
Три десятилетия спустя робототехнический проект Энди Рубина в Google также осуществляется небольшой группой инженеров, создающих самых современных роботов. Рубин начал работу со столь же ясной, хотя и существенно отличающейся целью. Когда он начинал скупать технологии и специалистов, которые должны были ввести Google в мир робототехники, ему казалось, что 10–15 лет достаточно для достижения значительного прогресса в самых разных областях робототехники – от шагающих машин до манипуляторов и сенсорных систем. В его воображении двуногие роботы Google выпрыгивали из автомобилей Google и доставляли пакеты к крыльцу заказчиков.
Сегодня в равной мере можно как включить людей в компьютерные системы, так и исключить их. Дальнейшее развитие и искусственного интеллекта, и средств усиления интеллекта заставит робототехников и ученых-компьютерщиков выбирать, как будут выглядеть системы на рабочих местах и в окружающем нас мире. Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами.
Разработчик программного обеспечения и консультант автомобильного проекта Google Брэд Темплтон как-то заметил: «Робот станет действительно автономным, когда вы прикажете ему идти на работу, а он решит отправиться на пляж»{201}. Это замечательная фраза, в которой самосознание соединяется с автономностью. Сегодня машины начинают действовать без значимого вмешательства людей или на уровне независимости, которую можно считать автономностью. Это ставит трудные вопросы перед разработчиками интеллектуальных машин. Однако по большей части инженеры игнорируют этические проблемы, возникающие при использовании компьютерных технологий. Лишь изредка сообщество исследователей искусственного интеллекта поддается дурным предчувствиям.
На проходившей в Атланте в 2013 г. конференции Humanoids, посвященной разработке и применению антропоморфных роботов, робототехник из Технологического института Джорджии Рональд Аркин обратился к аудитории со страстной речью под названием «Как НЕ создать Терминатора». Он напомнил собравшимся, что к своим трем знаменитым законам Азимов позднее добавил фундаментальный «нулевой» закон робототехники, который гласит: «Робот не может причинить вред человечеству или, бездействуя, допустить, чтобы человечеству был причинен вред»{202}. Обращаясь более чем к 200 робототехникам и специалистам по искусственному интеллекту из университетов и компаний, Аркин призвал более глубоко задуматься о последствиях автоматизации. «Все мы знаем, что соревнования [DARPA Robotics Challenge] проходят с прицелом на чрезвычайные ситуации под девизом „найти и уничтожить“, – сказал он сардонически, добавив: Простите, я имел в виду девиз „найти и спасти“».
Граница между роботами, действующими как спасатели и как надзиратели, уже сейчас нечеткая, если вообще существует. Аркин показал отрывки из научно-фантастических фильмов, включая «Терминатор» 1984 г. Джеймса Кэмерона. В каждом из них фигурировали злобные роботы, выполнявшие задачи, которые DARPA ставило в своих соревнованиях: расчистка завалов, вскрытие дверей, проламывание стен, подъем по лестницам и вождение автомобилей. Разработчики могут использовать эти возможности как конструктивно, так и деструктивно в зависимости от своих намерений. Аудитория нервно смеялась, но Аркин не давал ей расслабиться. «Я шучу, – сказал он, – но мне хочется показать, что технологии, которые вы разрабатываете, могут использоваться в таких целях, о которых вы даже не задумывались». В сфере вооружений потенциал неожиданных последствий долгое время был особенностью так называемых технологий двойного назначения, например ядерной энергии, которая может использоваться и как источник электричества, и как оружие. Теперь это все более справедливо для робототехники и искусственного интеллекта. Это технологии двойного назначения не только с точки зрения возможности использования в качестве оружия, но и с точки зрения их потенциала расширять возможности людей или заменять их. Сегодня мы все еще «в контуре управления» – машины, заменяющие людей или расширяющие их возможности, разрабатываются людьми, которые не могут сбросить с себя ответственность за последствия своих изобретений. «Если вы хотите создать Терминатора, то продолжайте делать свое дело не задумываясь и вы получите именно такое устройство, – сказал Аркин. – Но миру вокруг нас не все равно, какие будут последствия у того, что мы создаем».
Ознакомительная версия. Доступно 19 страниц из 95
