Книга Джордж и корабль времени - Люси Хокинг

Этика робототехники

Грубить роботу – нормально ли это?

Все мы знаем, что роботы – это просто машины, запрограммированные на выполнение тех или иных задач. Их невозможно задеть или оскорбить, они не ощущают боли, в отличие от людей и животных. Но… если вы считаете, что роботов обижать нельзя, что вербальное или физическое насилие по отношению к роботам – это плохо и недостойно, то это вовсе не значит, что вы сошли с ума!

В человеческой психологии есть интересное явление, которое называется «антропоморфизм». Это означает, что нам свойственно приписывать животным и даже неодушевлённым предметам человеческие качества и эмоции. Если вам когда-нибудь казалось, что у брошенного под кровать плюшевого мишки грустный вид или что ваш пёс вам улыбается, значит, вы их антропоморфизируете. Нет, у собак безусловно есть эмоции, но «прочесть» их труднее, чем кажется большинству людей. Иногда у нас возникает впечатление, что животные или предметы испытывают те же чувства, что и мы с вами. И хотя эти наши представления, возможно, ошибочны, они вполне естественны – именно таким способом мы в ходе эволюции осмысляем другие существа и предметы и строим отношения с ними.

Выясняется, что роботов мы антропоморфизируем особенно сильно. Эволюция научила нас реагировать на других существ и на движение. Роботы объединяют в себе то и другое. Мы сами – живые существа, и наш мозг настроен таким образом, чтобы воспринимать определённые движения как признаки жизни. Таким образом, если мы видим робота, который, как нам кажется, движется сам по себе, часть нашего мозга считает, что этот робот действует сознательно. А значит, нам легко представить, что у него есть собственные цели и эмоции. Вот почему многим из нас становится так жалко роботов, когда они где-то застревают, хотя самих роботов это совершенно не трогает!

Некоторые роботы специально сконструированы таким образом, чтобы провоцировать этот инстинкт. Вы наверняка видели «Звёздные войны» и помните R2D2 и других роботов оттуда. Сейчас такие роботы, чьи звуки, движения и другие сигналы автоматически ассоциируются с живыми существами, есть уже не только в кино, но и в реальности. Многим детям и взрослым нравится играть с такими роботами, потому что очень легко вообразить, что они живые, – и это можно использовать, например, в образовании или здравоохранении, чтобы помогать людям. Например, роботы в виде животных могут служить домашними любимцами для одиноких людей или для тех, у кого аллергия на настоящих живых животных. Для учителей роботы могут стать дружелюбными и интересными помощниками, благодаря которым учебный процесс становится гораздо увлекательнее. Некоторые роботы уже очень хорошо справляются с такими задачами, как напомнить человеку принять лекарство, или успокоить его, или мотивировать, скажем, к изучению новых языков. И эти роботы действительно помогают, потому что люди относятся к ним не как к устройствам, а как к живым существам. Разговаривать с роботом куда интереснее, чем с тостером или компьютером!

Может быть, скоро и у вас дома заведётся робот-помощник. Но не спешите выкладывать ему все свои секреты! Для начала важно хотя бы немножко узнать о том, как работает робот, какой цели служит и какие данные о вас он собирает. Например, записывает ли робот то, что вы говорите? Или, если вы сообщаете ему что-то о себе, получает ли ещё кто-то доступ к этой информации? В большинстве случаев компании-производители просто хотят, чтобы у вас был крутой робот, но некоторые из них могут и собирать ваши данные, чтобы потом продать их другим большим компаниям. Или у них могут быть ещё какие-нибудь идеи относительно того, как с помощью вашего робота заработать побольше денег. В конце концов, роботы – это машины, созданные кем-то, поэтому они делают то, чего хотят от них создатели. Это не обязательно что-то плохое. Просто совсем не вредно задаться вопросом: кто сделал этого робота и для чего.

В будущем роботы будут работать в самых разных местах и выполнять множество разных задач. Некоторые из них будут запрограммированы на то, чтобы действовать так, словно у них есть чувства. И это снова возвращает нас к вопросу о том, нормально ли это – обижать роботов? Конечно, если у робота на самом деле никаких чувств нет, то обидеть его – это не так плохо, как обидеть животное или человека. Но если вы ведёте себя с роботами вежливо, то с вашей стороны это вовсе не глупость. Наоборот, это может означать, что у вас сильно развита эмпатия – способность ставить себя на место другого и сочувствовать ему.

Учёные (например, я) исследуют, как и почему мы относимся к роботам как к живым существам. Один из вопросов, которыми мы задаёмся, – можно ли что-то узнать о человеке по тому, как он ведёт себя с роботами. Пока что мы считаем, что люди, которые испытывают эмпатию по отношению к роботам, испытывают эмпатию и по отношению к другим людям. Так что если вам вдруг захотелось нагрубить роботу, подумайте вот о чём: роботу, может быть, и неважно, хороший ли вы человек, зато вам самому и другим людям это ещё как важно!