Книга Автономия. Как появился автомобиль без водителя и что это значит для нашего будущего - Лоуренс Бернс

Инцидент на трассе 101, имевший место в апреле 2018 года, когда Tesla Model X врезалась в разделительный барьер и погиб водитель, инженер Apple Вэй Хуан, или наезд самоуправляемого кроссовера на пешехода по имени Элен Херцберг в городе Темпе, штат Аризона, тоже со смертельным исходом, каждый раз заставляли общественность вновь возвращаться к обсуждению безопасности и надежности технологии. Но случай с Джошуа Брауном представляет особую важность, поскольку был первым.

Система помощи водителю на шоссе, которую Tesla устанавливала в свои автомобили, не пользовалась особым доверием еще до аварии. Первая версия системы была выпущена 14 октября 2015 года в качестве обновления программного обеспечения для Model S. Функция получила название Autopilot. Сначала она представляла собой, по сути, ухудшенный вариант функции помощи водителю в пробке, отвергнутой инженерами Chauffeur в 2012 году. Ее задача состояла в том, чтобы избавить человека от монотонного управления на трассе, автоматически удерживая машину в текущей полосе. Там обычно нанесена разметка, сама дорога поддерживается в хорошем состоянии, а доступ возможен только через въезды и съезды.

Вспомните, испытания в Google выявили тенденцию человека за рулем «отключаться», как только активирован автопилот. Соответственно, высок риск того, что в случае опасности он (или она) будет реагировать слишком медленно. Среди экспертов по безопасности движения это получило название «проблемы передачи управления» (Handoff Problem), причем тесты NHTSA показали, что людям на перехват управления может потребоваться до 17 секунд. Это очень много – на обычных для шоссе скоростях машина проходит за это время четверть мили.

Внутри коллектива Chauffeur много обсуждали автопилот Tesla. Мы все сошлись во мнении, что Tesla продвигает новую функцию слишком агрессивно. «Мы разрабатывали такие вещи, – говорил Урмсон, – и понимаем, насколько это сложно. У них это работать не будет».

Мы считали, что авария с человеческими жертвами по вине автопилота Tesla – только вопрос времени. И когда она случилась, мы опасались, что общественное мнение сразу охладеет к беспилотным технологиям. Кроме того, могло последовать ужесточение законодательства, в свою очередь, откладывающее переход к модели «транспорт как услуга» – что было бы несправедливо по отношению к технологии, способной сократить число смертей на дорогах на 90–95 %.

Поэтому Chauffeur делала, что могла. В том же месяце, когда Tesla выпустила свой автопилот, мы опубликовали на сайте Medium статью, в которой подняли серьезные вопросы, связанные с системами помощи водителю. Кроме того, мы объясняли свой отказ от разработки подобных решений в пользу полной автономности. «Люди, как правило, быстро начинают доверять новой технологии, как только видят, что она работает. В результате им сложно то отключаться от вождения, то обратно включаться в него в присутствии технологии, специально созданной, чтобы отстранить их. Есть и другая проблема – контекст. Вернув себе управление, будешь ли ты в достаточной степени владеть дорожной обстановкой, чтобы быстро принимать решения?» Заключительные слова статьи особенно мне нравятся: «Принято думать, что научить автомобиль передвигаться в автоматическом режиме очень сложно. Так и есть. Но мы считаем, что отнюдь не проще заставить человека следить за дорогой, когда он устал, ему скучно, а технология говорит ему: “Расслабься. У меня все под контролем… Пока что”».

С моей точки зрения, Tesla поступила безответственно, выпустив свой автопилот. Чтобы активировать функцию, владелец машины должен был сначала подтвердить, что постоянно будет держать руки на руле и следить за дорогой. Также нужно было подтвердить понимание, что продукт находится в состоянии бета-версии, то есть опытного образца. Действия Маска были внутренне противоречивы и вызывали много вопросов. Он предлагал покупателям попробовать новый продукт, дающий возможность не следить за дорогой – с той маленькой оговоркой, что, пользуясь им, они обязаны постоянно за ней следить. Политику Tesla считали опасной не только в Chauffeur. Сооснователь Zipcar Робин Чейз, внимательно следившая за новостями в области автономного вождения с момента ухода из знаменитой каршеринговой фирмы, говорит: «Нельзя выпускать подобную вещь на рынок, сказав, что она не до конца отлажена и за ее работой надо внимательно следить. Это слишком трудно».

То, чего опасались многие из нас, произошло всего через семь месяцев после выхода автопилота Tesla на рынок. 7 мая 2016 года сорокалетний Джошуа Браун стал первой жертвой аварии с участием самоуправляемого автомобиля – как мы и думали, это была Tesla Model S с активированным автопилотом.

Сорокалетний предприниматель в области информационных технологий жил в городе Кантон, штат Огайо. Ему принадлежала фирма Nexu Innovations Inc., специализировавшаяся на предоставлении доступа в интернет в местах с недостаточным проникновением других операторов, например в трейлерных парках.

Прежде чем открыть свое дело, Браун поступил в Университет Нью-Мексико, где изучал физику и информатику, но завербовался во флот до окончания учебы. Провел там одиннадцать лет, служил успешно, получил специальность старшего техника по уничтожению боеприпасов взрывчатых веществ – иными словами, был экспертом высшего класса по обезвреживанию бомб и мин. Часть карьеры провел в Ираке, разряжая самодельные взрывные устройства и переправляя их потом в Соединенные Штаты для исследования. Некоторое время служил в Группе разработки специальных морских вооружений, известной также как 6-й отряд спецназа ВМС «морские котики» (Navy SEALs Team Six).

Другой страстью Брауна был его автомобиль, Tesla Model S, который он приобрел в апреле 2015 года, чуть больше чем за год до рокового инцидента. Он ласково называл машину «Тесси» и к маю 2016 года проехал на ней 72 000 км. Функция автопилота нравилась ему до такой степени, что он снимал ее работу и выкладывал ролики на YouTube. За семь месяцев, прошедших между релизом функции и его гибелью, таких роликов накопилось примерно два десятка. «В целом она работает отлично», – с энтузиазмом говорит Браун в одном из них, рассказывая зрителям об ограничениях автопилота, и при этом его машина движется по узкой, извилистой, холмистой второстепенной дороге. Замечу на всякий случай, что на подобное автопилот не был рассчитан вообще.

Пока что наибольшее число просмотров приходится на ролик Брауна, снятый в Кливленде. Его машина движется на север там, где два рукава дороги I-480 сливаются, давая начало шоссе Дженнингс. На видеорегистраторе видно, что он приближается по правой полосе шоссе к съезду на улицу Спринг-роуд и в этот момент белый грузовик резко перестраивается через три полосы и оказывается перед ним. Не среагируй автопилот вовремя, грузовик въехал бы в борт Tesla. Программное обеспечение сначала заставило машину уклониться вправо, уходя от столкновения с грузовиком, а потом притормозило, давая ему возможность встроиться в полосу перед собой. Браун выложил запись этого случая на YouTube под названием «Автопилот спасает Model S» (Autopilot Saves Model S).