Ознакомительная версия. Доступно 18 страниц из 87
Джек не отозвался ни словом, так что Хакер поддал жару:
– Что вы умалчиваете от общественности и коллег-присяжных с той самой поры, как начались расследования? Как беспилотный автомобиль на самом деле принимает решение в случае потенциально фатальной аварии?
– Я полагал, – взял слово Мэттью, – что мы приняли немецкий подход, при котором программное обеспечение должно быть запрограммировано избегать травм и смертей любой ценой. Автомобиль оценивает каждый индивидуальный сценарий, прежде чем избрать наилучший образ действий с минимальным количеством травм и смертных исходов.
– Именно такими и были намерения, когда технология еще пребывала, так сказать, в колыбели, – отозвался Хакер. – Больше всего общественность тревожило, как могут роботы выносить этические и нравственные решения. Власть предержащие уверяли нас, что беспилотные автомобили будут пытаться спасти как можно больше жизней. И этого было довольно, дабы умиротворить большинство из нас, даже тех, кто боялся, что автопроизводители на первое место будут ставить безопасность их Пассажиров. Но это было ложью, не так ли, Джек? Потому что автомобили, за которые вы столь пылко агитировали, защищают людей, которых вы сочли наиболее ценными для общества.
– О чем это он? – шепнул Кэдмэн одному из подручных. – Почему я не читал об этом в Сети?
– Что он имеет в виду под «ценными для общества»? – осведомилась Либби.
Джек неколебимо хранил молчание, так что за него ответил Хакер:
– Если катастрофа с участием беспилотного автомобиля неизбежна, для принятия решения машина сканирует не только окружение, но и вас. Все, что занесено в вашу национальную идентификационную карту. И информация, собранная вашими носимыми устройствами, менее чем за наносекунду определяет, заслуживаете ли вы спасения или вами можно пожертвовать.
– Но в удостоверениях личности содержатся лишь основные сведения вроде номера соцстраха, группы крови, сканов сетчатки и тому подобное. – Либби тряхнула головой. – Как ценность моей жизни может зависеть от чего-то вроде цвета глаз?
– На самом деле карты собирают и хранят куда больше – массу данных, полученных отовсюду, где вы предоставляете свою информацию. Карта хранит вашу медицинскую карту, историю интернет-поисков, онлайн-покупок, уровень образования, средний и ожидаемый заработок, историю отношений, размер закладной, полицейское досье, с кем вы общаетесь в соцсетях – и это далеко не полный список.
– Значит, это подобие наших постоянно пополняющихся биографий? – уточнил Мэттью.
– Вот именно. Это резюме, способное меняться ежедневно, даже ежечасно. Докиньте сюда данные в телефонах, с которыми мы не расстаемся, и носимые гаджеты вроде отслеживающих вашу физическую активность и здоровье, и вкупе это даст полную картину – наш портрет, наше место в обществе и нашу роль в формировании будущего страны. Вся эта информация помогает машине оценить нас, прежде чем решить, жить нам или умереть.
– Кого же она считает более важным, чем остальные? – поинтересовалась Фиона.
– Позвольте привести пару примеров. Если надо выбрать между безработным подростком и высокопоставленным муниципальным чиновником, для подростка дело кончится плохо. Если имеется беременная женщина и пожилая особа, живущая на государственную пенсию, в расход идет последняя. Тучному субъекту лучше не тягаться со спортсменом; точно так же лицо с судимостями не в фаворе против лица без приводов в полицию. Офицер полиции тянет больше, чем медсестра, но врач перевешивает офицера полиции. Курильщик лучше наркомана, а раковый больной предпочтительнее того, у кого в семейном анамнезе значится сумасшествие. Парламентарий торжествует над госчиновником, но министр бьет парламентария. И так далее, и тому подобное, дальше и дальше. Лицо, наиболее полезное для нашего общества, всегда берет верх. Когда доходит до беспилотных авто, никакого равенства нет и в помине.
Внезапно экраны заполонили изображения, данные, имена, папки расследований со штампом «Секретно», черновики и фотографии – и все это со ссылками для скачивания. Среди них Либби узнала трех жертв, очевидцем гибели которых стала на Монро-стрит.
– Если все это правда, то у меня нет слов, – выговорила Фиона, – просто нет слов.
– Как такое вообще могли санкционировать? – вопросил Мэттью. – Кто-то же должен был дать этому добро?
– Избранная кучка сановников, окопавшаяся в стенах Вестминстера, решила использовать наши собственные данные против нас, обеспечив, чтобы смерть на дорогах обходила тех, кто «имеет значение». Злоумышленники – в число них входил и Джек, – которым была поручена разработка и внедрение, углядели возможность зачистить общество от определенных членов, по их мнению, отдающих ему недостаточно. Они хотели пустить наши данные в ход против нас.
В комнате воцарилось гнетущее безмолвие. Каждый переваривал и укладывал в голове обвинения Хакера.
– Это правда, Джек? – вопросила Мюриэл. – Мы для вас всего-навсего данные?
Покачав головой, Джек поддернул манжеты рубашки, чтобы они выступали из-под рукавов пиджака. И наконец повернулся к членам жюри лицом.
– Британский народ стал всего-навсего данными с того самого момента, когда Вильгельм Первый провел первую перепись для «Книги страшного суда»[21] в тысяча восемьдесят шестом году, – начал он. – Все мы являемся – и всегда были – статистикой, так что не будем притворяться, что это катастрофический кризис, рискующий напрочь разорвать все нравственные фибры нашего общества. Как по-вашему, вам дают одобрение на кредитные карты и ссуды? Как принимаются решения о том, каким должен быть размер вашей страховой премии? Как мы определяем число иммигрантов, допускаемых в нашу страну? На основе собранных данных. Здесь произошло лишь то, что мы достигли нового уровня своего исторического развития, когда принимаются решения о том, насколько вы важны для родной страны.
– И вы считаете это позволительным?! – выпалила Либби. – Прямо не верится, что я это говорю, но наш враг – не ИИ, а вы!
– Поведайте мне, мисс Диксон, а чего вы ждали от нас? – не смутился Джек. – Вы правда думаете, что мы позволили бы машинам принимать все решения? Мы не дураки; разумеется, мы собирались держать их в крепкой узде. Нам предоставили невообразимую, случающуюся лишь раз в жизни возможность защитить людей, формирующих наше общество, спасающих жизни, делающих свой вклад, делающих ее лучше для нас всех. Поставить их на первое место – наш долг. И, по-вашему, мы должны профукать его во имя равенства, которого в нашей стране на самом деле никогда и не было? Это всего лишь модернизация классовой системы. Если вам для спасения жизни нужна операция, кому вы доверите скальпель – врачу или грузчику из супермаркета? Если вы окажетесь в горящем здании, какого спасителя вы предпочтете? Опытного пожарного или молодчика с задержкой развития?
– Вы судите жизни, учитывая и инвалидность? – уточнила Мюриэл.
Ознакомительная версия. Доступно 18 страниц из 87
