его работа. Он несет ответственность за безопасность программного обеспечения, разрабатываемого его компанией.
— То есть совпадение его текстов с воззванием АТР, обнаруженное господином Виссманном, объясняется случайностью?
— Не обязательно. Можно предположить, что члены АТР вдохновились его текстами. Возможно, они позаимствовали у него некоторые из аргументов.
— Хорошо, большое спасибо. Вы правы, нужно с ним побеседовать. Может быть, он расскажет нам больше о мотивах преступников.
Айзенберг посмотрел на свою команду. Они не могли явиться к Ангессеру в полном составе, поэтому ему нужно было выбрать себе спутника.
— Господин Варнхольт, не могли бы вы договориться о встрече с доктором Ангессером?
Варнхольт удивленно посмотрел на шефа.
— Я? Вам не кажется, что было бы полезнее взять с собой госпожу Морани? Она ведь эксперт в ведении допросов.
— О допросе речи не идет. Я просто хочу лучше понять мотивы преступников. Поскольку мотивы, кажется, связаны с технологиями, а я в них слабо разбираюсь, то вы мне поможете лучше остальных.
— Как вам угодно.
Айзенберг заметил разочарование на лице Йаапа Клаузена. Молодой комиссар до сих пор не мог влиться в команду.
— Господин Клаузен, я хотел бы, чтобы вы поддерживали контакт с пятым отделом. Предложите им нашу помощь в работе с информацией.
— Думаю, они не будут в восторге. Я уже установил неформальный контакт с пятым отделом, и мне недвусмысленно намекнули, что в нашей помощи они не нуждаются.
— Попытайтесь еще раз. Договоритесь для меня о встрече с господином Хинтце. Важно сделать именно официальное предложение о помощи. Если они им не воспользуются, то, по крайней мере, не смогут упрекнуть нас в бездействии.
— Не уверен, что это поможет, — пробубнил Клаузен, но тут же взял телефонную трубку.
Айзенберг сел за свой письменный стол и принялся изучать опубликованные Ангессером документы, которые нашла Морани. Всего было три статьи и текст научного доклада. Первая статья называлась «Индустрия 4.0 и цифровая безопасность: риски и решения». В ней Ангессер доказывал, что набирающая обороты автоматизация производства создает новые угрозы, связанные с саботажем, шпионажем и терроризмом. Поэтому цифровая безопасность становится ключевой темой исследования. Айзенберг быстро понял, что в деталях ему разобраться не удастся из-за обилия технических терминов. Однако в тексте в целом ничто не свидетельствовало о чрезмерно критической позиции автора по отношению к технологиям. В двух других статьях, озаглавленных как «Stuxnet и Duqu — основы разработки в сфере автоматизации производства оборудования» и «Сложность и предсказуемость кибер-физических систем», тоже не было ничего примечательного. Они были написаны для специалистов с инженерным образованием. Довольно интересным оказался доклад, адресованный широкой публике и содержавший, как утверждал Сим, некоторые совпадения с текстами АТР.
Глава 16
Докт. Томас Ангессер
Опасности бесконтрольной технологизации
Доклад на форуме «Социальные последствия технического прогресса»,
Франкфурт-на-Майне, 12 февраля 2013 г
Дамы и господа, ни у кого из нас нет сомнений в том, что набирающее обороты проникновение сетевых технологий в повседневность открывает перед нами невиданные возможности в экономике, здравоохранении и бытовом комфорте. Однако мы практически не говорим об оборотной стороне этого процесса. А необходимость такого разговора, на мой взгляд, уже назрела, поскольку прогресс происходит настолько быстро, что мы рискуем утратить над ним контроль.
Посмотрите на этот смартфон. Наверняка у каждого из вас в кармане найдется похожий. Мой — далеко не последней модели. Однако он обладает такой вычислительной мощностью, которой двадцать лет назад могли похвастаться лишь университетские вычислительные центры. Сегодня компьютеры не только выигрывают у чемпионов в шахматы, но и побеждают в викторинах на эрудицию. Они и считают быстрее нас, и видят лучше, а в скором будущем начнут и лучше водить. Уже получены первые результаты экспериментов с машинным считыванием мыслей.
Все это — лишь начало. Начало объединения всех устройств в единую сеть, которое мы будем называть термином «индустрия 4.0» и которое в дальнейшем будет способствовать невообразимо быстрому технологическому развитию. Остается совсем немного времени, возможно, всего лишь несколько лет, когда интеллект устройств, объединенных Интернетом, превзойдет человеческий.
Уже сегодня самое простое программное обеспечение создается с помощью сложно организованных сред программирования. Компьютеры все чаще программируют себя сами, быстро изменяются под воздействием внешних условий, обучаются и обмениваются знаниями в глобальной сети. Момент, когда нам останется лишь отойти в сторону и в изумлении наблюдать, как технология изменяется и развивается без нашего вмешательства, не за горами.
Технический прогресс всегда шел по эволюционному принципу. Путем проб и ошибок, путем «передачи» новых знаний и рыночного отбора мы создаем все более эффективные товары и услуги. Так же как и в природе, эволюция здесь протекает спонтанно и непредсказуемо. Например, кто мог бы представить в далеком 1973 году, что Арпанет министерства обороны США через двадцать лет станет основой глобальной коммуникационной среды? Кто мог бы предсказать, что изобретение Интернета приведет к вымиранию привычных газет и книг? Кто сегодня сможет сказать, что произойдет, если команде биологов под руководством Вентера Крейга[30] удастся создать искусственный организм, способный к размножению?
Последствия технологических изменений часто становятся заметны лишь спустя долгое время. Только сейчас мы способны увидеть масштаб тех изменений мира, начало которым было положено первой индустриальной революцией двести лет назад. Технологическое развитие дарит нам не только новые методы лечения, эффективное производство и умные телефоны, но и думающее оружие и искусственно созданных возбудителей болезней. Двуликость прогресса — не новость. Новость — в том, что скорость развития и изменений возрастает.
Позвольте мне зачитать отрывок из манифеста, предрекающего нам далеко не светлое будущее:
«Для начала предположим, что программистам удастся создать интеллектуальные машины, которые умеют делать все лучше человека. В таком случае следует предположить, что вся работа будет осуществляться сложнейшими, высокоорганизованными техническими системами, и человеческий труд перестанет быть необходимым. Тогда наступит один из двух вариантов развития событий: машинам доверят принимать решения без вмешательства человека или же контроль над ними со стороны человека сохранится.
Если машинам будет позволено принимать решения самостоятельно, то мы не сможем предсказать, что произойдет в результате, поскольку невозможно предвидеть, как поведут себя такие машины. Мы лишь заметим, что в этом случае судьба человечества будет зависеть от их милости… Возможен сценарий, в котором человек сохранит контроль над машинами. Тогда рядовой гражданин будет контролировать свою личную технику, например автомобиль или компьютер, однако контроль над сложными компьютерными системами будет в руках малочисленной элиты… Совершенствование технологий позволит элите все жестче контролировать людей, и поскольку человеческий труд перестанет быть нужным, человечество станет
