которых участвовали заключенные американских тюрем[585]. И конечно, нельзя забывать об учениках школы Уиллоубрук, опыты на которых перевернули представления о гепатите.
Несмотря на эти жуткие примеры экспериментов на людях, исследований с намеренным заражением становится все больше[586]. В разных уголках мира добровольцы вызываются участвовать в исследованиях малярии, гриппа, лихорадки денге и других болезней. В 2019 году проводилось несколько десятков таких исследований. Конечно, некоторые патогены слишком опасны – например, о намеренном заражении Эболой не может быть и речи, – но в некоторых случаях общественная и научная польза от эксперимента на людях перевешивает небольшой риск для участников. Сегодня эксперименты с заражением проводятся по более строгим этическим правилам, особенно в части информирования участников и их согласия, но баланс между пользой и риском должен соблюдаться всегда. Этот баланс выходит на первый план и в других областях.
8
Некоторые проблемы
Гренвилл Кларк уже собирался приступить к обязанностям председателя конференции, когда кто-то передал ему сложенную записку[587]. Юрист по образованию, Кларк организовал конференцию, чтобы обсудить будущее только что основанной Организации Объединенных Наций и ее роль в сохранении мира. В стенах Принстонского университета уже собралось шестьдесят делегатов, но к ним хотел присоединиться еще один. Записка, которую держал в руках Кларк, была от Альберта Эйнштейна, чья лаборатория находилась в соседнем Институте перспективных исследований.
Дело происходило в январе 1946 года, и многие физики были обеспокоены той ролью, которую они сыграли в атомных бомбардировках Хиросимы и Нагасаки[588]. Эйнштейн давно придерживался пацифистских взглядов и выступал против бомбардировок, но в 1939 году именно его письмо президенту Рузвельту дало старт американской ядерной программе[589]. Во время Принстонской конференции один из участников поинтересовался мнением Эйнштейна по поводу неспособности человечества обуздать новую технологию[590]: «Почему разум человека способен проникнуть вглубь атома и понять его строение, но мы не можем придумать политические средства, чтобы не позволить атому нас уничтожить?» – «Все просто, друг мой, – ответил Эйнштейн. – Потому что политика труднее физики».
Ядерная физика – один из самых ярких примеров технологии двойного назначения[591]. Научные исследования в этой сфере приносят огромную пользу обществу, но в то же время они могут быть использованы во вред. В предыдущих главах мы уже сталкивались с примерами технологий, которые можно использовать как во благо, так и с преступными целями. Благодаря соцсетям мы поддерживаем связи со старыми друзьями и находим новые полезные идеи. Но по тем же соцсетям распространяется ложная информация и другой вредный контент. Анализ вспышек преступности позволяет выявлять людей из группы риска и прерывать распространение насилия; но если использовать этот анализ в несовершенном полицейском алгоритме, это может привести к дискриминации меньшинств. Масштабные базы данных GPS помогают эффективно реагировать на катастрофы, улучшать транспортную инфраструктуру и выяснять, как распространяются болезни[592]. Но с этими базами также связан риск утечки личной информации, что ставит под угрозу нашу частную жизнь и даже безопасность.
В марте 2018 года газета Observer сообщила, что компания Cambridge Analytica тайно собирала данные десятков миллионов пользователей фейсбука для создания психологического портрета американских и британских избирателей[593]. Хотя статистики сомневаются в эффективности таких портретов[594], скандал подорвал доверие общества к технологическим фирмам. По мнению программиста и бывшего физика Йонатана Зангера, это современная версия этических проблем, которые в свое время возникали в медицине и ядерной физике[595]. «Информатика, в отличие от других наук, еще не сталкивалась с серьезными негативными последствиями действий своих специалистов», – писал он. При освоении новых технологий мы не должны забывать о горьком опыте, обретенном в других областях.
Когда в начале XXI века в моду вошел термин «большие данные», перспективы их разнопланового использования вызывали оптимизм. Все надеялись, что данные, собранные для какой-то одной цели, помогут решать проблемы и в других сферах. Ярким примером такого подхода был сервис Google Flu Trends (GFT)[596]. Исследователи предполагали, что, анализируя запросы миллионов пользователей, они смогут следить за распространением гриппа в реальном времени, а не ждать неделю или две, пока будут опубликованы официальные данные об эпидемии[597]. Первая версия GFT появилась в 2009 году, и результаты были многообещающими. Однако критика не заставила себя долго ждать.
У проекта GFT было три главных недостатка. Во-первых, прогнозы не всегда оказывались точными. GFT правильно воспроизвел зимние эпидемии гриппа в США в период с 2003 по 2008 год, но серьезно недооценил масштаб пандемии, неожиданно начавшейся весной 2009 года[598]. По замечанию одной группы ученых, «первая версия GFT была отчасти детектором гриппа, а отчасти детектором зимы»[599].
Во-вторых, никто не знал, как делаются прогнозы. Механизм работы GFT был непрозрачен: на входе – данные о запросах в интернете, на выходе – предсказание. Компания Google не раскрывала научному сообществу ни собранные данные, ни методы их обработки, поэтому никто не мог понять, как ведется анализ и почему в одних случаях алгоритм работает хорошо, а в других – плохо.
В-третьих, создатели сервиса не ставили перед собой амбициозные цели – и это, пожалуй, была самая серьезная проблема GFT. С эпидемиями гриппа мы сталкиваемся каждую зиму, потому что вирус эволюционирует и это делает существующие вакцины менее эффективными. Власти так беспокоятся по поводу грядущих пандемий гриппа именно потому, что готовой эффективной вакцины против нового штамма не существует. При возникновении пандемии на разработку такой вакцины уйдет полгода[600], и за это время вирус распространится очень широко. Чтобы предсказывать характер эпидемий гриппа, мы должны лучше понимать, как эволюционирует вирус, как люди взаимодействуют между собой и как в популяции формируется коллективный иммунитет[601]. В этой непростой ситуации GFT может в лучшем случае сообщить об активности гриппа примерно на неделю раньше, чем мы узнали бы о ней сами. Эта идея интересна с точки зрения анализа данных – но в ней нет ничего революционного применительно к борьбе с эпидемией.
Такую ошибку нередко совершают исследователи и представители бизнеса, заявляя о применении больших наборов данных к самым разным сферам жизни. Многие считают, что такие огромные объемы данных обязательно помогут ответить на какие-то важные вопросы. По сути, эти люди просто пытаются подыскать проблему для готового решения.
В конце 2016 года эпидемиолог Кэролайн Баки участвовала в мероприятии по привлечению средств на развитие технологий, где рассказывала представителям компаний из Кремниевой долины о своей работе. У Баки был большой опыт применения современных технологий при анализе эпидемий.
