Пожалуй, еще бóльшую озабоченность вызывают ситуации, когда человек целенаправленно вмешивается в работу, казалось бы, независимых алгоритмов. В мае 2016 года разоблачительная статья на сайте технологических новостей Gizmodo обвинила «трендовый» новостной раздел Facebook в предвзятом отношении к консерваторам. Gizmodo раздобыл свидетельские показания бывшего куратора новостного отдела Facebook, который утверждал, что истории видных американских правых – Митта Ромни, Рэнда Пола и других – исключались из списка трендовых тем Facebook путем прямого человеческого вмешательства. Даже когда посты консерваторов естественным образом выходили в тренды на Facebook, утверждалось, что они не попали в трендовый список. В других случаях истории якобы искусственно вписывались в трендовый список, даже если не были достаточно популярны, чтобы заслуживать включения в него.
В ответ на обвинения в политической ангажированности Facebook решил уволить свою редакционную команду и «сделать продукт более автоматизированным». Доверив больше власти алгоритму и убрав часть человеческого контроля, Facebook надеялся сыграть на том, что в глазах публики алгоритмы выглядят объективными. Спустя всего несколько часов после их решения раздел трендовых тем продвигал фейковую новость от правых, сообщая, что «скрытый либерал» с канала Fox News Мегин Келли была уволена якобы за поддержку Хиллари Клинтон. Этот эпизод окажется первым из целого шквала фейковых новостей (преимущественно от правых), которые станут определять тренды в Facebook на следующие два года – по сравнению с таким скандалом обвинения в предвзятом отношении к консерваторам, с которых все началось, сильно бледнеют. В конце концов проблемы с обеспечением достоверности и верификацией информации заставили Facebook полностью отключить трендовую платформу в июне 2018 года.
•
Мы доверяем якобы беспристрастным алгоритмам, потому что знаем о естественных человеческих слабостях и непоследовательности. Но хотя компьютеры могут реализовывать алгоритмы объективно, следуя предписанному набору правил, сами правила пишут люди. Программисты могут вписать свои предубеждения – сознательно или бессознательно – непосредственно в сам алгоритм, маскируя свою предвзятость строчками компьютерного кода. Идея, что мы должны быть уверены в нейтральности трендовых новостей от Facebook только потому, что одна из ведущих мировых технологических компаний передоверила ответственность за достоверность информации одному из собственных алгоритмов, не выдерживает никакой критики.
Как и футболки с оскорбительными принтами от Solid Gold Bomb, как и ценовые спирали Amazon, передряги, выпавшие на долю Facebook, подчеркивают необходимость более строгого контроля над алгоритмами со стороны человека, а не наоборот. По мере усложнения алгоритмов результаты их могут стать соразмерно непредсказуемыми, поэтому программы требуют более пристального внимания. Однако контроль за работой алгоритмов должны осуществлять не только технологические гиганты. Оптимизирующие алгоритмы все глубже внедряются в нашу повседневность, и мы – пионеры технооптимизма – должны взять на себя часть ответственности за достоверность тех результатов, которые нам скармливают. Доверяем ли мы источнику прочитанных нами новостей? Разумен ли маршрут, который предлагает навигатор? Считаем ли мы автоматически выставленную цену справедливой? Хотя алгоритмы могут предоставить нам информацию, которая облегчает принятие жизненно важных решений, они все же не заменяют наши собственные тонкие, предвзятые, иррациональные, непостижимые, но в конечном счете человеческие суждения.
Когда в следующей главе мы рассмотрим самые современные инструменты борьбы с инфекционными заболеваниями, мы снова убедимся в верности этого тезиса: хотя достижения современной медицины серьезно ограничивают распространение инфекций, математика показывает, что среди наиболее эффективных способов укрощения эпидемий – простые разумные действия и личный выбор каждого человека.
Глава 7
«Восприимчивые», «инфицированные», «выбывшие». Сдержать эпидемию – в наших силах
Во время рождественских праздников в конце 2014 года «самое счастливое место на Земле» для многих семей оказалось источником ужасных страданий. На каникулах сотни тысяч родителей и детей посетили Диснейленд в Калифорнии, надеясь увезти домой волшебные воспоминания, которые останутся на всю жизнь. Вместо этого некоторые из них уехали с сувенирами, на которые вовсе не рассчитывали, – с особо опасной инфекцией.
Одним из таких посетителей был четырехмесячный Мёбиус Луп. Его мать Ариэль и отец Крис были такими фанатами Диснейленда, что даже поженились там в 2013 году. Дипломированная медсестра Ариэль прекрасно понимала опасность инфекций для своего сына, родившегося недоношенным. Она практически не выносила его из дома. Ариэль требовала, чтобы те, у кого нет прививок от сезонного гриппа, столбняка, дифтерии и коклюша, воздержались от посещения Мёбиуса до его первой вакцинации, которую делают в два месяца.
В середине января 2015 года, когда завершился первый этап вакцинации, а их годовые абонементы жгли карман, Ариэль и Крис решили отвезти Мёбиуса «в сказку», в Диснейленд. После дня парадов и встреч с гигантскими маскотами мультяшных героев семья вернулась домой в восторге от того, насколько знакомство со страной Диснея восхитило Мёбиуса.
Две недели спустя, после бессонной ночи – Мёбиус никак не хотел засыпать – Ариэль заметила красные высыпания на груди и на затылке у сына. И жар – у Мёбиуса было 39 °C. Не сумев сбить температуру, Ариэль позвонила своему врачу, и тот велел ей отвезти ребенка прямо в отделение скорой помощи. Когда они прибыли в больницу, их встретила группа инфекционного контроля, облаченная в костюмы полной защиты. Ариэль и Крис получили собственные маски и халаты, и через задний вход их провели в изолятор отрицательного давления. В изоляторе врачи внимательно осмотрели Мёбиуса, а потом попросили Ариэль подержать его, чтобы взять кровь для окончательного анализа. Сотрудники отделения неотложной помощи раньше не встречались с таким случаем, но единодушно подозревали одно: корь.
Благодаря эффективности программ вакцинации, начатых в 1960-х годах, лишь немногие граждане западных стран (в основном медицинские работники) на собственном опыте убедились, насколько тяжелыми могут быть симптомы кори. Но стоит лишь отправиться в менее развитые страны вроде Нигерии, где ежегодно регистрируются десятки тысяч случаев заболевания корью, и вы рискуете получить более полное представление о болезни. Осложнения могут включать пневмонию, энцефалит, слепоту и даже смерть.
В 2000 году на всей территории США было официально объявлено об искоренении кори [162]. На медицинско-чиновничьем жаргоне это означало, что заболевание больше не циркулирует в стране на постоянной основе, и что любые новые случаи заболевания являются результатом вспышек, спровоцированных теми, кто возвращается в страну из-за рубежа. За девять лет с 2000 по 2008 год в США было зарегистрировано всего 557 подтвержденных случаев заболевания корью. Но только в 2014 году таких случаев было 667. По мере приближения 2015 года вспышка, очагом которой стал Диснейленд, а жертвами – семья Мёбиуса и десятки других семей, быстро распространилась по всей стране. К тому времени, как она сошла на нет, корью заразилось более 170 человек в 21 штате. «Корь из Диснейленда» была лишь частью общей тенденции – масштабные вспышки заболевания возникают все чаще. В США и Европе корь снова наступает, угрожая уязвимым группам населения.
