измерить счастье — непрерывно замерять уровень гормонов, которые вырабатываются в организме при тех или иных ощущениях. В рассказе посетители острова носят кожные биосенсорные мембраны с матрицей из микроигл и электрохимическим сенсором, что позволяет следить за выработкой гормонов в режиме реального времени.
Так, серотонин коррелирует с ощущением благополучия и уверенности, дофамин — с удовольствием и мотивацией, окситоцин — с любовью и доверием, эндорфины — с удовольствием и расслаблением, а адреналин — с энергичностью.
Мониторя эти показатели, ИИ острова отмечал, какие занятия и параметры среды совпадали с ощущением счастья, и на основании этих наблюдений оттачивал дальнейшее его распознавание. Затем робот-ассистент Карин давал Виктору рекомендации и предлагал то или иное занятие, которое могло бы привести к повышению уровня счастья (достижения, саморазвитие, отношения) либо к его снижению (грусть, разочарование, злость).
К финалу истории, когда Виктору разрешили покинуть остров и отправиться домой, эксперимент был еще далек от завершения. ИИ знал, что при таком развитии событий Виктор выберет побег — ведь он любил приключения, что его дальнейшие действия не только вернут его на остров, но и сделают счастливее.
Чтобы создать научно обоснованный и стабильный механизм оптимизации счастья, исследователям понадобится решить непростые задачи.
Во-первых, от каких параметров отталкиваться при измерении счастья? У нас есть гипотезы (они изложены выше), но еще мы знаем, что состояние психики человека определяется пока не изученным набором из электрических (мозговые волны), органических (строение мозга) и химических (гормоны) компонентов, действующих синхронно.
Мы частично описали работу гормонов, и это очень важные взаимосвязи, но их определенно недостаточно. Необходимо добавить к ним и электрические, и органические измерения. В будущем нам понадобится считывать все три группы компонентов и расшифровать, как каждый из них влияет на уровень счастья и как они взаимодействуют между собой, — только так можно будет качественно обучать ИИ.
Во-вторых, достижение высоких уровней пирамиды Маслоу предполагает не моменты мимолетного наслаждения, а скорее долгосрочный поиск смысла и цели жизни. Обучение ИИ на протяженных отрезках времени представляет трудность — он не знает, чем вызван текущий скачок радости. А причины могут быть какие угодно — сегодняшнее происшествие, событие прошлой недели, прошлого года или всё одновременно.
С подобной проблемой сейчас сталкиваются алгоритмы соцсетей: как Facebook’у настроить новостную ленту на личностное развитие пользователя, а не на стимулирование сиюминутных рекламных кликов? Если человек демонстрирует личностный рост — как ИИ Facebook’а поймет, какой из компонентов алгоритма этому поспособствовал? Нам придется создать новые алгоритмы ИИ, чтобы в фоновом шуме распознать стратегически полезные отклики.
К 2041 году мы еще не поймем полностью, чем именно определяется наше душевное состояние. Не узнаем мы и того, как работает долгосрочное эвдемоническое счастье. Но к тому времени способность ИИ считывать человеческие эмоции должна вырасти, существенно превысив человеческую проницательность. Можно ожидать появления программных прототипов для оптимизации счастья на верхних уровнях пирамиды потребностей.
ДАННЫЕ ДЛЯ ИИ: ДЕЦЕНТРАЛИЗАЦИЯ ПРОТИВ ЦЕНТРАЛИЗАЦИИ
Сбор данных — необходимый шаг в разработке эффективного ИИ. Это сегодня делают гигантские интернет-компании. Google знает всю историю вашего поиска, каждое место, где вы побывали (через службу аналитики Android и Google Maps, если вы не отключили историю геолокации), каждое просмотренное вами видео и посланный мейл, каждый звонок через Google Voice и каждую встречу, внесенную в Google Calendar. На массиве этих данных Google подбирает услуги для большего удобства пользователей.
Google и Facebook имеют доступ к такому количеству информации, что они могут весьма достоверно предположить ваше местожительство, национальность, сексуальную ориентацию и то, что вас возмущает. Они могут определить, что вы скрываете от родных и от налоговой службы, знают о вашей алкогольной аддикции или, скажем, о супружеской измене. Эти предположения, безусловно, далеко не стопроцентны, но сама мысль о том, что компании располагают инструментами, позволяющими делать такие выводы, уже вызывает дискомфорт.
Опасения относительно безопасности привели нас к дискуссиям о роли правительства в этом вопросе. Разные страны, начиная с США и заканчивая Китаем, пытаются разобраться, как далеко зашла монополизация интернет-пространства и как применять антимонопольные законы для ограничения власти ИТ-гигантов.
Европа проснулась раньше — Европейский союз решил заложить фундамент нового порядка в отрасли, приняв GDPR — по словам европейских законодателей, «самый жесткий закон в сфере безопасности и приватности». Другие страны присматриваются к документу, чтобы на его основе выстроить собственную нормативную базу. GDPR — огромный шаг вперед, он выставил хорошую планку.
В GDPR заложено представление, что пользователь должен вернуть себе контроль над данными и самостоятельно решать, кто будет их видеть и использовать, вплоть до извлечения прибыли из предоставления доступа к ним. За первые несколько лет внедрения GDPR уже состоялись подвижки.
Закону удалось просветить широкие слои пользователей относительно рисков, связанных с персональными данными. Кроме того, он стал требовать от сайтов и приложений по всему миру пересмотреть свою работу, чтобы свести к минимуму преступное, некомпетентное или просто халатное отношение к пользовательским данным. Компаниям, нарушающим GDPR, грозят большие штрафы[146].
Однако не все детали этого закона имеют практическую ценность, и можно сказать, что в общем он мешает развитию ИИ. В нынешней форме GDPR обязывает компании быть прозрачными перед людьми в использовании персональных данных.
От пользователя требуется четкое согласие на каждое действие с ними — чтобы компания могла приступить к их сбору (например, вы даете Facebook’у свой адрес только для доставки онлайн-покупок). Данные должны быть защищены от несанкционированного доступа, утечек или кражи. У автоматических операций должно быть обоснование, а по требованию пользователя должен подключаться специалист-человек.
Я уверен, что принятие GDPR имеет благородные намерения — обеспечить прозрачность, подотчетность и конфиденциальность оборота персональных данных. Однако внедрение регламента, описанное выше, вряд ли способствует достижению этого, а то и может помешать. Так, сложно ограничить целевое использование каждого фрагмента данных, поскольку ИИ развивается непредсказуемо, и предусмотреть все цели использования данных в самом начале их сбора попросту не представляется возможным.
Скажем, сохранение почтовой службой Gmail всей вашей электронной переписки позволяет вам легко найти нужные письма. Но Gmail разработал новую функцию автозаполнения, и ее потребовалось обучать на прежних данных. Нецелесообразно рассчитывать, что пользователи поймут условия обработки данных каждой компанией, когда им придется в очередной раз подтверждать свое согласие. (Сколько раз вы натыкались на всплывающее на сайте окно, перекрывающее текст, и просто жали «ОК», не вникая в смысл уведомления?)
GDPR требует, чтобы пользователь имел право обратиться к специалисту-человеку, если переживает о том, как ИИ использует его данные. Но это может вызывать неразбериху — ведь люди не так хороши в принятии решений, как ИИ. И наконец, цель снижения количества удерживаемых данных,
