Ознакомительная версия. Доступно 16 страниц из 76
прочие. В твите 2018 года он утверждает: «На данном этапе развития Ethereum спокойно продолжит свое существование, даже если завтра я внезапно самовозгорюсь». Но сам факт того, что ему пришлось это сказать, наводит на мысль, что ситуация была не такой простой.
В 2017 году произошел колоссальный всплеск цены и популярности Ethereum. Во многом это было связано с использованием платформы для «первичного размещения монет»: стартапы (и гораздо чаще – откровенные мошенники) собирали огромные суммы, продавая токены на основании обещаний в вайтпейперах. Бутерин публично усомнился в точности рыночной оценки Ethereum в твиттере и призвал сообщество «понимать разницу между возможностью выпустить в мир цифровые активы на сотни миллиардов долларов и достичь чего-то общественно значимого». Ethereum должен был изменить мир, но, как показывают эссе в этой части книги, на практике большинство сценариев его использования были связаны с финансовыми и азартными играми.
В статьях первых лет существования Ethereum Бутерин не восторгается взлетом цен и успешными продажами токенов-блокбастеров, а размышляет о проблемах строительства криптоэкономики, задумываясь о том, как экономические стимулы могут обеспечить более эффективные способы взаимодействия между людьми. В этих и более технических постах тех времен его внимание привлекают сложные проблемы идентификации пользователей и управления системами. Но, как видно по «Рождественскому спецвыпуску» конца 2019 года, находилось время и для игр. Когда видишь, с каким азартом Бутерин и другие «эфировцы» играют в шахматы на митапах, может показаться, что весь этот многомиллиардный эксперимент – просто грандиозная головоломка, способ протестировать идеи, созревшие в их головах.
– Н. Ш.
Почему исследователям криптоэкономики и Х-рисков стоит чаще прислушиваться друг к другу
MEDIUM.COM/@VITALIKBUTERIN
4 июля 2016 года
В последнее время в сообществе, которое традиционно ассоциировало себя с искусственным интеллектом и различными формами футуристических исследований экзистенциальных рисков, наблюдается пока еще слабый, но растущий интерес к блокчейнам и криптоэкономическим системам. Ральф Меркл – изобретатель ныне довольно известной криптотехнологии, на которой работает протокол легкого клиента Ethereum, – выразил заинтересованность в механизмах управления ДАО. Соучредитель Skype Яан Таллинн предложил изучить технологии блокчейна на предмет возможного создания механизмов для решения глобальных проблем координации. Сторонники рынков предсказаний, которые уже давно осознали их потенциал в управлении системами, теперь присматриваются к Augur[31]. Есть ли здесь за что зацепиться? Это всего лишь значит, что компьютерные гики, которых раньше привлекла в сообщество тема А, теперь заинтересовались другой, но тоже близкой темой Б, или существует какая-то реальная взаимосвязь между этими проблемами?
Я бы сказал, что взаимосвязь существует, и вот в чем она проявляется.
Сообщество исследований криптоэкономики и сообщество безопасности искусственного интеллекта / нового киберуправления / экзистенциальных рисков пытаются решить, по сути, одну и ту же проблему: как регулировать очень сложную и очень умную систему, в которой могут появиться новые непредсказуемые свойства, посредством очень простой и глупой системы, свойства которой после ее создания остаются неизменными?
В контексте исследований искусственного интеллекта главная подзадача – определить такую функцию полезности, которая будет руководить поведением сверхразумного агента, при этом не позволяя ему совершать действия, которые удовлетворяют заданной функции, но противоречат заложенному в ней намерению (иногда такие действия называют «экстремальными решениями»). Например, если вы попытаетесь поручить сверхразумному ИИ вылечить рак, он может решить, что самый надежный способ – просто всех убить. Если вы заблокируете эту опцию, следующим его решением будет просто навсегда заморозить всех людей криогенным способом, не убивая их. И так далее. В контексте ДАО-демократии Ральфа Меркла проблема заключается в определении такой целевой функции, которая, во-первых, будет прямо пропорциональна социальному и технологическому прогрессу и стремлениям людей, во-вторых, будет обратно пропорциональна экзистенциальным рискам и, в-третьих, которую будет достаточно легко измерить, избежав политических баталий вокруг точности этих измерений.
Криптоэкономика сталкивается с удивительно схожими трудностями. Основная задача консенсуса – понять, как мотивировать валидаторов поддерживать и развивать сети за счет простого неизменного алгоритма, при том что сами валидаторы – очень сложные экономические агенты, способные на произвольные взаимодействия. В случае The DAO проблема была в расхождении сложной задумки разработчиков, у которых были конкретные представления об использовании функции расщепления, и результатом реального внедрения их программного обеспечения. Augur пытается спроецировать проблему консенсуса на реальный мир. Maker хочет создать децентрализованный алгоритм управления платформой, которая сочетала бы в себе децентрализацию криптовалюты и надежность фиатных денег. Во всех этих случаях глупые алгоритмы должны управлять умными агентами. Безопасность ИИ связана с тем, что агенты с IQ на уровне 150 пытаются контролировать агентов, чей IQ равен 6000, а в криптоэкономике агенты с IQ на уровне 5 пытаются контролировать агентов с IQ на уровне 150. Масштабы, конечно, разные, но сходство все же наблюдается.
Независимо друг от друга оба сообщества уже много лет пытаются решить эти сложные проблемы, и каждое добилось некоторого прогресса. Также для этих проблем начинают обнаруживаться эвристические частичные решения и стратегии смягчения риска. В случае ДАО некоторые разработчики двигаются в сторону гибридного подхода, где активы ДАО контролирует набор кураторов с ограниченными полномочиями – достаточными, чтобы защитить ДАО от атаки, но недостаточными, чтобы они сами могли нарушить работу системы. Этот подход перекликается с текущими исследованиями в области безопасного отключения ИИ.
Сторонники футархии предлагают в качестве целевой функции процентные ставки, а в качестве алгоритма управления – своего рода гибрид футархии и квадратичного голосования[32] посредством добровольной блокировки монет. Также речь идет о различных формах умеренной футархии, которая наделена достаточной властью для предотвращения сговора большинства – который, в свою очередь, неспособна предотвратить демократия, – но в остальном отдает власть процессу голосования. Все эти новаторства как минимум заслуживают внимания тех, кто пытается использовать футархию для создания ДАО мировой демократии.
Еще одно крайне недооцененное предложение – использовать алгоритмы управления, которые намеренно замедляют происходящие процессы. Хардфорк The DAO, предложенный после атаки для спасения хранящихся средств, был возможен именно благодаря набору правил внутри The DAO, требующих для каждого действия длительной задержки. Также заслуживает внимания метод формальной проверки, где одни компьютерные программы автоматически верифицируют другие, чтобы те действовали согласно заданным целям.
Доказать «честность» формально невозможно, поскольку ее очень сложно оценить, но можно обеспечить хотя бы частичную гарантию снижения рисков. Например, формально подтвердить, что определенный вид действий можно совершить не ранее, чем через семь дней, или нельзя совершать в ближайшие 48 часов, если кураторы данного ДАО не проголосуют за обратное. В контексте ИИ такие подтверждения могут предотвратить определенные виды простых ошибок в функции вознаграждения, из-за которых совершенно нежелательное поведение будет казаться ИИ чрезвычайно полезным. Конечно, другие сообщества размышляют о формальной верификации уже много лет, но сейчас изучают возможности для ее применения в
Ознакомительная версия. Доступно 16 страниц из 76
