Многим кажется, что речь идет о фантастическом будущем, когда автоматизация станет всеобщей и всю работу за нас будут выполнять роботы. Но научная фантастика быстро превращается в научные факты. Уже скоро мы достигнем стадии, на которой человека и машину будет сложно разграничить. Например, в отличном сериале «Люди» есть момент, когда полицейский (человек) рассказывает своему напарнику-роботу (их называют «синтами», то есть синтетическими людьми) о своем кардиоимпланте. О крохотной машине, отслеживающей частоту сердечных сокращений после перенесенного сердечного приступа год назад. «Видишь, внутри человека есть немного машины, и ты внутри – немного человек».
Обсуждать человека и машину стали вместе с выходом научно-фантастических книг и фильмов, посвященных этой теме. Достаточно посмотреть «Метрополис» 1927 года. Он заставляет меня задуматься о сбывшихся прогнозах, особенно о словах технического директора Google Рэя Курцвейла, прозвучавших на конференции Exponential Finance в Нью-Йорке:
«Менее чем через двадцать лет вы будете не просто пользоваться компьютерами – у вас будут отношения с ними. Благодаря искусственному интеллекту к 2029 году компьютер сможет читать не хуже человека, а также начнет обретать человеческие качества. По моим оценкам, уже через 15 лет компьютеры усовершенствуются настолько, что с ними можно будет завязывать отношения, как с людьми. Прежде всего я имею в виду эмоциональный интеллект. Способность рассказать анекдот, шутить, быть романтичным, любящим, сексуальным – все это проявления человеческого интеллекта, а не клоунада»[18].
В 2030 году мы будем заниматься любовью с роботами!
Это первая идея. Добавим к ней вторую: по мнению ученых, вскоре дети будут рождаться без участия людей. Иными словами, к 2030 году люди смогут вступать в отношения с роботами и заводить с ними детей, зачинаемых в пробирке, – сперматозоиды для этой цели будут выращиваться из стволовых клеток. Можно будет обойтись без раздражающего партнера-человека. Мы сможем построить идеальные отношения с личностью, знающей все наши особенности, стремления и желания и всем своим существом нацеленной на удовлетворение наших потребностей.
Что произойдет, когда все отличительные признаки человека будут присущи машине? И это не пугающая научная фантастика, а практически научный факт. Впереди еще долгий путь, в чем позволяет убедиться Watson Avatar от IBM.
Ее искусственный интеллект (как правило, это женщина) очень похож на человеческий, но ни один аватар или чат-бот сегодня не воспринимает себя человеком. По движениям ее губ понятно, что это машина, хотя изображение и дается в высоком разрешении. Над этой идеей 15 лет назад работала компания AT&T.
Как видите, идея за это время не слишком изменилась. Меняется ее технологическое обеспечение, и, как в случае со всеми великими инновациями, если что-то кажется перспективным для разработки – биометрия, коммуникаторы и смартфоны, медицинские технологии, биотехнологии, искусственный интеллект, роботы и т. д., – оно становится мейнстримом. В конечном счете искусственный интеллект также станет общедоступным, на это потребуется от 10 до 25 лет. Кажется, совсем скоро, но в 2012 году группа экспертов по общему искусственному интеллекту предположила, что подобный искусственный интеллект появится не ранее 2040 года.
Я размышляю об этом в духе авторов научной фантастики, например Айзека Азимова. Он был гениальным провидцем и удивительно точно предсказывал будущее, создал цикл романов о роботах и сформулировал три закона робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Три этих закона стали общепринятыми, на эту этическую систему ориентировались другие писатели и сценаристы, например в фильме «Робокоп» полицейский-киборг следует трем основным директивам:
1. Служить обществу.
2. Защищать невиновных.
3. Соблюдать закон.
Таким образом, Робокоп может убивать людей, но только в случаях, если это не противоречит трем директивам.
Я задумался: а каковы же три закона для банковских роботов? Они должны быть, иначе робот может сбежать с нашими деньгами, ведь они подчиняются не законам государства, а инструкциям, на которые они были запрограммированы (или самостоятельно перепрограммировались). Вот как я вижу три закона для банковских роботов:
1. Не обманывать клиентов.
2. Обеспечивать безопасность.
3. Пресекать любые противоправные и противозаконные действия.
Человечество автоматизировать невозможно
Проблемная область – интеграция роботов и искусственного интеллекта. Если можно завести роман с машиной, которая чувствует точь-в-точь, как человек, и при этом вам ни в чем не перечит – то зачем тогда отношения с реальными людьми? Давайте до этого не доводить…
