Ознакомительная версия. Доступно 18 страниц из 86
В середине 1940-х годов ЭВМ заменили “девушек” и тотчас превзошли их возможности: в отличие от людей машины рассчитывали “траекторию летящего снаряда быстрее, чем летел этот снаряд”[374]. Такой стала первая узкая задача, в которой преуспели компьютеры. Современные компьютеры – запрограммированные с использованием передовых алгоритмов – освоили множество других узких навыков, но пока не могут дотянуться до общего интеллекта.
В разное время знаменитые специалисты по ИИ прогнозировали, что общий ИИ появится через десять, пятнадцать, двадцать пять лет, а может, “через поколение”. Однако ни один из этих прогнозов не оправдался. Как я отметила в главе 3, срок заключенного между Рэем Курцвейлом и Митчеллом Капором “долгого пари” о том, сможет ли программа пройти тщательно подготовленный тест Тьюринга, истекает в 2029 году. Я ставлю на Капора и полностью соглашаюсь с его словами, процитированными в прологе: “Человеческий разум – удивительный, изощренный и не до конца изученный феномен. Угрозы воспроизвести его в ближайшее время нет”[375].
“Давать прогнозы сложно, особенно о будущем”. Точно неизвестно, кто автор этого остроумного замечания, но в ИИ оно не менее справедливо, чем в любой другой сфере. Специалистов по ИИ неоднократно спрашивали, когда появится общий ИИ или “сверхразумный” ИИ, и опросы показывают широкий спектр мнений – от “в ближайшие десять лет” до “никогда”[376]. Иными словами, мы этого не знаем.
Однако мы знаем, что общий ИИ человеческого уровня требует способностей, которые исследователи тщетно пытаются понять и воссоздать на протяжении десятков лет – и среди них есть умение рассуждать на основе здравого смысла и строить абстракции и аналогии. Остаются и другие важные вопросы: нужно ли для общего ИИ сознание? самоосознание? эмоции и чувства? инстинкт самосохранения и страх смерти? тело? Ранее я уже цитировала слова Марвина Минского: “Наши представления о разуме еще не сформировались окончательно”.
Вопрос о том, когда появится сверхразум – “интеллект, существенно превосходящий лучший человеческий разум почти во всех сферах, включая научное творчество, общую мудрость и социальные навыки”[377], – меня раздражает, чтобы не сказать больше.
Высказывались мнения, что после создания общего ИИ человеческого уровня компьютеры быстро станут сверхразумными в результате процесса, сходного с “интеллектуальным взрывом” И. Дж. Гуда (описанным в главе 3). Считается, что компьютер, обладающий общим интеллектом, сможет в мгновение ока прочитать все документы человечества и узнать все, что можно узнать. Кроме того, применяя свои растущие способности к дедуктивным рассуждениям, он сможет получать всевозможные новые знания, которые будет использовать для расширения своих познавательных способностей. Такую машину не будут сдерживать досадные несовершенства людей: низкая скорость мышления и обучения, нерациональность и когнитивные искажения, подверженность скуке, эмоциональность и потребность во сне. Получается, что такая машина будет обладать практически “чистым” интеллектом, не ограничиваемым слабостями людей.
Мне кажется более вероятным, что все эти “слабости” на самом деле являются неотъемлемой частью общего человеческого интеллекта. Когнитивные ограничения, связанные с тем, что мы обладаем телами, функционирующими в физическом мире, наряду с эмоциями и “нерациональными” искажениями, позволяющими нам формировать социальные группы, и другие характеристики, порой называемые когнитивными “изъянами”, на самом деле наделяют нас общим интеллектом, а не специфической гениальностью саванта. Я не могу этого доказать, но мне кажется весьма вероятным, что общий интеллект неотделим от этих мнимых изъянов – и у людей, и у машин.
В разделе “Десять вопросов и возможных ответов” в “ГЭБ” Дуглас Хофштадтер подошел к этой проблеме с обманчиво простым вопросом: “Сможет ли думающий компьютер быстро вычислять?” Когда я впервые прочитала его ответ, он меня удивил, но теперь он кажется мне верным. “Может быть, нет. Мы сами состоим из аппаратуры, которая проделывает сложные вычисления, но это не означает, что на уровне символов, там, где находимся «мы», нам известно, как делать те же самые вычисления. К счастью для нас, уровень символов (то есть мы сами) не имеет доступа к нейронам, ответственным за мышление, – иначе мы бы спятили… Скорее всего, в случае разумной программы ситуация будет аналогична”. Далее Хофштадтер объяснил, что разумная программа, как и мы, будет представлять числа как “некие понятия так же, как это делают люди, – понятия, нагруженные ассоциациями… С подобным «дополнительным багажом» думающая программа станет складывать довольно вяло”[378].
Вопрос: насколько нам следует опасаться ИИ?
Если вы формируете мнение об ИИ на основе кино и научной фантастики (и даже некоторой популярной научной литературы), то наверняка боитесь, что ИИ может обрести сознание, перейти на сторону зла и попробовать поработить или истребить человечество. Но учитывая, как мы далеки от создания общего интеллекта, большинство представителей ИИ-сообщества тревожится о другом. Как я показала в этой книге, существует множество причин беспокоиться о стремлении общества как можно скорее внедрить технологии ИИ: возможность значительного сокращения рабочих мест, опасность некорректного использования систем ИИ, ненадежность и уязвимость этих систем – вот лишь некоторые обоснованные страхи людей, озабоченных влиянием технологий на человеческую жизнь.
В начале этой книги я писала о том, как тревожит Дугласа Хофштадтера текущий прогресс в ИИ, но стоит отметить, что его в основном пугало другое. Хофштадтер опасался, что программам ИИ окажется слишком просто воссоздать человеческое познание и творчество, а результаты работы поверхностных алгоритмов вроде ЭМИ, использующих простой “набор хитростей”, станут соперничать с великолепными творениями человеческого разума, которыми он восхищался, – например, с произведениями Шопена. “Если маленький чип сможет обесценить эти умы бесконечной остроты, сложности и эмоциональной глубины, это разрушит мое представление о сущности человечества”, – сокрушался Хофштадтер. Его также тревожили предсказания Курцвейла о грядущей сингулярности, и он с ужасом отмечал, что если Курцвейл окажется хоть в некоторой степени прав, то “нас отодвинут в сторону. Мы превратимся в пережитки прошлого. Мы останемся ни с чем”.
Ознакомительная версия. Доступно 18 страниц из 86
