“Интересно, сможет ли ИИ преодолеть барьер понимания и когда это произойдет?”[314] Размышляя о будущем ИИ, я снова и снова возвращаюсь к этому вопросу, заданному математиком и философом Джан-Карло Ротой. Выражение “барьер понимания” точно описывает идею, которая легла в основу этой книги: люди обладают глубоким и сущностным пониманием ситуаций, с которыми сталкиваются, но пока ни одна система ИИ не может с ними в этом сравниться. Хотя современные программы ИИ почти сравнялись с людьми (а в некоторых случаях и превзошли их) в выполнении ряда узких задач, у них нет понимания, которое помогает людям воспринимать окружающий мир, пользоваться языком и мыслить логически. Очевидным этот недостаток понимания делают нечеловеческие ошибки, совершаемые системами, затруднения с абстрактным мышлением и переносом обучения, отсутствие основанных на здравом смысле знаний и уязвимость к вредоносным атакам. Барьер понимания между ИИ и интеллектом человеческого уровня не преодолен по сей день.
В настоящей главе я кратко опишу, как ученые – психологи, философы и исследователи ИИ – сегодня представляют себе человеческое понимание. В следующей главе я расскажу о ярких попытках внедрить компоненты человеческого понимания в системы ИИ.
Компоненты понимания
Представьте, что вы ведете машину по многолюдной улице города. На светофоре впереди горит зеленый сигнал, и вы собираетесь повернуть направо. Вы смотрите вперед и видите ситуацию, показанную на рис. 44. Какие когнитивные способности нужны вам, человеку за рулем автомобиля, чтобы понять такую ситуацию?[315]
Начнем с начала. Люди обладают ценным запасом изначальных знаний – примитивным здравым смыслом, который мы получаем при рождении или усваиваем на ранних этапах жизни[316]. Так, даже малышам известно, что мир состоит из объектов, что составные части объектов обычно двигаются вместе и что, если фрагменты объектов скрыты из виду (например, как ноги мужчины, который переходит дорогу позади коляски на рис. 44), они остаются частью этих объектов. Это жизненно необходимые знания! Но нельзя сказать наверняка, что, скажем, сверточная нейронная сеть сможет усвоить эти факты, даже имея в своем распоряжении огромный набор фотографий и видео.
Рис. 44. Ситуация, с которой вы можете столкнуться, когда ведете машину
В раннем детстве мы, люди, многое узнаем о поведении объектов в мире. Во взрослом возрасте мы воспринимаем эти знания как должное и даже не сознаем, что они у нас есть. Если толкнуть объект, он подвинется, если он при этом не слишком тяжел и не заблокирован другим объектом; если уронить объект, он упадет и остановится, отскочит или разобьется при столкновении с землей; если поместить маленький объект позади большого, маленький объект окажется скрыт; если поместить объект на стол и отвернуться, а затем повернуться обратно, объект по-прежнему будет на столе, если только кто-нибудь его не уберет или он не умеет двигаться сам. Этот список можно продолжать бесконечно. Главное, что младенцы постепенно постигают причинно-следственную структуру мира: например, они начинают понимать, что, когда кто-то толкает объект (например, коляску с рис. 44), объект движется не случайно, а потому что его толкнули.
Психологи предложили называть набор изначальных знаний и убеждений об объектах и их поведении интуитивной физикой. В раннем детстве мы также развиваем интуитивную биологию: знания о том, чем одушевленные предметы отличаются от неодушевленных. Так, любому ребенку понятно, что в отличие от коляски собака с рис. 44 может двигаться (или не двигаться) по собственной воле. Мы интуитивно понимаем, что собака может видеть и слышать и наклоняется к земле, чтобы почувствовать запах.
Поскольку люди – существа социальные, с младенчества мы развиваем также интуитивную психологию: способность чувствовать и предсказывать чувства, убеждения и цели других людей. Так, мы понимаем, что на рис. 44 женщина хочет перейти улицу таким образом, чтобы ее ребенок и собака не пострадали, что она не знает мужчину, который идет ей навстречу, что она его не боится, что в настоящий момент она сосредоточена на разговоре по телефону, что машины, по ее мнению, должны ее пропустить, и что она удивится и испугается, если заметит, что машина подъехала к ней слишком близко.
