Если бы угонщики были способны проникнуться мыслями и чувствами пассажиров, они не смогли бы продолжать свое дело. Трудно быть жестоким, поставив себя на место жертвы. Способность вообразить, каково быть кем-то другим, – центральный элемент нашей человеческой сущности. В этом суть сострадания, с этого начинается нравственность.
Способность поделиться миром своего сознания при помощи историй и делает человека человеком. На это, по-видимому, не способен никакой другой вид. Если машины обретут сознание, то внушение машине эмпатии, возможно, спасет нас от осуществления тех историй про терминаторов, которые мы сочиняем о возможном будущем с участием машин.
Ридль, ведущий исследователь проекта по созданию машины-рассказчика Scheherazade-IF, был немало поражен тем обстоятельством, что алгоритм не выбирал странные, нечеловеческие маршруты через наборы альтернативных сюжетов, которые он создавал. Он учился рассказывать истории у людей: «Недавно нам удалось показать, что искусственный интеллект, обученный на историях, не способен проявлять психопатического поведения за исключением самых экстремальных ситуаций. Таким образом, искусственный повествовательный интеллект может ослабить опасения относительно возможности захвата мира вышедшим из-под контроля “злым ИИ”».
Когда и если такая сингулярность наступит, судьба человечества будет зависеть от взаимопонимания с машинами, обладающими сознанием. Но, как сказал Витгенштейн, если бы лев умел говорить, мы его, вероятно, не понимали бы. То же можно сказать и о машинах. Если они обретут сознание, вряд ли люди сразу сумеют его понять. В конце концов только их живопись, их музыка, их романы, плоды их творчества и даже их математика дадут нам хоть какую-то возможность разгадать машинный код и почувствовать, каково это – быть машиной.
Иллюстрации
С. 59. Карта с локальным и глобальным максимумами, построенная автором в системе Mathematica.
С. 63. Алгоритм Евклида.
С. 68. Схема трех взаимосвязанных веб-сайтов.
С. 70. Схема перераспределения шаров между веб-сайтами.
С. 90. Перцептрон.
С. 92. Нейронная сеть.
С. 98. Прогноз численности населения США на основе уравнения 11-й степени.
С. 109. Определение координат пользователя в трехмерном пространстве кинофильмов.
С. 111. Двумерная тень, позволяющая отличить кинодрамы от боевиков. Источник: David H. Stern, Ralf Herbrich and Thore Graepel. Matchbox: Large Scale Online Bayesian Recommendations // WWW’09: Proceedings of the 18thInternational World Wide Web Conference (2009); воспроизводится с любезного разрешения авторов.
С. 170. Схема, иллюстрирующая количество желтого цвета в картинах Пикассо и Ван Гога.
С. 171. Схема, иллюстрирующая количество синего цвета в картинах Пикассо и Ван Гога.
С. 172. Расположение картин Пикассо и Ван Гога в двумерном пространстве.
С. 176. Кривая Вундта.
С. 234. Простой канон на три голоса.
С. 241. Басы Альберти в Сонате для фортепиано до мажор Моцарта, K545.
С. 243. Анализ прелюдии op. 16 № 1 Скрябина, выполненный Дэвидом Коупом.
С. 269. Теория потока Михая Чиксентмихайи. Oliverbeatson/Wikime-dia Commons/Public Domain.
С. 302. Схема, показывающая, что сложение N последовательных простых чисел дает N-е квадратное число.
Рекомендуемая литература и материалы
Machine Learning: The Power and Promise of Computers That Learn by Example. Доклад Королевского общества, в составлении которого участвовали Маргарет Боден, Демис Хассабис и я. Выпущен в апреле 2017 г. Его можно прочитать в Сети по адресу: http://royalsociety.org/machinelearning.
Книги
Alpaydin Ethem. Machine Learning. MIT Press, 2016[132].
Barthes Roland. S/Z. Farrar, Straus and Giroux, 1991[133].
Berger John. Ways of Seeing. Penguin Books, 1972[134].
Bishop Christopher. Pattern Recognition and Machine Learning. Springer, 2007.
Boden Margaret. The Creative Mind: Myths and Mechanisms. Weidenfeld and Nicolson, 1990.
–, AI: Its Nature and Future, OUP, 2016.
Bohm David. On Creativity. Routledge, 1996.
Bostrom Nick. Superintelligence: Paths, Dangers, Strategies. OUP, 2014[135].
Braidotti Rosi. The Posthuman. Polity Press, 2013.
Brandt Anthony and David Eagleman. The Runaway Species: How Human Creativity Remakes the World. Canongate, 2017[136].
Brynjolfsson Erik and Andrew McAfee. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. Norton, 2014[137].
