Только что сформулированным вопросом заинтересовался великий французский математик середины XVII века Пьер Ферма (вообще-то он занимался математикой, а заодно и оптикой, как хобби: служебные его обязанности состояли в заведовании отделом петиций тулузского парламента). Поиски требуемых примеров ни к чему не привели, и Ферма пришёл к убеждению, что их не существует. Утверждение о несуществовании троек Ферма принято называть Великой теоремой Ферма. Строго говоря, его следовало бы называть Великой гипотезой Ферма, поскольку автор утверждения не оставил нам его доказательства. Всё, что Ферма оставил потомкам на эту тему, — это две латинские фразы, написанные им около 1637 года на полях изданной в 1621 году в Париже на двух языках, греческом и латинском, «Арифметики» древнегреческого математика Диофанта. Указанное издание обладало широкими полями, и когда у Ферма появлялись те или иные мысли по ходу чтения, он записывал их на этих полях. И вот какие две фразы он, в частности, написал — приводим эти фразы в переводе: «Невозможно для куба быть записанным в виде суммы двух кубов, или для четвёртой степени быть записанной в виде суммы двух четвёртых степеней, или вообще для любого числа, которое есть степень больше двух, быть записанным в виде суммы двух таких же степеней. Я нашёл поистине удивительное доказательство этого предложения, но оно не уместится на полях [hanc marginis exiguitas non caperet; буквально: скудость поля его не вмещает]».
Своих математических открытий Ферма никогда не публиковал, часть их (да и то без доказательств) сообщалась им в частной переписке, а часть стала известной только после его смерти в 1665 году. К числу последних принадлежит и Великая теорема: в 1670 году старший сын Пьера переиздал в Тулузе Диофантову «Арифметику», включив в издание и 48 примечаний, сделанных его отцом на полях. Лишь в 1994 г. Эндрю Уайлс при участии своего ученика Ричарда Тэйлора доказал наконец Великую теорему — и притом доказал с использованием всей мощи современной математики, так что если сам Ферма и владел доказательством (что более чем сомнительно), то заведомо не таким. А до того Великая теорема оставалась Великой гипотезой.
Задача доказать гипотезу Ферма составила содержание Проблемы Ферма. Простота формулировки проблемы, доступной школьнику младших классов, делала её привлекательной для широких кругов любителей. Привлекательность усиливалась давностью постановки и ореолом некоей таинственности, сопутствующей постановке. А тут ещё в 1908 году была объявлена премия в сто тысяч германских марок за решение Проблемы Ферма. Вскоре мировая война обесценила премию, но было уже поздно: слух о премии привлёк к Проблеме Ферма ещё больше «старателей». Возникла особая разновидность людей, называемых ферматистами. Ферматисты — это люди, не имеющие специального математического образования, фанатично убеждённые в том, что они решили Проблему Ферма, и настойчиво ищущие признания. Признания они, естественно, не получили, но, завалив своими рукописями математические кафедры ряда крупных западных университетов, заставили эти кафедры занять оборонительную позицию: университеты стали возвращать авторам любые доказательства Великой теоремы Ферма, прилагая при этом стандартное письмо с указанием, что доказательство будет рассмотрено только после получения денежного залога. А известный гёттингенский профессор Эдмунд Ландау (избранный в 1932 году иностранным почётным членом Академии наук СССР) даже изобрёл специальный бланк, который он поручал заполнять своим аспирантам: «Дорогой сэр (мадам)! Мы получили Ваше доказательство Великой теоремы Ферма. Первая ошибка находится на странице…, строка…»
Одного из ферматистов мне довелось увидеть в мои студенческие годы. Сейчас я об этом расскажу. (Недоброжелательно настроенный читатель возразит, что рассказ о ферматисте не имеет отношения к заявленной теме — о месте математики в общечеловеческой духовной культуре; на наш взгляд — имеет.) Дело происходит в 1950 году или около того в Москве. Я нахожусь в одной из редакций, расположенных на Большой Калужской улице (сейчас это начало Ленинского проспекта). В редакцию входит другой посетитель и просит разрешения позвонить по телефону; в те годы вход в офисы ещё не охранялся ни охранниками, ни кодовыми замками. Посетитель живописен: худ, длинноволос и держит в руках сетчатую авоську, в которой лежит скрипка. Как мне потом расскажут знающие люди, он зарабатывал на жизнь, играя на этой скрипке на палубе речных теплоходов. На моих глазах, а также ушах, он делает два звонка. Первый звонок: «Это Московский университет? Попросите, пожалуйста, к телефону ректора. Ах, ректор занят и не может подойти? Дело в том, что я посылал на его имя ценное письмо с решением проблемы Ферма и хотел бы узнать результат. Ну хорошо, я позвоню позже». Второй звонок: «Это Академия наук? Попросите, пожалуйста, к телефону президента. Ах, президент занят и не может подойти? Дело в том, что я посылал на его имя ценное письмо с решением проблемы Ферма и хотел бы узнать результат. Ну хорошо, я позвоню позже». Позвонив, он вежливо благодарит и удаляется.
Но отнюдь не все советские ферматисты были столь травоядны. Часто, не найдя поддержки, они писали жалобу в так называемый «директивный орган», то есть в ЦК КПСС. В жалобе указывалось, что имеется возможность показать Западу кузькину мать и в очередной раз продемонстрировать всему миру приоритет советской науки, предъявив решение знаменитой проблемы, а нехорошие люди чинят этому препятствия. К жалобе прилагалась рукопись. А иной раз рукопись и не сопровождалась жалобой, а сразу посылалась в ЦК. В обоих вариантах ЦК переправлял рукопись тому же ректору Московского университета или тому же президенту Академии наук. А далее она, украшенная грозными резолюциями, спускалась вниз, на кафедру или в отдел. Теперь уже отмахнуться было невозможно и приходилось разбираться в заведомо ложном доказательстве, отыскивая в нём ошибку. Когда-то я прикинул, сколько времени профессиональные математики вынуждены тратить на переписку с ферматистами (переписку бесплодную, поскольку истинного ферматиста переубедить невозможно), — прикинул и ужаснулся.
В сравнительно редких случаях ферматисту удавалось опубликовать свой труд. (Это сейчас за счёт автора можно опубликовать что угодно, а в советское время даже ксероксы находились под строжайшим контролем, что уж говорить об издательствах и типографиях.) В частности, это удалось Виктолию Будкину. В 1975 году расположенное в Ярославле Верхне-Волжское книжное издательство выпустило пятитысячным тиражом его брошюру «Методика познания „истины“. Доказательство великой теоремы Ферма». То, что написано на её странице 45, весьма типично для самоосознания ферматиста: «Итак, сменилось 13 поколений людей, а Великая теорема Ферма осталась ещё не доказанной. Только в настоящей работе впервые приводится полное доказательство теоремы в общем виде».
Казалось бы, после того как доказательство теоремы Ферма было не только найдено (в сентябре 1994 г.), но и опубликовано (в 1995 г.) и признано мировой математической общественностью, с ферматизмом как с явлением будет покончено. Не тут-то было — ряды ферматистов хотя и поредели, но не иссякли. Сведения о том, что Великая теорема доказана, дошли не до всех: ведь, повторяю, ферматисты не являются математиками (хотя имеющие техническое образование часто считают себя таковыми). А многие из тех, до кого и дошло, продолжали искать какое-нибудь простое доказательство. В России ферматизм дал неожиданную вспышку в августе 2005 года. К «Новой газете» я питал уважение и — до того августа — доверие и не думал, что когда-либо выступлю её оппонентом; но приходится. Номер 61 газеты от 22 августа 2005 года открывался крупным и чуть ли не цветным заголовком «ЧЕЛОВЕЧЕСТВО МОЖЕТ РАССЛАБИТЬСЯ?»; сообщалось, что «омский академик Александр Ильин предложил простое доказательство знаменитой теоремы Ферма». Заместителю главного редактора газеты О. Н. Хлебникову я пытался объяснить накануне, то есть 21 августа, что если доктор технических наук Александр Иванович Ильин и является академиком, то академиком одной из десятков тех академий, кои, как грибы, возникли у нас в постсоветское время (одних только академий энергоинформационных наук две: Международная и Сибирская) — но никак не членом Российской академии наук (РАН); попытки мои успеха не имели; Олег Никитович отвечал, что он знает точно: А. И. Ильин — член РАН. Более того, через неделю, в № 63 от 29 августа 2005 года, та же газета сообщала, что «академики Новиков и Никитин решение теоремы Ферма уже видели и ошибок в нем не нашли». Надо ли объяснять читателю, что г-да Новиков и Никитин (как, впрочем, и А. И. Ильин) не являлись не только членами РАН, но и математиками? Некоторое время сенсация сверкала на экранах телевизоров и в различных газетах, не говоря уже об Интернете. Потом как-то тихо всё сошло на нет. Ферматизм тоже часть человеческой культуры — но ведь не материальной же, а значит, духовной.
