Здесь следует сказать, что корреспонденты Мерсенна не слишком благосклонно встретили нового участника переписки. Многие идеи Ферма показались его коллегам спорными, а многочисленные задачи, которые он излагал в своих письмах, часто казались им неразрешимыми. Иногда так и было на самом деле: решения самого Ферма оказывались ошибочными. Особо конфронтационной была переписка Ферма с Рене Декартом. «Выскочка из Тулузы» осмеливался оспаривать некоторые суждения «великого координатора». Свой ответ на одно из писем Ферма Декарт даже назвал «Малый процесс Математики против господина Ферма», возможно, намекая на основной род занятий оппонента.

Как и большинство ученых-современников, Ферма интересовался самым широким кругом математических проблем. Его не без основания считают одним из основоположников теории чисел. Ферма создал универсальный метод нахождения делителей произвольного числа, открыл теорему, согласно которой произвольное число можно представить суммой не более четырех квадратов. Также ему принадлежит честь открытия двух «именных» теорем: «малой» и «большой». Эти теоремы сыграли большую роль в развитии теории чисел. «Малая» теорема гласит: для любого простого p и любого a > = 1, которое не делится на p, разность a^>p–1–1 делится на p. Несколько видоизмененная «малая теорема» Ферма стала самым простым и эффективным способом нахождения простых чисел. Интересно, что изложив эту теорему в одном из писем, Ферма сделал приписку: «Я бы Вам прислал доказательство, если бы не опасался быть слишком длинным». Доказательств этой теоремы Ферма не оставил, возможно, потому, что не имел их. «Малая теорема» Ферма была доказана Лейбницем.

Об истории «большой теоремы» Ферма следует рассказать поподробнее. Как мы уже писали в начале статьи, сам Ферма на полях «Арифметики» Диофанта изложил теорему и сообщил, что нашел ее доказательство. Но записи самого доказательства Ферма не оставил. По мнению современных ученых, Ферма и не доказал свою знаменитую теорему, а либо создал ошибочное доказательство, либо сознательно ввел в заблуждение своих коллег. В пользу такой точки зрения, например, свидетельствует тот факт, что позднее сам Ферма вывел доказательства своей теоремы только для частных случаев: X^>4 + Y^>4 = Z^>4 и X^>3 + Y^>3 = Z^>3. На протяжении трех с лишним веков математики всего мира пытались найти доказательство теоремы Ферма в общем виде с такой же настойчивостью, с какой алхимики искали философский камень. Также появлялись предположения, что теорема неверна, но это тоже необходимо было доказать.

В XVIII в. Леонард Эйлер повторил утерянные доказательства Ферма для степеней 4 и 3, но с доказательством для степени 5 не справился. Однако в ходе работы над этой проблемой Эйлер ввел так называемые комплексные числа[26]. С доказательством теоремы для n = 5 справился француз Лежандр (1752–1833), для 7-й степени – немец Дирихле (1805–1859). Работали над теоремой Ферма и такие ученые, как Гаусс, Галуа, Куммер (1810–1893). Все эти ученые внесли колоссальный вклад в развитие теории чисел, поскольку попытки доказать «упрямую» теорему привели к громадному числу математических открытий и появлению большого количества новых теорий и направлений математики.

Несмотря на трехвековую осаду, в результате которой под натиском математиков падали все новые и новые частные случаи, цитадель, т. е. доказательство теоремы в общем виде, оставалась непокоренной практически до конца XX века. В 1908 году немец Вольфскель завещал премию в сто тысяч марок тому, кто докажет теорему. Это вызвало новый массовый штурм, ни к чему, однако, не приведший. Например, Геттингенское математическое общество только за три года получило более тысячи неверных доказательств. Его сотрудники даже заготовили бланк «Ваше доказательство содержит ошибку на стр. _____, которая заключается в том, что ______». В научном мире появилось полупрезрительное слово «ферматист», которым называли математиков, пытавшихся найти доказательство теоремы. При этом справедливость самой теоремы не вызывала сомнений. Позже с помощью компьютеров она была подтверждена для степеней меньше 5500.