페르마의 직업은 툴루즈 지방의회의 법관이었다. 수학은 퇴근 후의 일이었고 논문도 거의 내지 않았다. 그의 결과 대부분은 다른 수학자에게 보낸 편지와 읽던 책의 여백에 남았다. 디오판토스의 『산술』 여백에 적은 한 줄이 특히 유명하다. n이 3 이상일 때 xⁿ + yⁿ = zⁿ 을 만족하는 자연수는 없으며 "놀라운 증명을 찾았으나 여백이 좁아 적지 못한다"는 메모. 이 문장이 350년간 수학자들을 붙잡았고 1995년 앤드루 와일스가 마침내 증명했다.
1654년에는 파스칼과 편지를 주고받으며 다른 문제를 풀었다. 도박판이 중간에 끝났을 때 판돈을 어떻게 나눌 것인가. 두 사람은 이미 이긴 횟수가 아니라 "끝까지 갔다면 각자 이겼을 경우의 수"로 나눠야 한다는 데 합의했다. 아직 오지 않은 일을 세어 지금의 몫을 정한 것이다. 확률론은 이 편지들에서 태어났다.
미적분에도 그의 자리가 있다. 뉴턴과 라이프니츠보다 앞서, 그는 곡선의 최댓값·최솟값을 찾는 방법을 썼다. 극값 근처에서는 함수값이 거의 변하지 않는다는 성질에 착안해 f(x + e)와 f(x)를 같다고 놓고 정리한 뒤 e를 0으로 보내는 방식이다. 지금 언어로 하면 f′(x) = 0 을 푸는 것이고, 극값에서 접선이 수평이 되는 그 장면이다. 뉴턴 자신이 자기 방법의 힌트를 페르마에게서 얻었다고 적었다.
주요 업적
- 파스칼과의 서신으로 확률론의 기초를 세움(분배 문제)
- 극값을 찾는 방법을 고안, 미분의 직접적인 선구
- '페르마의 마지막 정리'를 남겨 350년간 정수론을 이끎
- 빛이 최소 시간의 경로로 간다는 페르마의 원리를 제시
시험에서는
"최대·최소"라는 말이 보이면 f′(x) = 0 부터 푼다. 다만 f′(x) = 0 은 후보를 찾는 단계일 뿐이므로, 증감표나 양 끝 값까지 확인해야 답이 확정된다.