『ｘn ＋ｙn ＝ｚn でｎ≧３のとき、ｘ，ｙ，ｚは正の整数解をもたない。』
フェルマーが愛読した古代ギリシアのディオファントスによる本「アリスメティカ（算術）」の欄外の余白にこの書き込みをしたのは１６３７年、日本では島原の乱が起き、三代将軍家光の治世下のことです。たった８文字で書かれたこの単純な式はフェルマー予想と呼ばれ、人類の頭を悩まし続け、多くの高名な数学者がフェルマー予想に挑戦したにもかかわらずことごとくそれを退けてきました。フェルマーの問題は見かけがシンプルであるうえに、新規性、意外性、美しさ、難しさ、完全さなどの要素を備えていた一種の芸術作品といえるでしょう。
フェルマー予想は３６０年ものあいだ未解決の数学的難問であったのですが、１９９４年、イギリス人で米国プリンストン大学の数学者ワイルズがその証明に成功し、かくして「予想」は「定理」となりました。難攻不落のフェルマー城はついに落城したのです。
なぜこの問題がそんなに高い関心を集めたのかというと、
１）問題の意味が誰にもわかるほどやさしく、今にも解けそうでなかなか解けないきわどさと不思議さ、芸術性の高さをもっていたこと
２）フェルマー自身が「驚くべき証明を私は見つけたが、これを記すには余白が狭すぎる」という謎めいた言葉を残したためでしょう。フェルマーはこれをいかにして証明したかを記してはいないため、われわれはどのようにしてこの事実を証明したかについては推測するほかありません。
フェルマーの問題は、ｎ＝１のときにはｘ＋ｙ＝ｚという単なる足し算ですから、ｘとｙにどんな自然数を入れても自然数ｚは必ず存在します。ｎ＝２の場合はピタゴラス方程式と呼ばれ、無数の解をもち、しかもすべての解をもれなく求めることのできる公式も知られています。ｎ＝４の場合は、フェルマー自身が無限降下法という一種の背理法を用いて０と１の中間に整数が存在するという矛盾を導き出すことによって証明が与えられました。指数が３以上のフェルマー方程式については、ｎ＝３の場合はオイラー（１７７０年→【補】）、ｎ＝５の場合はディリクレとルジャンドル（１８２５年）、ｎ＝７の場合はラメ（１８３９年）によって証明が与えられ、それ以上のｎについては素数の場合だけを調べればよいのですが、初等的な方法では手続きが急速に複雑になって行き詰まりこれ以上進むことに限界がありました。
個々のｎに対して攻略する時代はこれで終わり、あとは一般的なｎに対する攻略の道筋にまったく新しい方向性と理論を見いだす必要があったのです。最大のブレークスルーは１８５１年、クンマーによってなされました。クンマーは円分体の整数論の研究に専念し、正則素数であるすべてのｎに対してフェルマー予想が成立することを示したのです。正則素数ｐはＢp-3
までのベルヌーイ数Ｂk の分子を割り切ることのできない素数として定義されていて、１００以下の非正則素数は３７，５９，６７ですべてですから、この３つの数以外では１００までのｎに対してフェルマー予想が正しいことが証明されたことになります。
非正則素数は無限に多く存在するにもかかわらず、１９８０年代にはフェルマー予想はほとんど正しいことは証明されていたのですが、一つもないかどうかまではわかりませんでした。まことしやかに見えるだけで真実だと断定するわけにはまいりません。「almost
every n」からalmostを取り除くのが次代の数学者の課題になったのです。代数幾何学を数論に応用するというアイディアを導入してこの行き詰まりを解決することになるのですが、・・・・・。
ピタゴラス数は方程式ｘ2 ＋ｙ2 ＝１に有理数解があるかどうかを考える問題に対応しますが、フェルマーの問題を解くことは、ピタゴラス方程式を一般化した任意の２変数多項式ｘn ＋ｙn ＝１に有理数解があるかどうかに置き換えて考えることができます。
整数解を要求する２変数１次方程式ａｘ＋ｂｙ＝ｃ，２変数２次方程式ａｘ2
＋ｂｙ2 ＝ｃ（ａ，ｂ，ｃは整数）などは、ギリシャのディオファントスにちなんでディオファントスの不定方程式と呼ばれます。たとえば、ｙ2
＝ｘ3 −２の整数解について、ディオファントスは、ｙ＝ｔ＋１，ｘ＝ｔ−１とおき、ｙ2
＝ｘ3 −２に代入するとｔ2 ＋２ｔ＋１＝ｔ3
−３ｔ2 ＋３ｔ−３。この式はｔ（ｔ2 ＋１）＝４（ｔ2
＋１）と変形できるので、ｔ＝４すなわちｙ＝５，ｘ＝３が解であるとしています。しかし、端的にいって、このような解き方にはアート（技巧）はあってもセオリー（一般的理論）がなく、勘や経験や個々の問題の性質に負っていて、決定打ではありません。問題はこの型の不定方程式に対するすべての整数解、あるいは有理数解を求めることですが、ステップアップしながら考えてみることにしましょう。
ａ）整数係数のａｘ＋ｂｙ＝ｃは無数の有理数解をもちます。
ｂ）二次曲線ａｘ2 ＋ｂｙ2 ＝ｃのグラフは円錐曲線ですが、この方程式が有理数解を１つもてば、実は無数のもつことを示すことができます。たとえば、方程式ｘ2
＋ｙ2 ＝１には、無限に多くの有理数解、（３／５，４／５），（５／１３，５／１２），（１２／３７，３５／３７）など・・・が存在します。ところが、半径が浮Rの円、ｘ2
＋ｙ2 ＝３になると有理点は全くなってしまいます。２次曲線は有理点を無限のもつか、１つももたないかのどちらかです。
ｃ）「三次曲線ａｘ3 ＋ｂｙ3 ＝ｃや楕円曲線ｙ2 ＝ａｘ3 ＋ｂｘ2 ＋ｃｘ＋ｄなど、３次以上の不定方程式には一般に整数解が有限個しかない。」
これを証明したのはジーゲルで、その定理はジーゲルの有限性定理（１９２９年）と呼ばれています。この定理により、すべての２変数多項式の可解性が決定したわけではありませんが、少なくとも２変数２次多項式の可解性条件はわかったことになります。
ｄ）また、モーデル・ファルティングスの定理（１９８３）とは、「種数が２以上の代数曲線は有理点を有限個しかもたない。」というものです。２次曲線のように有理点全体を１つの変数でパラメータ表示できる曲線を種数が０の曲線と呼んでいます。一方、種数が１である曲線に楕円曲線があります。したがって、有理点が無数にあるような曲線は種数が０か１ということになり、直線（種数０）か、円錐曲線（種数０）か、楕円曲線（種数１）に限られてきます。また、リーマン・フルヴィッツの公式よりフェルマー曲線は種数が（ｎ−１）（ｎ−２）／２で、これはｎ＝３のとき１ですが、ｎ≧４のときは２以上となりますから、そこでフェルマーの予想を征するために必要となるのが楕円曲線であったというわけです。
円錐曲線の有理点は無限ですが、楕円曲線の有理点は有限です。実際問題として、有限とはいってもものすごい大きさこともあるわけですが、無限よりは範囲が狭められたことは確かです。すなわち、フェルマーの方程式に解があるとすればそれぞれのｎに対して解は高々有限です。モーデル・ファルティングスの定理によって有限個しか解がないことはわかりましが、１つもないかどうかはわかりません。フェルマーの予想が証明されたというのではありませんが、それでも大変な前進であることは明らかです。
ｅ）さらに、フライとリベットによってフェルマー問題は楕円曲線の問題に還元できることがわかりました。すなわち、楕円曲線はフェルマー問題の定性的な一般化であり、フェルマー予想に反例が存在したときに生ずる楕円曲線は特異な性質をもつことになり、そのような曲線は絶対に正しいと信じられている谷山・志村予想の反例になりますから存在し得ないように思われたのです。フライとリベットがフェルマー（フェルマー曲線）と谷山（楕円曲線）を結んだことになりますが、それが証明されればフェルマーの定理は正しくなくてはならないということになります。フライはこの課題に取り組んだのですが、成功しませんでした。
ｆ）英国生まれの数学者ワイルズは、フェルマーの定理の証明が一筋縄ではいかないことを実感して一時棚上げにしていたのですが、この結果にフェルマー攻略への道を確信し、研究室に７年間もこもって、彼独自のアイデアをもってとうとう証明に成功しました（１９９４年）。ワイルズはフライとリベットの結果に感服するとともに苦節７年、この結果より出発してこの手段を用いて成功するであろうということをあたかも雷光に打たれたかのごとく直感して、フェルマーの定理の解法を得たのです。
１９世紀の数学者クンマーはｘp −１＝０ （ｐ：素数）の複素数解を有理数につけ加えて、整数の概念を複素数まで拡張した円分体の整数という概念を導入することによって、フェルマーの予想を攻撃しそれに肉薄したのですが、ワイルズは楕円曲線を等分する点のつくる代数幾何学によってフェルマー予想を完全解決したことになります。
読者の中にはいつか数学者になってフェルマーの定理を解いてやろうと思った経験をお持ちの方やあるいは何百年も解かれないような問題を作ることを夢見た方も多くいらっしゃるでしょうが、ワイルズの場合、１０才のときフェルマー予想を知り、数学を志望したのもこれを解こうと思ったのがきっかけであったといいます。
ピタゴラスの定理は非常に応用範囲が広いのに対して、フェルマー予想はほとんど応用が見込めない単発的な興味の対象であって、それを解くことが数学にとって進歩の重要な過程になるような問題ではないということですが、しかしながら、フェルマー予想によってある深い数学的洞察がなされ、数学に革新がもたらされたことも歴史的な事実です。フェルマー予想は数学の発展のためにはどうしても越えねばならぬ山であって、現代数学の眼前に横たわる未踏の高峰を征服し陥落させることは非常に意味のあることでしょう。
専門家の話には耳なれない言葉がずいぶんと見受けられ、はじめて接した読者の多くは新しい用語や記号などに拒否反応を起こしてしまいがちです。フェルマーの定理の証明にいたるまでの過程と取り組みについては心理的抵抗感の少ないもの、たとえば、足立恒雄著「フェルマーの大定理が解けた！」（講談社ブルーバックス）などを参照されたい。整数論の問題は表現の容易さとは裏腹に証明の難しさをもっているのですが、そこには底知れぬおもしろさが潜んでいるのです。なお、ロシア人のマチアセビッチにより、すべてのディオファントス方程式（不定方程式）の解の存否を判定するアルゴリズムが存在しないことが証明されています。一般に３変数以上のディオファントス方程式を解く有力な方法はまったく見つかっておらず、たとえば、ｘ3
＋ｙ3 ＋ｚ3 −３＝０が（１，１，１），（４，４，−５）とその並び換え以外の整数解をもつかどうかすらわかっていません。
【補】オイラー予想とその反例
オイラーは、一般のｎ乗ベキに対する証明に拡張する望みはまず見いだせないと書いています。さらに、オイラーは、フェルマー予想の条件をゆるめて一般化した問題
『ｘ1n＋ｘ2n＋・・・＋ｘn-1n＝ｘnn、たとえば、ｘ4 ＋ｙ4 ＋ｚ4 ＝ｗ4 にも自然数解がない』と予想しました。この不定方程式には整数解がないであろうことが長い間予想されていて、モーデルはコンピュータを使ってｗ＜２２００００の範囲でこの問題は成立することを紹介しています。ところが、オイラーの推測からおよそ２００年後、コンピュータを使って
２７5 ＋８４5 ＋１１０5 ＋１３３5 ＝１４４5 （１９６６年）
９５８００4 ＋２１７５１９4 ＋４１４５６０4 ＝４２２４８１4 （１９８８年）
２６８２４４０4 ＋１５３６５６３９4 ＋１８７９６７６０4 ＝２０６１５０７３4 （１９８８年）
などのオイラー予想に対する反例が発見されました。さらに、エルキースにより、ｘ4
＋ｙ4 ＋ｚ4 ＝ｗ4 には無数の解があることが楕円曲線の理論に基づいて示されました（１９８８年）。
反証はたった一つの反例があればよいのですから、潜在的には易しい問題なのですが、反例がなぜないかがわかれば証明につなげることができるという意味で重要です。コンピュータを使ってフェルマー予想の反例を見つけようという試みは、これまでのところ全て失敗に帰していて、１９９３年まで、四百万以下のｎに対してフェルマー予想の正しいことが確かめられています。結局、コンピュータによって、フェルマー予想の個々のｎについて検証する作業が長年行われてきたようなものですが、反例がみつからないのは、単に反例のサイズが膨大すぎるからではないのか。もしも反例があるとしても、それは１００万桁以上の数を含むものになるだろう。そこで一松信先生による冗談を一つ。もし、フェルマー予想の反例が発見されたとすると、その数は「あまりにも大きすぎて、ここに印刷する余白がない。」