サポートベクトルマシンの概要

サポートベクトルマシン（SVM）は、バイナリおよびカテゴリカルな応答のデータを分類するための「教師あり学習」アルゴリズムです。モデルは、応答がすでにわかっている学習データに対してあてはめられます。その後、新しいオブザベーションのカテゴリを予測するためにモデルが使用されます。

サポートベクトルマシンモデルは、クラスを分ける超曲面を最適化することによってデータを分類します。これは、クラス間のマージンを最大化する超曲面を見つけることでもあります。単純な問題の場合、この超曲面は直線です。ただし、データが複雑になると、それを直線的に分けることはできなくなります。このような場合に備え、「サポートベクトルマシン」プラットフォームには、動径基底関数カーネルを使用して点を非線形次元にマップするオプションがあります。このオプションを使用すると、より簡単にクラスを分けることができます。

サポートベクトルマシンのアルゴリズムにおける最大化は、二次計画問題を解くことによって実行されます。JMP Proでは、「サポートベクトルマシン」プラットフォームによって使用されるアルゴリズムは、John Plattにより導入された逐次最小問題最適化（SMO）アルゴリズム（1998）に基づいています。一般に、サポートベクトルマシンの二次計画問題は非常に大きいものです。逐次最小問題最適化アルゴリズムは、二次計画問題全体を一連のより小さな二次計画問題に分割します。小さくなった二次計画問題は、数値的にではなく、分析に解かれます。つまり、閉じた解が得られます。そのため、逐次最小問題最適化アルゴリズムは、二次計画問題全体を解くより効率的であると言えます（Platt 1998）。