「詳細設定」の統計的詳細

グリッド

リッジ回帰およびLassoでは、グリッド上の各調整パラメータで定義された罰則付き尤度が最小化されていきます。いくつかのグリッド点が、調整パラメータの下限値と上限値の間に配置されます。グリッド点の数は、「詳細設定」で指定することができます。

下限は、0.0001に設定される特別なケースを除き、ゼロです。調整パラメータを参照してください。調整パラメータの下限値がゼロの場合、罰則なしの推定が行われます。罰則なしの推定における推定値は、最尤推定値です。上限は、切片以外の項がすべてゼロとなる値のうち、最小のものです。

下限値と上限値の間のグリッド上で、調整パラメータの最良値が反復的に検索されます。調整パラメータに対するグリッドとして、線形・対数・平方根の3つのスケールが用意されています。デフォルトのスケールは平方根です。

最尤推定値（罰則がないときの推定値）と、その前のステップでの推定値との差が非常に大きい場合があります。この差が大きいと、パラメータ推定値の経路がとても歪むことがあります。対数スケールでは、小さい調整パラメータ値に対する探索に重点を置き、線形スケールでは、最小値から最大値まで均等に検索します。平方根スケールは、それら2つのスケールの中間的な性質をもちます。図6.7に、各グリッドの様子を示します。

図6.7 調整パラメータのグリッドスケール