応答(役割がY)の列が連続尺度である場合、応答値に対してモデルが直接あてはめられます。各観測値に対して、モデルは次の式で表されます。
Y =(Xとパラメータの関数)+ 誤差
統計的検定は、モデル内の誤差項が正規分布に従うという仮定に基づいています。
応答が連続尺度の場合には、「モデルのあてはめ」では最小2乗法によって、モデルが推定されます。最小2乗法では、モデル内のパラメータを推定するときに、誤差の平方和が最小になるような推定値が計算されます。あてはめたモデルの誤差は、「残差」と呼ばれています。残差は、各実測値と、それをモデルで予測した値の差です。
最小2乗法は、誤差に正規分布を仮定した最尤法と等価です。最小2乗推定値は、残差の尤度が最も高くなるような推定値と同じになります。正規分布を仮定したときの対数尤度は、残差の平方和から計算できます。
応答が連続尺度の場合、最も基本となるモデルは、1つの定数によって応答のすべての値を予測するモデルです。このモデルの予測値は、平均となります。ここでいう平均とは、応答の値の算術平均を指します。すべてのモデルは、この基本モデルと比較されます。