標準的な最小2乗法では、X変数が所与で、Xの関数に誤差を加えたものがY変数であると仮定されます。しかし、Xの測定値にもランダムなばらつきがあるときは、y方向の距離ではなく、直交方向の距離の平方和を最小にする直線を求めた方がよいでしょう(図)。ただし、直交方向に引かれた垂線の長さは、XとYのスケールに左右されます。XとYのスケールをどのように決めるべきかということは、単なるグラフ上の問題ではなく、統計的な問題です。
回帰直線への垂線
直交のあてはめを行うには、Yの誤差の、Xの誤差に対する分散比を指定する必要があります。ここで、「分散」はデータから計算される分散ではなく、誤差の母分散であることに注意してください。の比は、標準的な最小2乗法ではが0なので、無限大になります。大きな分散比を指定して「直交のあてはめ」を行うと、求められた直線は、標準的な最小2乗法の回帰直線に近くなります。逆に、分散比を0にすると、YのXへの回帰ではなく、XのYへの回帰に等しい結果が得られます。
この直交のあてはめが最も使われるのは、2つの測定システム(測定器)で、同じ対象を測定したときです。この場合、XとYの測定値には、同じような種類の測定誤差があります。この分析において、測定誤差の分散はどうやって求めたらよいでしょうか。二変量のデータからは、誤差のうちどれだけがどちらの測定システムで生じているのかがわからないので、測定誤差の分散を求めることはできません。そのため、何らかの適当な分散比(たとえば、1.0)を設定するか、2つの測定システムそれぞれで同じ対象を繰り返し測定して、誤差分散を求める必要があります。
この手法の長所は、XとY両方の予測値が計算できることです。この予測値は、直線上でデータ点に最も近い座標です。ただし、この「近さ」は、分散比に対応したスケールで計算されます。
信頼区間は、Tan and Iglewicz(1999)で説明されている方法で計算されます。