ここでは、「誤分類率」レポートでの確率の計算について説明します。誤分類率は、部品の測定値Yと部品の真の値Xの同時確率密度関数に基づいて計算されます。同時確率分布関数FYX(y, x)の確率分布として、[m, m]を平均ベクトルとし、次の行列を共分散行列とする二変量正規分布を仮定します。
ここで、gPは部品の違いによるばらつきの分散、gMは測定によるばらつきの分散、mは全体平均です。これらの数値には、レポートに表示される推定値が使われます。具体的には、gP + gMは、「合計変動」(TV)を6で割った値の2乗、つまり(TV/6)2で、gPは、「部品による変動」(PV)を6で割った値の2乗、つまり(PV/6)2が使われます。なお、YとXの相関であるrYXは、gP/(gP + gM)の2乗です。
次に、以下の確率を計算します。
d = P[(LSL ≤ X ≤ USL) and (Y < LSL or Y > USL)]
b = P[(X < LSL or X > USL) and (LSL ≤ Y ≤ USL)]
p = P(LSL ≤ X ≤ USL)
これらの確率は、同時確率分布関数FYX(y, x)、および、YとXの周辺確率であるFY(y)と FX(x)で表すことができます。
d = FYX(LSL, USL) - FYX(LSL, LSL) - FYX(USL, USL) + FYX(USL, LSL) + FX(USL) - FX(LSL)
b = FYX(USL, LSL) - FYX(LSL, LSL) - FYX(USL, USL) + FYX(LSL, USL) + FY(USL) - FY(LSL)
p = FX(USL) - FX(LSL)
P (良い部品で、誤って棄却される確率) = d/p
P (悪い部品で、誤って受容される確率) = b/(1-p)
P (部品が良く、かつ棄却される確率) = d
P (部品が悪く、かつ受容される確率) = b
P (部品が良い確率) = p