誤差論と最小二乗法
第11回付録
2020年11月20日
一般逆行列
一般逆行列は、逆行列の考えを拡張したもので次のように定義されます。
となる行列
を
の一般逆行列といい
と書きます。一般逆行列は一意には決まりませんが、
が正則の時は、
(一意)となります。
すべての行列に関してその一般逆行列が存在します。特にが対称行列とすると、
は直交行列
と対角行列
(
は対角要素)が存在して、
と分解できる(特異値分解)ので
は、一般逆行列です。
例1.
直交射影行列
一般逆行列を使うと、ベクトルの(
の列ベクトルが作る空間)への直交射影を与える行列は、
と書けます。この行列は、対称行列になっています。
一次方程式の一般解と最小ノルム解
一次方程式
が解を持てば(第8回付録参照)、
となるので、
は(4)の解になります。解はただ一つの場合も無限にある場合もあり、一般解は、
です。
しかし、ノルム(長さ)が最小になる解に限ると、その解は一意に決まることが分かっています。概略は以下の通りです。
一次方程式の一般解は、一意に2つの直交する成分に分けることができます。
ここで、は
となる空間(零空間)で
はそれに直交する空間です。
は、
の解で無限にありますが、
は一つしかありません。((6)を見ると、一般解はある一つの解に
の解を加えたものになっていることが分かります。)
また、各成分は直交するので
となり、は最小のノルムを持つことが分かります。この最小ノルム解を行列を用いて
と書くと、は擬逆行列と呼ばれているものになり一意に決まります。
擬逆行列は一般逆行列を用いて
と表されることがわかっています。
行列の列ベクトル空間と零空間
また、
例2.一次方程式の最小ノルム解
一次方程式
参考文献
- Koch, K-R., Parameter Estimation and Hypothesis Testing in Linear Models (1999), Springer.