A2.　行列の演算

一次（線形）写像

をベクトル、をベクトル、を行列としたとき

 

 

は、次元ベクトルを次元ベクトルへ写すということを示しています。これを一次(線形)写像といいます。の時に一次変換という場合もあります。

 

二次形式
を対称行列、をベクトルとしたとき積

 

 

を二次形式といいます。値はスカラー(数)です。が対称でない正方行列だとしても

 

ですから、

 

 

となり、二次形式は常に対称行列で書けることがわかります。

 

正定値行列

対称行列がすべてのに対して、となるとき、正定値といいます。また、となるとき半正定値といいます。

 

対称行列が正定値なら、正則行列があって、

 

となります。従って、も正則です。

 

以下の定理があります。
が正定値なら、その対角成分 
が半正定値なら、その対角成分 

 

また、

を正定値行列、を行列としたとき、
ならば、は正定値　　　　　　　 (5a)
またはならば、は半正定値 　 (5b)
です。

(参考) 共分散行列は正定値または半正定値ですが、半正定値となるのは変数間に線形関係があるときに限られます。

 

例． 二つの確率変数に常にという関係があるとしましょう。と書けるので、の共分散行列はの分散から誤差伝播により、

 

 

となります。この共分散行列は、二次形式を作ると

 

であり、の時は0となるので半正定値です（上記(5b)の場合）。

 

連立一次方程式

未知数個の個の連立方程式

 

 

は行列の形に書けます。

 

 

は行列、は、はです。 でが正則ならば(6)の解がただ一つ、

 

 

と求まります。

 

一般に、なら方程式の数が未知数の数より多いので解は存在しません。なら解は無限に存在します。次の定理があります。

 

に解が存在する必要十分条件は、。　　　　(8)

ここで、は、に列を付け加えた行列です。

と書くと

 

ですから、となるがある(の列空間)
、となります。

 

例１．

のランクは、第1列と第2列を足すと第3列なので、

です。従って解をもちます。第3式×2＋第2式＝第1式×3ですから、実は1式は不要で解は一意に決まります(図1)。

 

図1．一意の解

 

 

例2．

の列は一次独立で、となり、解を持ちません(図2)。このような場合、近似的に最適な解は、最小二乗法により

 

 

を最小にすれば求めることができます。

 

図2．解なし

 

 

例3．

で第1式と第2式を足すと第3式になるので、実質2式であり
となり解をもちます。第1，2式より

 

 

と表せるので、解は、

 

 

となります。は任意なので解は無限にあります。

 

行列式

行列の行列式は、各行と列から１つずつ行列要素をとって掛け合わせ足した関数で次のように定義され、またはと書きます、

 

 

ここではの並べ替え(置換)で、和はすべての置換について取り、符号は置換が偶なら正、奇なら負となります(置換はもとのから2つずつ何回か入れ替えると得られますが、その回数が偶数なら偶置換、奇数なら奇置換といいます)。例えば、

 

 

 

行列式には次のような性質があります。
が正則でない⇒、
が正則⇒

が正定値なら
が正則なら

 

また、正則な行列の逆行列は行列式を使って次のように書けます。

 

 

ここで、 
例えば、（2 × 2） 行列なら

 

B.　多次元正規分布の確率密度関数

多次元の正規分布は以前にも紹介しましたが、ベクトルと行列で表示すると便利であるとともに変数の関係などが見えやすいのでここにまとめておきます。

 

標準化(平均＝0、分散=1)された個の独立な正規分布確率変数があるとします。その時の同時確率密度関数は、として、

 

 

となります。である一般の確率変数に戻すには

 

 

と変換すればよく、の確率密度関数は、

 

 

となります。

C.　テイラー展開

（）を滑らかな（何回でも微分可能な）実数値関数とし、をの近傍の点とすると

 

 

と表されます。は滑らかな関数です。第3項はの二次になっていますから、が小さいとすると無視することができ

 

 

となりの線形式で書けることがわかります。測量では、未知数と観測量の関係が線形でないとき、テイラー展開を使って線形化するのが一般的です。