誤差論と最小二乗法

第10回付録

C3. 関数の極大・極小とラグランジュの未定係数法

 関数がある点で極大値あるいは極小値(極値)をとるときは、そこで微分が0になります。ラグランジュの未定係数法は、拘束条件があるときに関数の極大・極小を求める問題です。

スクリーンショット 2020-07-29 13.23.37が、微分可能な実数値関数のとき、ベクトル

スクリーンショット 2020-07-29 13.24.19

 

スクリーンショット 2020-07-29 13.33.19スクリーンショット 2020-07-29 13.36.05における勾配(gradient)ベクトルといいます。これは1変数の場合の微分係数スクリーンショット 2020-07-29 13.25.58を拡張したものです。1変数の関数が極値をとるとき微分係数が0となります(図1)。多変数の場合は以下の通りです。

スクリーンショット 2020-07-29 13.26.19

1.関数の極値:スクリーンショット 2020-07-29 13.26.41で、微分係数が0

 

関数の極値

スクリーンショット 2020-07-29 13.23.37を微分可能な実数値関数とし、スクリーンショット 2020-07-29 13.36.05で極値を持つとします。その時

スクリーンショット 2020-07-29 13.49.55

となります。これは何の条件もない一般の場合ですが、もし、スクリーンショット 2020-07-29 13.55.40に何らかの拘束条件があるときの極値を求める問題がラグランジュの未定係数法です。

 

ラグランジュの未定係数法

スクリーンショット 2020-07-29 13.23.37が、拘束条件

スクリーンショット 2020-07-29 14.02.54

の下、スクリーンショット 2020-07-29 13.36.05で極値を持つとします。ここで、各スクリーンショット 2020-07-29 14.03.36は微分可能で、勾配ベクトルスクリーンショット 2020-07-29 14.04.08は一次独立とします。

そのときスクリーンショット 2020-07-29 14.04.51ベクトル20200727-k(ラグランジュの未定係数)が存在して,ラグランジュ関数

スクリーンショット 2020-07-29 14.05.52

スクリーンショット 2020-07-29 13.36.05で極値を持ちます。つまり

スクリーンショット 2020-07-29 14.06.27

 

となります。従って、式(5)(3)とともに解けば、未知数であるスクリーンショット 2020-07-28 14.26.1820200727-kが求まります(図2)。

スクリーンショット 2020-07-29 14.06.57

 

スクリーンショット 2020-07-29 14.07.25

 図2.拘束条件のある極値(2変数)。スクリーンショット 2020-07-29 14.12.43(上図)はスクリーンショット 2020-07-29 14.14.23の拘束条件のもとQで極値をとる(条件がない場合はPで極値)(下図で、黒矢印はスクリーンショット 2020-07-29 14.13.11、赤矢印はスクリーンショット 2020-07-29 14.13.29。Qでスクリーンショット 2020-07-29 14.13.11スクリーンショット 2020-07-29 14.13.29は一直線上にあるので、(5)が成り立つ20200727-kがあります。)

 

C4. ベクトル微分の公式

スクリーンショット 2020-07-29 15.21.45のとき、

スクリーンショット 2020-07-29 15.22.14

 

と定義します。

特に、スクリーンショット 2020-07-29 15.22.41とすると、スクリーンショット 2020-07-29 15.23.20より、

スクリーンショット 2020-07-29 15.24.42

 

また、

スクリーンショット 2020-07-29 15.25.22スクリーンショット 2020-07-29 15.25.48は対称行列)とすると、スクリーンショット 2020-07-29 15.28.01より

スクリーンショット 2020-07-29 15.28.29

Share on FacebookTweet about this on TwitterShare on LinkedInEmail this to someonePrint this page