システム工学 i - university of the ryukyusdsl4.eee.u-ryukyu.ac.jp/docs/sys01/p07.pdf ·...

システム工学 I

第 7回線形代数の

いくつかの定理

電 347, 電 397 システム工学 I (2016) 琉球大学工学部電気電子工学科担当:半塲 1

現代制御と線形代数 (1)

• 現代制御理論ではおもに状態方程式で表現された線形時不変システムを取り扱う

• その主要な道具は線形代数

• 一般的な線形代数の入門コースより進んだ,

線形代数の知識が必要. これから 4回の講義では, それらを取り扱う.



• 現代制御理論では, 行列の方程式, 多項式やべき級数で定まる行列の関数, 2次形式 (安定性との関係で),行列のノルム, Jordan標準形,

特異値分解, 一般化逆行列, 要素が多項式の行列, 要素が有理式の行列などを取り扱う必要があり, これらは必ずしも線形代数の入門コースには含まれない.



• 制御工学は制御理論と制御応用に大別される.

• 制御理論の研究は数学の研究と同様に, 「定理–証明」というスタイルを取り,数学的に厳密な証明が必要

• 制御応用における数学は「計算のための道具」



• 工学部の数学教育では「定理と厳密な証明は重要ではなく, 計算技術に習熟すればよい」という方針が取られることが多く, 工学のほとんどの分野では (制御応用でも)これが適切なのであるが,制御理論では不適切である.

• この講義では, これ以降, 定理の証明をある程度取り扱う


線形代数の復習 (1)

• 数などを m × nの配列にならべて括弧でくくったものを行列といい, A = (aij)のような記号であらわす.

• 行列において, 横方向の数など並びを行, 縦方向の数などの並びを列という. A = (aij)の第一の添字が行に, 第二の添字が列に対応する.


a11 a1n

am1 amn

a21 a2n

第1行

第2行

第m行

a11 a1n

am1 amn

a12

am2

第 1列

第 2列

第 n列



• 行列の要素は典型的には実数であるが, これ以外に, 自然数, 整数, 有理数, 複素数, 多項式, 有理式が要素となることがある.

• m行 n列の実行列 (要素が実数の行列)の全体をRm×n であらわす.

• 要素が自然数, 整数, 有理数, 複素数のm行 n列の行列の全体をそれぞれ Nm×n, Zm×n, Qm×n,Cm×nであらわす.



• 行列が意味を持つためには, その要素の足し算と掛け算ができる必要がある. 厳密な定義は述べないが, 足し算と掛け算ができる対象を環という.

• N, Z, Q, R, Cはすべて環. その係数がある環に含まれる多項式, 有理式の全体も環である.

• 要素が環 Rに含まれるm行 n列の行列の全体をRm×nであらわす.



• A = (aij), B = (bij), C = (cij)とする.

• 2個の行列AとBの和は, AとBの行および列の大きさが同じ場合にのみ定義され, A+B = (cij),cij = aij + bij である.

• 2個の行列 Aと B の積は, Aの列と B の行の大きさが同じ場合にのみ定義され, AB = (cij),cij =

∑

k aikbkj である.



• すべての要素が零の m行 n列行列を零行列という. 零行列を 0, 0mn などの記号であらわす. 零行列は加法に関する単位元である.

• 行と列の大きさが同じ行列を正方行列という.

• 右下がりの対角線上の要素のみ 1で, それ以外の要素が零の正方行列を単位行列といい, I, Inなどの記号であらわす. 単位行列は行列の積に関する単位元である.



• A = (aij)に対し, 第 (i, j) 要素が aji である行列を作ることができる. これをAの転置といい,AT などの記号であらわす.

• 複素行列A = (aij)に対し, 第 (i, j)要素が ajiの共役である行列をAの共役転置といい, A∗であらわす.



• A = (aij)を n次正方行列とし, Σを 1, . . . , n上の置換の全体, σ ∈ Σ, ε(σ)を σの符号とする.このとき,

∑

σ∈Σ ε(σ)a1σ(1) · · · anσ(n) により定まる数をAの行列式といい, detAであらわす.

• n次正方行列A = (aij)の第 i行と第 j列を除いて作った行列の行列式に (−1)i+j を乗じたものを,この行列の第 (i, j)余因子という.



• 第 (i, j)要素が行列Aの第 (j, i)余因子である行列をAの余因子行列といい, adjAであらわす.

• n次正方行列 Aに対し, ある n次正方行列 Bが存在し, AB = BA = I となるとき, BをAの逆行列といい, A−1であらわす.

• A−1 =1

detAadjAであることが示せる. detA =

0のとき, Aは逆行列を持たない.



• n次正方行列A,Bに対し, detAB = detAdetBとなることが示せる. また, det(AT ) = detAであることも示せる.

• ベクトル空間の公理はこの講義では既知とする.

• k個のベクトル v1, . . . ,vkが一次独立 (線形独立)であるとは, c1v1 + · · · + ckvk = 0であれば∀i, ci = 0となることをいう. 一次独立でないk個のベクトルは一次従属 (線形従属)であるという.



• Aを正方行列としたとき, det(sI−A)は sの多項式である. また, Tを正則行列とすると, det(T−1(sI−A)T ) = det(sI−A)であるから, det(sI−A)は相似変換A → T−1AT に関する不変量である.

• det(sI−A)の sn−1の係数に−1をかけたものをAのトレースといい, trAと書く. trAは, Aの右下がりの対角線上の要素の和である.



• ベクトル空間 V の無限集合 vλ : λ ∈ Λが一次独立であるとは, vλ : λ ∈ Ωの任意の有限部分集合が一次独立であることをいう.

• m行 n列の行列Aにおいて, 1次独立な行をもっとも多く選んだとき, その数をAの階数 (ランク)といい, rankAであらわす. 1次独立な列をもっとも多く選んでも同じ値が得られることが示せる. したがって, rankA = rank(AT )である.



• m行 n列の行列Aと n次のベクトル x, m次のベクトル bに対し, Ax = bを連立一次方程式という.

• 連立一次方程式が解を持つための必要十分条件はrank(A b) = rankAが成り立つことである.

• 解が一意的であるための必要十分条件は rankA =nであることである.



• ベクトル空間 V の部分集合B が基底であるとは,Bが一次独立で, かつ ∀x ∈ V , ∃N , ∃λ1, . . . , λN ,∃v1, . . . ,vN ⊂ B, x = λ1v1 + · · · + λNvN となることをいう.

• ベクトル空間は基底を持つ. 基底は一意的ではないが, その要素数 (あるいは集合の濃度) は一意的である. それを次元といい, dimV であらわす.次元は有限のことも無限のこともある.



• 先に述べた基底を代数的基底という. 無限次元ベクトル空間では他の基底を導入することがある.

• n次元 (n < ∞)のベクトル空間を n次のベクトル空間ともいう.

• V , W を体 K上のベクトル空間とする. 写像 L :V → W が線形写像であるとは, 任意の v1,v2 ∈V と任意のα1, α2 ∈ Kに対して, L(α1v1+α2v2) =α1L(v1) + α2L(v2)となることをいう.



• 以下では, ベクトル空間 V (n次), W (m次)と, 線形写像L : V → W が与えられているものとする.

• V , Wの基底V = v1, . . . ,vn, W = w1, . . . ,wmを選ぶ. このとき, ∀vj ∈ V, ∃aij ∈ K (1 ≤i ≤ m), L(vi) =

∑

j aijwi である (1 ≤ j ≤ n).A = (aij)とし (これを線形写像 Lの表現行列という), これらをまとめて書くと,

(

L(v1) · · · L(vn))

=(

w1 · · · wm

)

A



• したがって, 基底 V, W を決めると, 線形写像 L

に対応する行列Aが定まる. 図式的に言うと,線形写像 +基底→行列.

• 一方, V とW の基底 V, W およびm行 n列の行列A = (aij) をひとつ選ぶと, L(vi) =

∑

j aijwi

(1 ≤ j ≤ n, 1 ≤ i ≤ n) と定義することにより,線形写像 Lが定まる. 図式的に言うと,行列+基底→線形写像.



• V = v1, . . . ,vnと V ′ = v′

1, . . . ,v′

nを V の2種類の基底とすると, ある正方行列 T が存在して, (v1, . . . ,vn) = (v′

1, . . . ,v′

n)T となる.

• W = w1, . . . ,wnとW ′ = w′

1, . . . ,w′

nをW

の 2種類の基底とすると, ある正方行列U が存在して, (w1, . . . ,wn) = (w′

1, . . . ,w′

n)U となる.

• (V,W)に関する Lの表現行列を A, (V ′,W ′)に関する Lの表現行列をA′とする.



• 表現行列AとA′の関係を調べる.

• (L(v1), . . . , L(vn))を L((v1, . . . ,vn))と書く.

• L((v′

1, . . . ,v′

n))T = L((v′

1, . . . ,v′

n)T )= L((v1, . . . ,vn)) = (w1, . . . ,wn)A= (w′

1, . . . ,w′

n)UA

• したがって, A′ = UAT−1. これが, 基底の変換に伴う表現行列の変換を表す式である.



• V , W をベクトル空間, L : V → W を線形写像とする.

• L−1(0) = x ∈ V : L(x) = 0は V の部分空間である. これを Lの核あるいは零空間と呼ぶ.

• L(V )はW の部分空間である. これを Lの像と呼ぶ.

• V が有限次元のとき, dimV = dimL−1(0) +dimL(V ) となる (次元定理).



• 行列Aを, A =

A11 · · · A1n...

...Am1 · · · Amn

のように小

行列に区切って表現することがある. ただし, 各小行列Aij は, その上下の小行列と列の大きさが同じで, その左右の小行列と行の大きさが同じでなければならない. これをブロック行列といい,A = (Aij)のように表す.



• A = (Aij), B = (Bij)をブロック行列とする.各Aij とBij の行および列の大きさが同じ場合には, A+B = (Aij +Bij)のように, 行列の加算をブロックごとに実行できる.

• A = (Aij)はm×n個のブロックから成り, B =(Bjk)は n× p個のブロックから成るものとする.AikBkj が任意の i, j, kに対して定義できるときには, AB = (Cij), Cij =

∑

AikBkj となる.



• 対角要素 (右下がりの対角線上の要素)がd1 , . . . , dnで, 他の要素が零の正方行列を対角行列といい,diag(d1, . . . , dn)であらわす.

• 右下がりの対角線上にブロックA1, . . . ,Anが並び, 他の要素が零の行列をブロック対角行列といい, diag(A1, . . . ,An)であらわす. 各Ai は正方行列とは限らない.



• V を実ベクトル空間とする. V における内積 (x,y)とは, V × V で定義された次の性質を持つ実数値関数である:

⊲ ∀α, β ∈ R, ∀x,y,z ∈ V , (αx + βy,z) =α(x,z) + β(y,z)

⊲ ∀x,y ∈ V , (x,y) = (y,x)

⊲ ∀x ∈ V , (x,x) ≥ 0 で, (x,x) = 0 ならx = 0



• V を複素ベクトル空間とする. V における内積(x,y) とは, V × V で定義された次の性質を持つ複素数値関数である (ただし zは zの複素共役)：

⊲ ∀α, β ∈ C, ∀x,y,z ∈ V , (αx + βy,z) =α(x,z) + β(y,z)

⊲ ∀x,y ∈ V , (x,y) = (y,x).

⊲ ∀x ∈ V , (x,x) ≥ 0 で, (x,x) = 0 ならx = 0



• 以下ではV は実あるいは複素ベクトル空間とする.

• x ∈ V と y ∈ V が直交するとは, (x,y) = 0となることをいう.

• V が n次元で, V の基底 V = v1, . . . ,vnが,(i) ∀i, (vi,vi) = 1,(ii) ∀i, j, i 6= jなら (vi,vj) = 0の 2条件を満たすとき, Vを正規直交基底という.



• UTU = Iを満たす実正方行列を直交行列という.

• U∗U = I を満たす複素正方行列をユニタリ行列という.

• ユニタリ行列および直交行列では, 各列ベクトルが Rnあるいは Cnの正規直交基底をなす.



• AT = Aを満たす実正方行列を対称行列という.

• AT = −Aを満たす実正方行列を反対称行列, 交代行列あるいは歪対称行列という.

• A∗ = Aを満たす複素正方行列を Hermite行列という.

• A∗ = −Aを満たす複素正方行列を歪Hermite行列という.



• 正方行列 Aに対し, T−1AT = diag(d1, . . . , dn)となる d1, . . . , dnと正則行列 T を求めることを, Aの対角化という.

• 対角化はつねにできるとは限らないが・・・

• 対称行列は直交行列によって対角化できる

• Hermite 行列はユニタリ行列によって対角化できう



• 右下がりの対角線より下側の全要素が零の正方行列を上三角行列という.

• 正方行列Aに対し, T−1AT が上三角行列となるような正則行列 T と, 対応する上三角行列を求めることを, Aの三角化という.

• 実正方行列および複素正方行列は複素行列の範囲ではつねに三角化できるが, 実行列の範囲では三角化できるとは限らない.



• V を実ベクトル空間とする. f : V × V → R

が ∀x,y,z ∈ V , ∀α, β ∈ R, f(αx + βy,z) =αf(x,z)+βf(y,z), f(z, αx+βy) = αf(z,x)+βf(z,y) という条件を満たすとき, これを双一次形式あるいは双線形形式という.

• 実ベクトル空間の内積は双一次形式の一種.

• f(x,y)が双一次形式であるとき, f(x,x)を 2次形式という.



• V を複素ベクトル空間とする. f : V × V → C

が ∀x,y,z ∈ V , ∀α, β ∈ C, f(αx + βy,z) =αf(x,z)+βf(y,z), f(z, αx+βy) = αf(z,x)+βf(z,y) という条件を満たすとき, これを複素双線形形式という.

• 複素ベクトル空間の内積は複素双線形形式の一種.

• f(x,y)が複素双線形形式であるとき, f(x,x)をHermite形式という.



• V を内積が定められた実ベクトル空間, f を V

上の双一次形式とする. すると, ある線形写像L : V → V が一意的に定まり, ∀x,y, f(x,y) =(x, L(y))となる.

• 線形写像 L : V → V が ∀x,y,(x, L(y)) = (L(x),y)となるとき対称という

• 線形写像 L : V → V が ∀x,y,(x, L(y)) = −(L(x),y)となるとき反対称という



• 双一次形式 f に対し, f1(x,y) = 12(f(x, y) +

f(y,x)), f2(x,y) = 12(f(x,y) − f(y,x)) と定

義すると, f1は対称, f2は反対称で, f = f1 + f2である. すなわち, 任意の双一次形式は対称双一次形式と反対称双一次形式の和である.

• 双一次形式から 2次形式を作ると, 上記の f2 の影響は消えるので, 2次形式は対称双一次形式によって定まっていると考えてよい.



• n次の実ベクトル空間 V に正規直交基底 V を取り, Vに関するベクトルxの成分を (x1 , . . . , xn)

T ,ベクトル yの成分を (y1, . . . , yn)

T とすると, あるn次正方行列A = (aij)が取れて, ∀x,y,

f(x,y) =(

x1 · · · xn)

a11 · · · a1n...

...an1 · · · an

y1...yn



• とくに, 対称双一次形式ではAは対称行列に, 反対称双一次形式ではAは反対称行列になる.

• 2次形式は対称双一次形式から定まるので, 正規直交基底を取ると, 2次形式は対称行列Aを使って, 次のように書ける.

f(x,x) =(

x1 · · · xn)

a11 · · · a1n...

...an1 · · · an

x1...xn



• Aが対称行列であれば, 直交行列によって対角化可能であり, その対角要素 di はすべて実数になる. ∀i, di > 0のときこの 2次形式は正値あるいは正定値, ∀i, di ≥ 0のとき半正定値, ∀i, di < 0のとき負定値, ∀i, di ≤ 0のとき半負定値という.


逆行列補題 (1)

• A1,A2,A3,A4は行列で,M1 = (A1 +A2A3A4)

−1およびM2 = A−1

1 −A−11 A2

(

A4A−11 A2 +A−1

3

)−1A4A

−11

が意味を持つように定義されているものとする.このとき, M1 = M 2.

• これを逆行列補題という.


逆行列補題 (2)

• 逆行列補題はフィードバックシステムの計算に使われる道具である. 繁雑だが便利で, 証明は機械的にできる.

• A5 = A4A−11 A2 +A−1

3 とおく.

• M1 = M2を示すには, M−11 M2 = I, すなわち

(A1 +A2A3A4)M2 = I を示せばよい.

• M2 = A−11 −A−1

1 A2A−15 A4A

−11 ,

A4A−11 A2 = A5 −A−1

3 に注意する.


(A1 +A2A3A4)M2

= (A1 +A2A3A4)(A−11 −A−1

1 A2A−15 A4A

−11 )

= I −A2A−15 A4A

−11

+A2A3A4A−11 −A2A3A4A

−11 A2A

−15 A4A

−11

= I −A2A−15 A4A

−11

+A2A3A4A−11 −A2A3

(

A5 −A−13

)

A−15 A4A

−11

= I −A2A−15 A4A

−11

+A2A3A4A−11 −A2A3A4A

−11 +A2A

−15 A4A

−11

= I


Schurの公式 (1)以下しばらく (Schurの公式関連の議論が続くあいだ),

A =

(

A11 A12

A21 A22

)

とし, A11とA22は正方行列とする.

• A11が正則のとき, X = A22−A21A−111 A12をA

におけるA11の Schur complementという. このとき, detA = detA11 detX となる.


Schurの公式 (2)

• A22が正則のとき, Y = A11−A12A−122 A21をA

におけるA22の Schur complementという. このとき, detA = detA22 detY となる.

• これらの公式を, Schurの公式という.

• 証明は, detAB = detA detB という正方行列の公式を使えば, 機械的にできる.


• A11が正則のときには,(

A11 A12

A21 A22

)

=

(

I 0

A21A−111 I

)(

A11 0

0 X

)(

I A−111 A12

0 I

)

という公式を使う. 右辺の行列の積を計算してからX = A22−A21A

−111 A12を代入すると左辺の行列が得られる.

• A22が正則のときには,(

A11 A12

A21 A22

)

=

(

I A12A−122

0 I

)(

Y 0

0 A22

)(

I 0

A−122 A21 I

)

という公式を使う. 右辺の行列の積を計算してからY = A11−A12A

−122 A21を代入すると左辺の行列が得られる.

• これらの両辺の行列式を取ると Schurの公式が得られる.


ブロック三角行列の逆行列

• A11とA22がともに正則のとき:(

A11 0

A21 A22

)−1

=

(

A−111 0

−A−122 A21A

−111 A−1

22

)

(

A11 A12

0 A22

)−1

=

(

A−111 −A−1

11 A12A−122

0 A−122

)

(証明は機械的にできる)


Schur complementと逆行列 (1)

• A11とX がともに正則のとき,

A−1 =

(

A−111 +A−1

11 A12X−1A21A

−111 −A−1

11 A12X−1

−X−1A21A−111 X−1

)

• A22と Y がともに正則のとき,

A−1 =

(

Y −1 −Y −1A12A−122

−A−122 A21Y

−1 A−122 +A−1

22 A21Y−1A12A

−122

)

これらの証明は文献で見付けにくいので, きちんと書いておく.


A11とXが正則のときには, 先に Schurの公式を求めるときに使っ

た, A =

(

A11 A12

A21 A22

)

を 3個の行列の積に分解する式を使い, さ

らに先の三角行列の逆行列の公式を使うと,

A−1 =

((

I 0

A21A−111 I

)(

A11 0

0 X

)(

I A−111 A12

0 I

))−1

=

(

I −A−111 A12

0 I

)(

A−111 0

0 X−1

)(

I 0

−A21A−111 I

)

となり, この右辺を計算すると先に述べた形になる.


A22と Y が正則のときには, 先に Schurの公式を求めるときに使った,2番目の公式と三角行列の逆行列の公式を使うと,

A−1 =

((

I A12A−122

0 I

)(

Y 0

0 A22

)(

I 0

A−122 A21 I

))−1

=

(

I 0

−A−122 A21 I

)(

Y −10

0 A−122

)(

I −A12A−122

0 I

)

となり, この右辺を計算すると先に述べた形になる.


行列の関数 (1)

• 1変数の n次多項式 p(x) = c0+ c1x+ · · ·+ cmxm

を考える (cm 6= 0).

• xに正方行列 Aを代入することを考える. p(x)の定数項には単位行列を対応させ, xkにはAkを対応させると次のようになる.

p(A) = c0I + c1A+ · · · + cmAm


行列の関数 (2)

• 先に定義した p(A)を, 多項式 p(x)の行列 Aにおける値という. このようにすると, 変数が行列である多項式 (この場合は関数)が定義できる.

• 次に,べき級数 (無限級数)で定義された関数f(x) =∑

∞

k=0 ckxk を考える.


行列の関数 (3)

• 変数 xに行列Aを代入し f(A) =∑

∞

k=0 ckAkと

すれば, この和が意味を持つ限りにおいて, f(x)に対応する行列の関数を定義できる.

• 行列の指数関数 (expA, eA)は, このようにして定義された関数の代表格.

• 指数関数の定義 ex =∑

∞

k=01k!x

kを使って・・・


行列の関数 (4)

• exp[A] = eA =∞∑

k=0

1

k!Ak

• 応用上よく出てくるのは exp[At] = eAt (微分方程式の解だから)

• 指数関数のべき級数展開の収束半径は無限大なので, 行列の指数関数はつねに意味を持つ.


行列の関数 (5)

• 行列の三角関数も同様に定義できるが, 応用にあらわれることは稀.

• 一般的なべき級数を使って行列の関数を定義するときには, 収束半径に注意する必要がある.


Hamilton-Cayleyの定理 (1)

• Aを n次の正方行列とし, p(x) = det(xI−A)とする. p(x)はモニックな多項式である.

• Hamilton-Cayleyの定理の主張はシンプルで, p(A) =0となる, というものである.

• p(x) = xn+ c1xn−1+ · · ·+ cnとすると p(A) = 0

よりAn = −c1An−1 − · · · − cnI.


Hamilton-Cayleyの定理 (2)

• 可制御と可観測性という性質に関連して,(B,AB, . . . ,An−1B), (C,CA, . . . ,CAn−1) という形の行列があらわれる.

• Aのべきがn−1までで済むことの根拠がHamilton-Cayleyの定理.

• Hamilton-Cayleyの定理は通常は Jordan標準形(次回)を用いて証明されるが, ここでは直接証明する.


• A = (aij) を n 次の正方行列, p(x) = det(xI − A) とおく. ei =

(0, . . . , 0,i

1, 0, . . . , 0)T とし, ξ = (eT1 , . . . ,eTn )

T とおく.

• Ae1 =∑n

j=1 a1jej より, (A − a11I,−a12I, · · · ,−a1nI)eE = 0である. e2以降についても同様に計算し, これらをまとめると, 次式が得られる.

A− a11I −a12I · · · −a1nI

−a21I. . .

.... . .

−an1I · · · −ann−1I A− annI

ξ = 0

上式の左辺の行列を Γとおく.


• Γは n2次の正方行列であるが, これを n次の正方行列を要素とする n

次の正方行列と解釈し, この解釈のもとで Γの余因子行列を作り, これを∆とおく. 詳しく書くと, Γ = (Aij) (1 ≤ i, j ≤ n, Aij は n次の正方行列) その第 (i, j)行 (ブロック)を除いて作った行列を (Akilj )と(1 ≤ i, j ≤ n− 1とし, Σn−1を 1, . . . , n− 1の置換としたとき, ∆の第 (j, i)要素∆jiとすると, ∆ji =

∑

σ∈Σn−1ε(σ)Ak1lσ(1)

· · ·Akn−1lσ(n−1)

である.

• Γξ = 0の両辺に ∆を左から掛けると, DAe = 0となる. さらに,DA = diag(D1, . . . ,Dn) (ブロック対角行列)で, すべての iに対し,Di = p(A)である. よって, ∀i, p(A)ei = 0であり,したがってp(A) = 0

である.


参考文献

• 笠原, 線形代数と固有値問題, 増補版, 現代数学社, 2005

• 伊理, 線形代数汎論, 朝倉書店, 2009

• S. Skogestad and I. Postlethwaite, Multivariable Feedback Control,John Wiley & Sons, 1996

• D. S. Bernstein, Matrix Mathematics, 2/e, Princeton UniversityPress, 2009

• 川久保, 線形代数学, 日本評論社, 1999

• 斎藤, 線形代数入門, 東京大学出版会, 1966

• 兒玉, 須田, システム制御のためのマトリクス理論, 計測自動制御学会,1978

• 須田, 線形システム理論, 朝倉書店, 1993


システム工学 i - university of the ryukyusdsl4.eee.u-ryukyu.ac.jp/docs/sys01/p07.pdf ·...

Documents