線形代数 · 第31回 · 動画2 · インタラクティブ教材

左逆行列と右逆行列:逆順に掛けると射影行列が現れる

I重要な公式

公式 名称 成り立つ条件
(ATA)−1AT A=I(A^T A)^{-1} A^T \, A = I 左逆行列 縦長の行列、列フルランク(m>nm > n, r=nr = n)
A AT(AAT)−1=IA \, A^T (A A^T)^{-1} = I 右逆行列 横長の行列、行フルランク(n>mn > m, r=mr = m)
P=A(ATA)−1ATP = A (A^T A)^{-1} A^T 射影行列 同じ部品を逆の順番で;P2=PP^2 = P, PT=PP^T = P
ATA x^=ATbA^T A \, \hat{x} = A^T b 正規方程式 最小二乗:Ax^=PbA\hat{x} = Pb

II可視化1 — 逆行列はどちら側にあるか?

長方行列は片側からしか逆にできません。どちら側かは、フルランクのままでいるグラム行列が決めます。

III可視化2 — 列空間への射影

PP は bb を、列空間の最も近い点へ送ります。垂直にまっすぐ下ろすのです。

💡 PP はもともと列空間にあるベクトルをすべてそのままにするので、2 回射影しても何も変わりません:P2=PP^2 = P。

IV可視化3 — 同じ部品、違う順番

同じ 3 つの行列が、一方の順番では単位行列を、もう一方の順番では射影をつくります。

V確認クイズ

問1

AA を m>nm > n で列フルランク(r=nr = n)の、縦長の m×nm \times n 行列とします。必ず存在する片側逆行列はどれですか。

✅ 正解です! ATAA^T A が可逆なので、左逆行列が得られます。

❌ 惜しい! 縦長の行列で可逆になるのは ATAA^T A であって、AATA A^T ではありません。

解答を見る

解答:

列フルランクの縦長の行列では列が一次独立なので、グラム行列 ATAA^T A(サイズ n×nn \times n)は可逆です。これから左逆行列が得られます:

(ATA)−1AT⋅A=(ATA)−1(ATA)=In.(A^T A)^{-1} A^T \cdot A = (A^T A)^{-1}(A^T A) = I_n.

右逆行列をつくるには AATA A^T(m×mm \times m)が可逆でなければなりませんが、その階数は n<mn < m しかないので特異です。したがって存在するのは左逆行列だけです。

問2

ある学生がこう主張しました:「縦長の行列 AA には左逆行列があるのだから、右逆行列もあるはずだ。AAT(AAT)−1A A^T (A A^T)^{-1} を掛ければよい。」

正しいか誤りか:この推論は正しい。

✅ 正解です! AATA A^T の階数は n<mn < m なので特異であり、右逆行列はありません。

❌ 惜しい! AATA A^T は m×mm \times m ですが階数は n<mn < m なので、逆行列をもちません。

解答を見る

解答:

この主張は誤りです。縦長の場合、AATA A^T は m×mm \times m ですが階数は n<mn < m しかないので、AATA A^T は特異です。その逆行列 (AAT)−1(A A^T)^{-1} は存在しません。

もっと深い理由はこうです:長方行列は、両側から逆にすることは決してできません。AA か ATA^T のどちらかが、必ず非自明な零空間をもつからです。必ずどこかで何かがつぶれていて、つぶれたものを両方向から元に戻すことはできません。

問3

射影行列 P=A(ATA)−1ATP = A(A^T A)^{-1} A^T について、いつも成り立つ性質の組はどれですか。

✅ 正解です! 射影行列は対称で、冪等(P2=PP^2 = P)です。

❌ 惜しい! PP は対称ですが、2 回射影すると P2=PP^2 = P であって、II にはなりません。

解答を見る

解答:

射影行列は、それを特徴づける 2 つの性質をみたします:

  • 対称:PT=PP^T = P。
  • 冪等:P2=PP^2 = P(2 回射影しても 1 回射影したのと同じです。いったん bb が平面上に来れば、そこから動きません)。

この行列は単位行列ではなく(P≠IP \neq I)、可逆でもありません(列空間に垂直な成分をつぶしてしまうからです)。例の行列では P=[2/3−1/31/3−1/32/31/31/31/32/3]P = \begin{bmatrix} 2/3 & -1/3 & 1/3 \\ -1/3 & 2/3 & 1/3 \\ 1/3 & 1/3 & 2/3 \end{bmatrix} となり、確かに PT=PP^T = P と P2=PP^2 = P をみたします。

問4

優決定な連立方程式 Ax=bAx = b に厳密な解はありません。そこで正規方程式 ATA x^=ATbA^T A \,\hat{x} = A^T b を解いて、最小二乗解 x^\hat{x} を求めます。Ax^A\hat{x} は何に等しいですか。

✅ 正解です! 最小二乗で得られるのは Ax^=PbA\hat{x} = Pb、つまり bb の射影です。

❌ 惜しい! Ax=bAx=b は解けないので、Ax^A\hat{x} は bb そのものではなく、射影 PbPb です。

解答を見る

解答:

正規方程式を解くと x^=(ATA)−1ATb\hat{x} = (A^T A)^{-1} A^T b です。したがって

Ax^=A(ATA)−1AT b=Pb,A\hat{x} = A(A^T A)^{-1} A^T \, b = P b,

となり、これはちょうどbb の AA の列空間への射影です。bb には届かない(厳密な解がない)ので、PbPb が届く範囲で最も近い点、つまり最良の近似です。ここでグラム行列 ATAA^T A が正規方程式の係数行列として再び現れます。それが可逆なのは、まさに AA が列フルランクだからです。

正解数:0 / 4