線形代数 · 第16回 · 動画2 · インタラクティブ教材

逆行列はいらない:正規直交基底なら射影は内積だけで求まる

I重要な公式

公式 名称 使う場面
P=A(ATA)−1ATP = A(A^TA)^{-1}A^T 一般の射影行列 どんな基底でも使える(逆行列の計算が必要)
P=QQTP = QQ^T 正規直交基底での射影行列 QQ の列が正規直交のとき
x^i=qiTb\hat{x}_i = q_i^T b 内積としての係数 最小二乗解の各係数を求めるとき
QTQ=IQ^TQ = I 正規直交性の条件 列の長さが 1 で、互いに垂直

II可視化1 — QTQ=IQ^TQ = I となるとき

QQ の列が正規直交であるのは、ちょうど QTQ=IQ^TQ = I のときです。列の長さが 1 であることが対角成分に、列が垂直であることが非対角成分に現れます。

💡 QTQQ^TQ の対角成分は長さの二乗 ∥qi∥2\|q_i\|^2、非対角成分は内積 q1⋅q2q_1 \cdot q_2 です。単位行列になるには、長さが 1 であることと垂直であることが、両方とも必要です。

III可視化2 — bb を Col(Q)(Q) へ射影する

q1=12(1,1,0)Tq_1 = \tfrac{1}{\sqrt{2}}(1,1,0)^T, q2=(0,0,1)Tq_2 = (0,0,1)^T とすると、写像 p=QQTbp = QQ^Tb は bb を、平面内の部分 pp と、垂直な誤差 e=b−pe = b - p に分けます。

💡 pp は平面の中で bb に最も近い点です。だからこそ、ee は平面に垂直に出ていきます。係数 x^1=q1Tb\hat{x}_1 = q_1^Tb と x^2=q2Tb\hat{x}_2 = q_2^Tb はただの内積で、逆行列はいりません。

IV可視化3 — どの係数も内積で求まる

正規直交基底 q1=12(1,1)Tq_1 = \tfrac{1}{\sqrt{2}}(1,1)^T, q2=12(−1,1)Tq_2 = \tfrac{1}{\sqrt{2}}(-1,1)^T では、bb の各座標はただの内積です:b=(q1Tb) q1+(q2Tb) q2b = (q_1^Tb)\,q_1 + (q_2^Tb)\,q_2。

💡 一般の基底なら ATAx^=ATbA^TA\hat{x} = A^Tb を解かなければなりません。正規直交性のおかげで、その連立方程式が二回の内積にまで縮みます。これはフーリエ係数を定めるのと同じ考え方です。

V確認クイズ

問1

正規直交な列 q1=(12,  12,  0)Tq_1 = \left(\frac{1}{\sqrt{2}},\; \frac{1}{\sqrt{2}},\; 0\right)^T とベクトル b=(1,2,3)Tb = (1, 2, 3)^T が与えられています。係数 x^1=q1Tb\hat{x}_1 = q_1^T b を計算してください。

✅ 正解です! x^1=3/2≈2.121\hat{x}_1 = 3/\sqrt{2} \approx 2.121。内積一回だけです!

❌ 惜しい! q1Tbq_1^T b は、対応する成分どうしを掛けて足し合わせて求めます:12⋅1+12⋅2+0⋅3\frac{1}{\sqrt{2}} \cdot 1 + \frac{1}{\sqrt{2}} \cdot 2 + 0 \cdot 3。

解答を見る

解答:

x^1=q1Tb=12(1)+12(2)+0⋅(3)=12+22=32≈2.121\hat{x}_1 = q_1^T b = \frac{1}{\sqrt{2}}(1) + \frac{1}{\sqrt{2}}(2) + 0 \cdot (3) = \frac{1}{\sqrt{2}} + \frac{2}{\sqrt{2}} = \frac{3}{\sqrt{2}} \approx 2.121

q1q_1 の第3成分は 0 なので、bb の第3成分は寄与しません。どの係数もただの内積で、連立方程式を解く必要はありません!

問2

正しいか誤りか:QQ が列の正規直交な 5×35 \times 3 行列ならば、QQT=I5QQ^T = I_5(5×55 \times 5 の単位行列)である。

✅ 正解です! 列が正規直交なら QTQ=I3Q^TQ = I_3 は必ず成り立ちますが、QQTQQ^T は Col(Q)(Q) への射影行列にすぎません。II に等しくなるのは、QQ が正方行列のときだけです。

❌ 惜しい! よく考えましょう。QTQ=IQ^TQ = I(小さい単位行列)は必ず成り立ちます。では、QQ の列の数が行の数より少ないとき、QQT=IQQ^T = I(大きい単位行列)も成り立つでしょうか?

解答を見る

解答:誤り

QQ が列の正規直交な 5×35 \times 3 行列のとき:

  • QTQ=I3Q^TQ = I_3 ✅(3×33 \times 3 の単位行列。列が正規直交なら必ず成り立ちます)
  • QQT≠I5QQ^T \neq I_5 ❌(これは 3 次元の列空間への 5×55 \times 5 の射影行列で、単位行列ではありません)

QQT=IQQ^T = I となるのは、QQ が正方行列(n×nn \times n)、つまり列が空間 Rn\mathbb{R}^n 全体を張るときだけです。そのとき QQ は直交行列と呼ばれ、QT=Q−1Q^T = Q^{-1} です。

覚えておきたい区別:

  • QTQ=IQ^TQ = I → 列が正規直交なら必ず成り立つ
  • QQT=IQQ^T = I → QQ が正方行列のときだけ

問3

QQ を、正規直交な列 q1=12(1,  1,  0)Tq_1 = \frac{1}{\sqrt{2}}(1,\; 1,\; 0)^T と q2=(0,  0,  1)Tq_2 = (0,\; 0,\; 1)^T をもつ 3×23 \times 2 行列とします。

b=(4,0,6)Tb = (4, 0, 6)^T に対して、射影 p=QQTbp = QQ^T b を計算してください。

✅ 正解です! 射影は q2q_2 の成分(z = 6)をそのまま残し、最初の二つの成分を q1q_1 によって平均します。どちらも 2 になります。

❌ 惜しい!

解答を見る

解答:

ステップ1 — 係数を内積で求める:

x^1=q1Tb=12(4)+12(0)+0(6)=42=22\hat{x}_1 = q_1^T b = \frac{1}{\sqrt{2}}(4) + \frac{1}{\sqrt{2}}(0) + 0(6) = \frac{4}{\sqrt{2}} = 2\sqrt{2}

x^2=q2Tb=0(4)+0(0)+1(6)=6\hat{x}_2 = q_2^T b = 0(4) + 0(0) + 1(6) = 6

ステップ2 — 射影を組み立て直す:

p=x^1q1+x^2q2=22⋅12(110)+6(001)=(220)+(006)=(226)p = \hat{x}_1 q_1 + \hat{x}_2 q_2 = 2\sqrt{2} \cdot \frac{1}{\sqrt{2}}\begin{pmatrix}1\\1\\0\end{pmatrix} + 6\begin{pmatrix}0\\0\\1\end{pmatrix} = \begin{pmatrix}2\\2\\0\end{pmatrix} + \begin{pmatrix}0\\0\\6\end{pmatrix} = \begin{pmatrix}2\\2\\6\end{pmatrix}

解釈:射影は bb の最初の二つの成分を平均し(q1q_1 が xx と yy に同じ重みをかけるからです)、zz 成分はそのまま残します(q2q_2 が zz 軸だからです)。

問4

AA を列が正規直交な行列 QQ に置き換えると、射影の公式は P=A(ATA)−1ATP = A(A^TA)^{-1}A^T から P=QQTP = QQ^T に簡単になります。この簡略化を生み、さらに PP を冪等(P2=PP^2 = P)にもしている、鍵となる代数的な事実はどれですか?

✅ 正解です! QTQ=IQ^TQ = I というたった一つの事実が、すべての簡略化を生み出します。逆行列は消え、冪等性の証明では真ん中の因子がつぶれます。

❌ 惜しい! 公式 P=Q(QTQ)−1QTP = Q(Q^TQ)^{-1}Q^T に QTQ=IQ^TQ = I を代入すると何が起こるか考えましょう。また、P2=(QQT)(QQT)P^2 = (QQ^T)(QQ^T) を計算すると何が起こるでしょうか?

解答を見る

解答:鍵となる事実は QTQ=IQ^TQ = I です。

公式の簡略化:

P=Q(QTQ)−1⏟=I−1=IQT=Q⋅I⋅QT=QQTP = Q\underbrace{(Q^TQ)^{-1}}_{= I^{-1} = I}Q^T = Q \cdot I \cdot Q^T = QQ^T

冪等性(P2=PP^2 = P):

P2=(QQT)(QQT)=Q(QTQ)⏟=IQT=Q⋅I⋅QT=QQT=PP^2 = (QQ^T)(QQ^T) = Q\underbrace{(Q^TQ)}_{= I}Q^T = Q \cdot I \cdot Q^T = QQ^T = P

QTQQ^TQ が II につぶれるという同じ事実が、両方の簡略化を動かしています。冪等性の証明では、QTQQ^TQ が真ん中にはさまれて現れ、つぶれます。これが「代数の魔法の瞬間」です。

ほかの選択肢が誤りである理由:

  • QQ は正方行列である必要はありません(3×23 \times 2 の例でも完全にうまくいきます)。
  • QT=Q−1Q^T = Q^{-1} が成り立つのは QQ が正方行列(直交行列)のときだけで、長方行列の QQ では成り立ちません。
  • 一般の射影行列には逆行列が必要です。逆行列を消しているのは、ほかでもない正規直交性です。

正解数:0 / 4