線形代数 · 第28回 · 動画2 · インタラクティブ教材

U を消して V を求める：AᵀA で解く特異値分解

I重要な公式

公式	意味
$A = U \Sigma V^T$	特異値分解（SVD）
$A^T A = V \Sigma^2 V^T$	対称行列の固有値分解。 $V$ の列が固有ベクトル
$A A^T = U \Sigma^2 U^T$	対称行列の固有値分解。 $U$ の列が固有ベクトル
$u_i = \frac{1}{\sigma_i} A v_i$	$V$ から $U$ を求めて符号を固定する

特異値は $\sigma_i = \sqrt{\lambda_i}$ を満たします。ここで $\lambda_i$ は $A^T A$ の固有値です。

II可視化1 — $U$ が消えるのを見る

$A = U\Sigma V^T$ から $A^T A$ を作ると、式は $V\Sigma^2 V^T$ にまで縮み、 $U$ は跡形もなく消えます。

σ₁ 2.00 σ₂ 1.00 V の角度 30° U の角度 60°

III可視化2 — 共通する 0 でない固有値

$A^T A$ と $A A^T$ は大きさが違うのに、0 でない固有値はすべて共通で、どれも $\sigma_i^2$ に等しくなります。

a₁₁ 2 a₁₂ 1 a₁₃ 0 a₂₁ 0 a₂₂ 1.5 a₂₃ 2

IV可視化3 — 符号の落とし穴

固有ベクトルは符号の違いまでしか決まりません。 $u_i = \tfrac{1}{\sigma_i} A v_i$ で求めれば、 $U$ の符号が $V$ に固定されます。

U の求め方

V確認クイズ

$A^T A$ を使う近道を理解できたか確かめましょう。

問1

$A = U \Sigma V^T$ から $A^T A$ を作るとき、 $U$ が式から「消える」のは、そのどの性質のおかげですか。

✅ 正解です！ $U$ が直交行列であることで、真ん中の積が単位行列になります。

❌ 惜しい！ 打ち消し合うには $U^T U = I$ が必要で、これは $U$ が直交行列だから成り立ちます。

解答を見る

解答：

$A^T A = (V \Sigma^T U^T)(U \Sigma V^T)$

真ん中の因子は $U^T U$ です。 $U$ は直交行列なので $U^T U = I$ となり、式は次のように縮みます。

$A^T A = V \Sigma^T \Sigma V^T = V \Sigma^2 V^T$

$U$ は完全に消えます。打ち消し合いを生むのは、 $U$ が正方行列であることでも、 $\Sigma$ が特定の形をしていることでもなく、直交性です。

問2

$A^T A$ の固有値が $\{25, 9, 0\}$ だとします。 $A$ の特異値はいくつですか。

✅ 正解です！ $\sigma_i = \sqrt{\lambda_i}$ .

❌ 惜しい！ 特異値は $A^T A$ の固有値の平方根で、0 も含まれます。

解答を見る

解答：

特異値は $A^T A$ の固有値の平方根です。

$\sigma_i = \sqrt{\lambda_i}$

したがって $\sigma_1 = \sqrt{25} = 5$ 、 $\sigma_2 = \sqrt{9} = 3$ 、 $\sigma_3 = \sqrt{0} = 0$ です。

0 もれっきとした特異値で、 $A$ が非自明な零空間をもつことを示しています。よくある間違いは、平方根をとり忘れて固有値そのものを答えてしまうことです。

問3

$A$ を $3 \times 5$ 行列とします。 $A^T A$ と $A A^T$ の固有値について正しいのはどれですか。

✅ 正解です！ 余分な 0 を抱えるのは、大きいほうの行列です。

❌ 惜しい！ 0 でない固有値は共通です。余分な 0 を抱えるのは大きいほうの行列（ここでは $5 \times 5$ ）です。

解答を見る

解答：

$A^T A$ は $5 \times 5$ 、 $A A^T$ は $3 \times 3$ です。「 $AB$ と $BA$ は 0 でない固有値が同じ」という一般的な事実から、2つの行列の 0 でない固有値は同じです。それが $\sigma_1^2, \sigma_2^2, \sigma_3^2$ （多くても $\min(m, n) = 3$ 個）です。

大きいほうの行列 $A^T A$ （ $5 \times 5$ ）は、余分な 0 を抱えているだけです。 $A A^T$ と比べて、0 の固有値を $5 - 3 = 2$ 個多くもちます。

問4

正しいか誤りか： $A^T A$ の固有値分解から $V$ を求めたあと、 $U$ を得るいちばん安全な方法は、 $A A^T$ の固有値分解を別に計算することである。

✅ 正解です！ 別々に計算すると符号が食い違うおそれがあります。代わりに $u_i = (1/\sigma_i) A v_i$ を使いましょう。

❌ 惜しい！ 別々に計算すると、符号の対応が崩れることがあります。安全な求め方は $u_i = (1/\sigma_i) A v_i$ です。

解答を見る

解答：誤り。

固有ベクトルは符号の違いまでしか決まりません。 $V$ と $U$ を別々に計算すると、符号が食い違うことがあります。 $v_i$ と $u_i$ が互いに「逆向き」になってしまい、 $A = U \Sigma V^T$ が成り立たなくなるのです。

直し方は、まず $V$ を求め、次の式で $V$ から $U$ を導くことです。

$u_i = \frac{1}{\sigma_i} A v_i$

こうすれば $u_i$ の符号が $v_i$ に選んだ符号に固定され、再構成した $U \Sigma V^T$ が $A$ にぴったり等しくなることが保証されます。

正解数：0 / 4

U を消して V を求める：AᵀA で解く特異値分解

I重要な公式

II可視化1 — UUU が消えるのを見る

III可視化2 — 共通する 0 でない固有値

IV可視化3 — 符号の落とし穴

V確認クイズ

II可視化1 — $U$ が消えるのを見る