線形代数 · 第30回 · 動画3 · インタラクティブ教材

P = Wc:画像圧縮を支える行列方程式

I重要な公式

公式 名称 説明
P=WcP = Wc 基底変換 信号 PP を、WW の列(基底ベクトル)の係数 cc による一次結合として表す
c=W−1Pc = W^{-1} P 逆変換 信号から係数を取り戻す
WTW=I⇒W−1=WTW^T W = I \Rightarrow W^{-1} = W^T 正規直交性 逆行列はただの転置。驚くほど速い
w^i=wi/∥wi∥\hat{w}_i = w_i / \lVert w_i \rVert 正規化 直交基底を正規直交基底に変える

II可視化1 — 座標は基底によって変わる

基底 WW が変わると、同じ係数 cc からでも別のベクトル P=WcP = Wc ができます。

III可視化2 — 画素よりスパースな表現

それぞれの基底で大きいほうから数個の係数だけを残して再構成し、誤差を比べましょう。

標準基底(画素の基底)

ハール・ウェーブレット基底

💡 信号のエネルギーを少数の大きな係数に詰め込むこと、つまりスパース化こそ、JPEG や JPEG 2000 が画像の圧縮に利用している性質です。

IV可視化3 — 直交していても、まだ正規直交ではない

ハール行列の異なる列どうしの内積は 0 です。ところが、列と自分自身との内積は長さの二乗であり、11 ではありません。

💡 各列をその長さで割ると WW が正規化され、W−1=WTW^{-1} = W^{T} となる正規直交な行列になります。

V確認クイズ

問1

W=(111−1)W = \begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}、c=(32)c = \begin{pmatrix} 3 \\ 2 \end{pmatrix} とします。

P=WcP = Wc を使うと、PP はどうなるでしょうか。

✅ 正解です! P=3w1+2w2=(5,1)P = 3w_1 + 2w_2 = (5, 1).

❌ 惜しい! 思い出しましょう。WcWc は一次結合 c1w1+c2w2c_1 w_1 + c_2 w_2 で、wiw_i は WW の列です。

解答を見る

解答:

WcWc を列ごとに計算します。 P=c1w1+c2w2=3(11)+2(1−1)=(3+23−2)=(51).P = c_1 w_1 + c_2 w_2 = 3 \begin{pmatrix} 1 \\ 1 \end{pmatrix} + 2 \begin{pmatrix} 1 \\ -1 \end{pmatrix} = \begin{pmatrix} 3+2 \\ 3-2 \end{pmatrix} = \begin{pmatrix} 5 \\ 1 \end{pmatrix}.

問2

行列 WW の列は互いに直交していますが、各列の長さは(1 ではなく)2\sqrt{2} です。

W−1=WTW^{-1} = W^T は成り立つでしょうか。

✅ 正解です! 直交だけでは足りず、長さが 1 であること(正規直交)も必要です。ここでは WTW=2IW^T W = 2I なので、W−1=12WTW^{-1} = \tfrac{1}{2} W^T です。

❌ 惜しい! 直交性から WTWW^T W は対角行列になりますが、それが単位行列になるのは列が正規直交(長さ 1)のときだけです。

解答を見る

解答:

列が直交しているだけでは足りません。列 ii の長さが 2\sqrt{2} なら wi⋅wi=2w_i \cdot w_i = 2 なので、 WTW=2I(単位行列ではない)W^T W = 2 I \quad \text{(単位行列ではない)}

これから得られるのは W−1=12WTW^{-1} = \tfrac{1}{2} W^T で、WTW^T そのものではありません。W−1=WTW^{-1} = W^T となるには、列の長さが 1、つまり正規直交である必要があります。各列をその長さで割って正規化しましょう。

問3

どちらもデータの 10% だけを残す、2 つの戦略を比べます。

  • 戦略 A:生の画素値(標準基底)の 10% を残し、残りを 0 にする。
  • 戦略 B:ウェーブレット係数のうち大きいほうから 10% を残し、残りを 0 にしてから再構成する。

戦略 B のほうが戦略 A よりはるかに良い画像になるのはなぜでしょうか。

✅ 正解です! 鍵はスパース化です。ウェーブレットは信号のエネルギーを少数の係数に詰め込みます。

❌ 惜しい! エネルギーの集中について述べた選択肢を読み直しましょう。

解答を見る

解答:

これがスパース化の基準です。良い基底 WW は、信号 PP を WcWc と表したとき、cc の成分のほとんどがごく小さく、大きいものは少数だけになるような基底です。そうなれば大きな係数だけを残して残りを捨てても、失われるものはほとんどありません。

  • 標準基底では、係数の一つ一つが画素そのものです。画素の 90% を捨てれば、文字どおり画像に穴があきます。
  • ウェーブレット基底では、少数の係数がなめらかな構造をとらえ、小さな係数は雑音程度の細部を表すだけです。それを捨てても、再構成した画像はほとんど変わりません。

これが JPEG(DCT)と JPEG 2000(ウェーブレット)の核となる考え方です。

問4

百万画素の画像では、WW はおよそ 106×10610^6 \times 10^6 の行列です。W−1W^{-1} を一から計算すると約 n3≈1018n^3 \approx 10^{18} 回の演算がかかり、とても無理です。

WW のどの性質のおかげで、c=W−1Pc = W^{-1} P の計算が行列とベクトルの積 1 回分の手間で済むのでしょうか。

✅ 正解です! 正規直交性によって逆行列が転置に変わり、転置は本質的にただです。

❌ 惜しい! どの性質があれば WTW=IW^T W = I、したがって W−1=WTW^{-1} = W^T となるかを考えましょう。

解答を見る

解答:

WW が正規直交なら WTW=IW^T W = I なので、W−1=WTW^{-1} = W^T です。行列の転置は本質的にただで、添字を読み替えるだけです。こうして c=W−1Pc = W^{-1} P は c=WTPc = W^T P となり、行列とベクトルの積 1 回で済みます。

FFT、DCT、ウェーブレット変換がどれも正規直交基底を使うのは、まさにこの速さのためです。

(注:WW が対角行列でも速くはなりますが、それでは座標がまったく混ざらないので、圧縮の役には立ちません。正方行列であることや成分が整数であることは、逆行列の計算量を減らしません。)

正解数:0 / 4