スペクトル分解と特異値分解と擬似逆行列

スペクトル分解

Aの固有値に対する正規化された固有ベクトルを基底として並べた直交行列Uによって
$A=U D U^{-1}$ と表される。（Dは固有値を対角成分とする対角行列）

特異値分解

$A^T A$ の固有値 $\lambda_n$ とすると、特異値 $\sigma_n = \sqrt{\lambda_n}$ であり、
$A=U \Sigma V'$ と分解される

擬似逆行列

以下の性質を満たすもの
$A A^+ A = A$
$A^+ A A^+ = A^+$
$(A A^+)^* = (A A^+)$
$(A^+ A)^* = (A^+ A)$

Aの特異値分解の擬似逆行列を用いて以下のように計算できる
$A^+ = V \Sigma^{+} U'$

%スペクトル分解(=固有ベクトル（特に正規化された）による対角化：固有値を対角成分に持つDが対角行列なので、固有ベクトルを並べた行列は直交行列になる)
>> A=[1 2;3 4];
>> [V,D]=eig(A)
>> V*D*inv(V) %-> A

%特異値分解
>> [U,S,V]=svd(A)
>> U*S*V' %-> A

>> pinv(A) %->擬似逆行列
ans =

   -2.0000    1.0000
    1.5000   -0.5000

>> [U,S,V]=svd(A) %特異値分解
U =
   -0.4046   -0.9145
   -0.9145    0.4046
S =
    5.4650         0
         0    0.3660
V =
   -0.5760    0.8174
   -0.8174   -0.5760

>> V*pinv(S)*U' %Aの擬似逆行列をAの特異値分解の擬似逆行列を用いて求める
ans =
   -2.0000    1.0000
    1.5000   -0.5000
%->Aの擬似逆行列pinv(A)に一致する！