Eigendecomposition

Computational advantage

• Eigenvectors and Eigenvalues
  • $A=\begin{bmatrix} 2 & 6 \\ 5 & 3 \end{bmatrix}$일 때, eigenvector는 \begin{bmatrix} 1 \\ 1 \end{bmatrix}$ ($6, 5$도 포함)
  • $Ax=\lambda x$를 만족하는 $\lambda$를 eigenvalue, x를 eigenvector이다.
  • eigenvector는 고유한 방향을 고려하면 됨
• 계산할 때, matrix 계산을 굳이 하지 않아도 된다는 장점이 있다.

Eigenvectors, eigenvalues, characteristic equation

• $Ax=\lambda x$ => $(A-\lambda I)x=0$
  • $x$는 non-zero vector인 solution을 적어도 하나를 만족해야 함
  • $A-\lambda I = \begin{bmatrix} 2-\lambda & 6 \\ 5 & 3 - \lambda \end{bmatrix}$의 determinant가 0이다. 와 같이 계산

Null Space

• $Ax=0$를 만족하는 x를 null space라 함
• $A=[a_1^T a_2^T \cdots a_m^T]^T$일 때, $a_k^T x = 0$을 만족한다.

Finding all eigenvalues and eigenvectors

• 중근이 아닐 경우 null space의 차원은 1개
• 중복된 개수가 있을 경우에는 null space는 최대 그 중복된 개수만큼 가능하다. 
• 다른 eigen value에서 찾은 eigen vector들은 linearly independent함

Diagonalization

• 대각화하기
• $D = V^{-1}AV => VD = AV$
  • 여기서 $V$는 eigen vector들을 column으로 만든 matrix를 의미함
• Diagonlizable matrix는 invertible한 V를 찾아야 하는데,  n개의 column들이 linearly independent해야 한다는 조건이 있어야 한다.

Eigendecomposition

• Eigendecomposition of A: $A=VDV^{-1}$
  • $T(x)=Ax=VDV^{-1}x=V(D(V^{-1}x))=V(Dy)$
    • $y$는 eigen vector
• $A^k$를 해야될 때, 굳이 다 계산할 필요 없이 $VD^kV^{-1}$만 계산하면 되기 때문에 간단한 계산이 가능