Linear algebra and linear system - Lyapunov Theorem, Stable and Unstable Subspaces
Lyapunov Theorem
먼저 간단한 상황에 대해 알아 봅시다.
$x_1,x_2$ 두 state가 있고 원점으로 가야하는 상황입니다. 원점은 고도가 제일 낮고 시작점이 $x_0=(1,2)^T$입니다. 주황선으로 표현한 등고선일 때 운이 좋다면 계속 고도가 낮은곳으로 이동하면 원점으로 도착할 수 있을 겁니다.
$\dot x = Ax$ (A가 상수 matrix인 경우를 생각합니다.)
등고선을 다음과 같이 표현할 수 있다면
${x:V(x)=c}$
고도가 계속 낮은 곳으로 이동한다는 것은 다음과 같이 표현할 수 있습니다.
$\dot V(x(t)) < 0$
위 식을 통해 시간이 충분히 지나면 원점으로 도착할 수 있지 않나 라고 말할 수 있습니다.
$\dot V(x) < 0$ 를 보인다면 어떤 위치에 있던지 간에 고도가 낮아지는 곳으로 이동한다 를 의미합니다.
이를 통해 솔루션을 구하지 않고 원점으로 안전한 포인트로 수렴한다를 얘기할 수 있습니다.
$V(x)=x^TPx$ (quadratic form)
$P>0$ : Positive definite matrix 따라서 $x \ne 0$ 일때 $V(x) > 0$ 입니다.
$\dot V(x(t))=\dot x^TPx+x^TP\dot x$
$=x^T(t)A^TPx(t)+x^T(t)PAx(t)$
$=x^T(t)(A^TP+PA)x(t) <0 if :x\ne0$
이때 $A^TP+PA$은 negative definite matrix 입니다.
이러한 함수를 찾게되면 $\dot x = Ax$는 안정할 확률이 높습니다.
$V(x)$ : Lyapunov function
따라서 정리하면
$\dot x = Ax$
$if \exist P>0 s.t A^TP+PA<0, then sys is asymptotic stable$
Theorem
theorem에서는 negative definition 이라고 말하는 정도가 아니라 $A^TP+PA = -Q$ 라고 임의의 positive definite matrix Q를 설정합니다.
negative definite matrix -Q에 대해서 위 식을 만족하는 positive definite matrix P가 존재한다면 P를 가지고 Lyapunov function을 사용할 수 있습니다.
pf : positive definite matrix Q가 있으면 systme은 A.S하다.)
$V(x)=x^TPx$
$\dot V = x^T(A^TP+PA)x$
$= -x^TQx < 0, x\ne0$
$ \le -\lambda_{min}(Q) \lVert x \rVert^2$
또한
$\lambda_{min}(P) \lVert x \rVert^2 \le x^TPx \le \lambda_{max}(P)\lVert x \rVert^2$
-를 붙이고 이항하면
$-\frac{V(x)}{ \lambda_{max}(P)} \ge \lVert x \rVert^2$
따라서
$-\lambda_{min}(Q) \lVert x \rVert^2 \le -\frac{\lambda_{min}(Q)}{\lambda_{max}(P)}V$
정리하면
$\dot V(x(t)) \le -\frac{\lambda_{min}(Q)}{\lambda_{max}(P)}V(x(t))$
이를 통해 다음 식을 얻을 수 있습니다.
$V(x(t)) \le e^{-\frac{\lambda_{min}(Q)}{\lambda_{max}(P)}t}V(x(0))$
pf : A가 Hurwitz 면 $\forall Q>0, \exist P > 0 s.t A^TP+PA=-Q, P : unique$)
P = $\int_{0}^{\infin} e^{A^Tt}Ae^{At}dt$ 라는 것을 먼저 알고 생각해 봅시다.
무한대 까지 적분하는건데 과연 값이 잘 정의되는가를 생각해보면
$e^{At}$의 원소들은 $e^{\lambda_it}$ 와 같은데 A가 Hurwitz하다고 했으므로 $\lambda_i$의 realpart는 음수이고 시간에 무한대를 넣으면 0으로 수렴합니다.
따라서 P라는 행렬이 잘 정의되는 것을 알 수 있습니다.
또한 앞뒤에 $x^T,x$를 곱하면 P가 positive definite행렬임을 알 수 있습니다.
남은건 과연 $A^TP+PA=-Q, P : unique$ 인가 인데 P를 대입하면
$\int_{0}^{\infty}(A^Te^{A^Tt}Qe^{At}+e^{A^Tt}Qe^{At}A)dt=-Q$
괄호안을 $\frac{d}{dt}(e^{A^Tt}Qe^{At})$ 로 대신 쓸 수 있습니다.
미분, 적분이므로 결국
| $e^{A^Tt}Qe^{At} | _{0}^{\infty}=0-Q = -Q$ 이므로 -Q인건 알 수 있습니다. |
그렇다면 P는 과연 unique한가? 를 살펴보면
다른 P인 $\bar P$가 있다고 하면
$A\bar P + \bar P A = -Q$
$AP + PA = -Q$
두 식을 얻을 수 있고 두 식을 빼면
$A^T(\bar P - P) + (\bar P - P)A = 0$
앞뒤에 $e^{A^T t}, e^{At}$ 를 곱하면 미분형태로 표현할 수 있습니다. 즉
$\frac{d}{dt}(e^{A^T t}(\bar P -P) e^{At})=0$ 이를 0부터 무한대까지 적분하면
$0 - (\bar P -P) = 0$ 임을 알 수 있고 증명이 완료됩니다.
$A^TP+PA=-Q$ : “Lyapunov eq”
Stable and Unstable Subspaces
$\dot x = Ax, x(0)=x_0$
solution : $x(t)=e^{At}x_0$ 을 좀 더 자세히 살펴봅시다
ex)
$\lambda_1 = -1, \lambda_2 = 5$
$v_1 =\dbinom{1}{-1}, v_2=\dbinom{2}{1}$
Q : 만약 초기값 $x_0 = v_1$이라면 어떻게 되는가? A : $x(t)=\alpha(t)v_1$ 을 대입하면
$\dot \alpha v_1=A\alpha(t)v_1$
$= \alpha(t)\lambda_1v_1$
따라서
$\dot \alpha(t) = \lambda_1 \alpha(t)$
$\alpha(t) = e^{\lambda_1t}\alpha(0)$
결국
$\dot x = Ax$ 의 초기값 $x(0)=v_1$이라면 $x(t)=\alpha(t)v_1 = e^{\lambda_1t}v_1$이 solution입니다.
$\dot \alpha = \lambda_1 \alpha, \alpha(0) = 1$
정리하면 초기값이 A행렬의 eigenvector의 방향이였다면 그 방향은 보존하고 방향에 해당하는 eigenvalue의 e함수만큼 변화하는 걸 알수있습니다. 이 eigenvalue의 realpart가 음수였다면 이 방향으로는 0으로 줄어듭니다.
보통의 경우에는
$\dot x = Ax, x(0)=x_0=\alpha_1v_1+\alpha_2v_2$
solution은
$x(t)=\alpha_1e^{\lambda_1t}v_1+\alpha_2e^{\lambda_2t}v_2$
$span{v_1}$ : stable subspace, invariant sub
$span{v_2}$ : unstable subspace, invariant sub
eiganvalue가 중첩되는 경우
$\lambda_1 \cdots \lambda_s$의 realpart는 음수
$\lambda_{s+1} \cdots \lambda_d$의 realpart는 양수
$e^{At}=Te^{Jt}U = \sum_{i=1}^{d} T_i e^{Jit}U_i$
solution은 $x_0$가 붙으면 됩니다.
$x(t) = e^{At}x_0=Te^{Jt}U x_0= \sum_{i=1}^{d} T_i e^{Jit}U_ix_0$
이때
$Tv = X_0$