【数理知识】《矩阵论》方保镕老师-第3章-矩阵的分解
第3章 矩陣的分解
- 3.1 矩陣的三角分解
- 3.1.1 消元過程的矩陣描述
- 3.1.2 矩陣的三角分解
- 3.1.3 常用的三角分解公式
- 3.2 矩陣的 QR(正交三角) 分解
- 3.2.1 QR 分解的概念
- 3.2.2 QR 分解的實際求法
- 1. 吉文斯 (Givens) 方法
- 2. 豪斯霍爾德 (Housholder) 方法
- 3.3 矩陣的最大秩分解
- 3.4 矩陣的奇異值分解和極分解
- 定義 3.4.1 奇異值
- 定理 3.4.2 奇異值分解
- 3.5 矩陣的譜分解
- 3.5.1 正規矩陣(可以酉對角化)
- 定義 3.5.1 正規矩陣
- 實正規矩陣
- 定理 3.5.1
- 3.5.2 正規矩陣的譜分解
- 3.5.3 單純矩陣(可相似對角化)的譜分解
- 左特征向量、右特征向量
- 譜分解
- 擴展:譜半徑 spectrum radius
- 擴展:為什么若迭代矩陣的譜半徑小于1,則對任意初始向量都收斂?
3.1 矩陣的三角分解
3.1.1 消元過程的矩陣描述
3.1.2 矩陣的三角分解
3.1.3 常用的三角分解公式
3.2 矩陣的 QR(正交三角) 分解
3.2.1 QR 分解的概念
如果實(復)非奇異矩陣 AAA 能化成正交(酉)矩陣 QQQ 與實(復)非奇異上三角矩陣 RRR 的乘積,即
A=QR(3.2.1)A = QR \tag{3.2.1}A=QR(3.2.1)
則稱此為 AAA 的 QRQRQR 分解。
3.2.2 QR 分解的實際求法
1. 吉文斯 (Givens) 方法
2. 豪斯霍爾德 (Housholder) 方法
3.3 矩陣的最大秩分解
3.4 矩陣的奇異值分解和極分解
定義 3.4.1 奇異值
設 A∈Crm×nA\in \mathbb{C}^{m\times n}_rA∈Crm×n?,AHAA^HAAHA 的特征值為
λ1≥λ2≥?λr>λr+1=λr+2=?λn=0,\lambda_1\ge \lambda_2\ge \cdots \lambda_r> \lambda_{r+1} = \lambda_{r+2} = \cdots \lambda_n = 0,λ1?≥λ2?≥?λr?>λr+1?=λr+2?=?λn?=0,
則稱 σi=λi(i=1,2,?,r)\sigma_i = \sqrt{\lambda_i}(i = 1,2,\cdots,r)σi?=λi??(i=1,2,?,r) 為矩陣 AAA 的正奇異值,簡稱奇異值。
定理 3.4.2 奇異值分解
設 A∈Crm×nA\in \mathbb{C}^{m\times n}_rA∈Crm×n?,則存在 mmm 階酉矩陣 UUU 和 nnn 階酉矩陣 VVV,使得
UHAV=[Δ000](3.4.2)U^HAV = \left[\begin{matrix} \Delta & 0 \\ 0 & 0 \end{matrix}\right]\tag{3.4.2}UHAV=[Δ0?00?](3.4.2)
或
A=U[Δ000]VH(3.4.3)A = U \left[\begin{matrix} \Delta & 0 \\ 0 & 0 \end{matrix}\right] V^H \tag{3.4.3}A=U[Δ0?00?]VH(3.4.3)
其中,Δ=diag(σ1,σ2,?,σr)\Delta=diag(\sigma_1, \sigma_2,\cdots, \sigma_r)Δ=diag(σ1?,σ2?,?,σr?),λi\lambda_iλi? 為 AAHAA^HAAH 的非零特征值,且 σi=λi(i=1,2,?,r)\sigma_i = \sqrt{\lambda_i}(i = 1,2,\cdots,r)σi?=λi??(i=1,2,?,r),而 σi\sigma_iσi? 是 AAA 的全部奇異值。
3.5 矩陣的譜分解
3.5.1 正規矩陣(可以酉對角化)
定義 3.5.1 正規矩陣
設 AAA 是復數域上的方陣,如果有
AAH=AHA(3.5.1)AA^H = A^HA \tag{3.5.1}AAH=AHA(3.5.1)
則稱 AAA 為正規矩陣。
實正規矩陣
如果 AAA 是實數域上的方陣,如果有
AAT=ATA(3.5.2)AA^T = A^TA \tag{3.5.2}AAT=ATA(3.5.2)
則稱 AAA 為實正規矩陣。
定理 3.5.1
設 A∈Cn×nA\in \mathbb{C}^{n\times n}A∈Cn×n,則 AAA 酉相似于對角矩陣的充要條件是 AAA 為正規矩陣。
3.5.2 正規矩陣的譜分解
設 AAA 為正規矩陣,由定理 3.5.1 可知,存在酉矩陣 UUU 使得 UHAU=diag(λ1,λ2,?,λn)U^HAU = diag(\lambda_1,\lambda_2,\cdots,\lambda_n)UHAU=diag(λ1?,λ2?,?,λn?),因而
A=Udiag(λ1,λ2,?,λn)UHA = Udiag(\lambda_1,\lambda_2,\cdots,\lambda_n)U^HA=Udiag(λ1?,λ2?,?,λn?)UH
令 U=(α1,α2,?,αn)U = (\alpha_1,\alpha_2,\cdots,\alpha_n)U=(α1?,α2?,?,αn?),則
A=(α1,α2,?,αn)[λ1λ2?λn][α1Hα2H?αnH]=(λ1α1α1H+λ2α2α2H+?+λnαnαnH)(3.5.3)\begin{aligned} A & = (\alpha_1,\alpha_2,\cdots,\alpha_n) \left[\begin{matrix} \lambda_1 & & & \\ & \lambda_2 & & \\ & & \ddots & \\ & & & \lambda_n \\ \end{matrix}\right] \left[\begin{matrix} \alpha_1^H \\ \alpha_2^H \\ \vdots \\ \alpha_n^H \\ \end{matrix}\right] \\ & = (\lambda_1\alpha_1\alpha_1^H + \lambda_2\alpha_2\alpha_2^H + \cdots + \lambda_n\alpha_n\alpha_n^H) \end{aligned}\tag{3.5.3}A?=(α1?,α2?,?,αn?)?????λ1??λ2????λn?????????????α1H?α2H??αnH????????=(λ1?α1?α1H?+λ2?α2?α2H?+?+λn?αn?αnH?)?(3.5.3)
由于 λ1,λ2,?,λn\lambda_1,\lambda_2,\cdots,\lambda_nλ1?,λ2?,?,λn? 為 AAA 的特征值,α1,α2,?,αn\alpha_1,\alpha_2,\cdots,\alpha_nα1?,α2?,?,αn? 為對應的兩兩正交的單位特征向量,故上式稱為正規矩陣 AAA 譜分解或特征(值)分解。
3.5.3 單純矩陣(可相似對角化)的譜分解
左特征向量、右特征向量
右特征向量 xix_ixi? 如下,也是默認常用向量形式:
Axi=λixiAx_i = \lambda_i x_iAxi?=λi?xi?
左特征向量 yiTy_i^TyiT? 如下:
ATyi=λiyi,i=1,2,?,n(3.5.13)A^Ty_i = \lambda_i y_i, \quad i = 1,2,\cdots, n \tag{3.5.13}ATyi?=λi?yi?,i=1,2,?,n(3.5.13)
上式兩端取轉置得
yiTA=λiyiT,i=1,2,?,n(3.5.14)y_i^TA = \lambda_i y_i^T, \quad i = 1,2,\cdots, n \tag{3.5.14}yiT?A=λi?yiT?,i=1,2,?,n(3.5.14)
又見:【數理知識】特征值、特征向量、左特征向量
譜分解
單純矩陣 AAA 的譜分解如下,即 AAA 分解成 nnn 個矩陣 GiG_iGi? 之和的形式,其線性組合系數是 AAA 的譜(所有的特征值)。
A=∑i=1nλiGi(3.5.20)A = \sum_{i=1}^{n} \lambda_i G_i \tag{3.5.20}A=i=1∑n?λi?Gi?(3.5.20)
其中,
Gi=xiyiT(3.5.19)G_i = x_i y_i^T \tag{3.5.19}Gi?=xi?yiT?(3.5.19)
其中,yiTy_i^TyiT? 為 AAA 的左特征向量,xix_ixi? 為 AAA 的右特征向量。
擴展:譜半徑 spectrum radius
在數學中,矩陣或者有界線性算子的譜半徑是指其特征值絕對值集合的上確界,一般若為方陣 AAA 的譜半徑則寫作 ρ(A)\rho(A)ρ(A)
ρ(A)=max?1≤i≤n∣λi∣\rho(A) = \max_{1\le i\le n} |\lambda_i|ρ(A)=1≤i≤nmax?∣λi?∣
擴展:為什么若迭代矩陣的譜半徑小于1,則對任意初始向量都收斂?
首先知道 ρ(B)<1?lim?n→∞Bn=0\rho(B) <1 \Leftrightarrow \lim_{n\rightarrow \infty} B^n = 0ρ(B)<1?n→∞lim?Bn=0
From: 為什么若迭代矩陣的譜半徑小于1,則對任意初始向量都收斂
總結
以上是生活随笔為你收集整理的【数理知识】《矩阵论》方保镕老师-第3章-矩阵的分解的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【数理知识】《矩阵论》方保镕老师-第2章
- 下一篇: 【数理知识】《矩阵论》方保镕老师-第4章