矩阵分析与应用(二)——内积与范数
常數(shù)向量的內(nèi)積與范數(shù)
??兩個m×1的向量之間的內(nèi)積(點積)定義為:
??其夾角定義為:
??我們說兩個向量正交,即兩個向量的點積為0,夾角為90度。
常用的向量范數(shù)
- l1范數(shù): ∥x∥1=∑i=1n|xi|
- l2范數(shù): ∥x∥2=∑i=1n|xi|2???????√常稱為Euclidean,有時候也叫Frobenius范數(shù)
- l∞范數(shù): ∥x∥∞=max(|x1|,|x2|,...,|xn|)
- lp范數(shù): ∥x∥2=(∑i=1n|xi|p)1/p
??注意,l∞范數(shù)是lp范數(shù)當p→∞時 的結(jié)果:
?? 范數(shù)的酉不變性:一個向量范數(shù) ∥x∥是酉不變的,如果對于任意的 酉矩陣(正交矩陣在復向量空間的擴展) U,都有∥x∥=∥Ux∥。Euclidean是酉不變范數(shù)。
??兩個 m×1的向量之間的 外積(叉積)定義為:
xyH=??????x1y?1x2y?1...xny?1x1y?2x2y?2xny?2.........x1y?nx2y?nxny?n??????
函數(shù)向量的內(nèi)積與范數(shù)
??若x(t),y(t)分別是向量t的函數(shù),則兩者之間的內(nèi)積定義為:
?x(t),y(t)?=∫baxH(t)y(t)dt
??其夾角定義為:
??其中:
∥x(t)∥=(∫baxH(t)x(t)dt)1/2
隨機向量的內(nèi)積與范數(shù)
??隨機向量是指向量的所有元素都是隨機變量的向量,多與概率論結(jié)合,定義方式與常數(shù)向量和函數(shù)向量有所不同,都是用隨機變量的數(shù)學期望和協(xié)方差來定義。
向量的相似度
??向量之間的相似度有多種不同的度量方式,這里舉例說明:
??對于已知的模板向量s1,s2,...,sn,求解和向量x隨相似的模板向量,這其實是一個分類問題,那么我們有常用的如下4種度量標準:
- 余弦距離:即D(si,x)=cos(θ)=xTsi∥xT∥∥si∥
- Tanimoto測度:余弦距離的變體D(si,x)==xTsixTx+xTsi+sTisi
- 馬氏(Mahalanobis)距離:D(si,x)=mink|D(sk,x)?D(m,x)|m=1N∑i=1NsiD(sk,x)=(sk?x)TC(sk?x)C=1N∑i=1N(si?m)(si?m)T它能度量不同程度之間的關(guān)聯(lián)性,并且是與尺度無關(guān)的,不需要進行每個分量的歸一化
向量范數(shù)用作Lyapunov函數(shù)
??Lyapunov函數(shù)經(jīng)常用來衡量一個系統(tǒng)的穩(wěn)定性,在控制理論中有及其重要的作用。關(guān)于李雅普諾夫函數(shù)在這里不做詳細介紹。一般地,Lyapunov函數(shù)沒有很好地選取方式,但是向量范數(shù)中的l2范數(shù)和l∞范數(shù)往往可以作為其候選函數(shù)。
矩陣范數(shù)
??矩陣范數(shù)是矩陣的一個實值函數(shù)f:Cm?n→C,任何滿足以下性質(zhì)的實值函數(shù)都可以作為矩陣范數(shù):
- 對于任何非零矩陣A≠O,其范數(shù)大于零:∥A∥>0
- 對任意復數(shù)c,有∥cA∥=|c|∥A∥
- 矩陣范數(shù)滿足三角不等式,∥A+B∥≤∥A∥+∥B∥
- 兩個矩陣乘積的范數(shù)小于或等于兩個矩陣范數(shù)的乘積,即∥AB∥≤∥A∥∥B∥
- Frobenius范數(shù):∥A∥F=(∑i∑j|aij|2)1/2可以看做向量的l2范數(shù)在矩陣的擴展,將矩陣按行展開成一個長向量
- lp范數(shù):∥A∥p=maxx≠0∥Ax∥p∥x∥plp范數(shù)可以理解成一個矩陣能將一個向量放大的最大倍數(shù)
- 行和范數(shù):∥A∥row=max1≤i≤m{∑j=1n|aij|}
- 列和范數(shù):∥A∥col=max1≤j≤n{∑i=1m|aij|}
- 譜范數(shù):∥A∥spec=σmax=λmax????√
- Mahalanobis范數(shù):∥A∥Ω=tr(AHΩA)?????????√Ω為正定矩陣
- Cauchy-Schwartz不等式:
|?A,B?|2≤∥A∥2∥B∥2當且僅當A=cB時,等號成立。 - Pathagoras定理:
?A,B?=0?∥A+B∥2=∥A∥2+∥B∥2 - 極化恒等式:
Re(?A,B?)=14(∥A+B∥2?∥A?B∥2)Re(?A,B?)=12(∥A+B∥2?∥A∥2?∥B∥2)Re(?)代表取復數(shù)實部
常用的矩陣函數(shù)
矩陣內(nèi)積和范數(shù)之間的關(guān)系:
總結(jié)
以上是生活随笔為你收集整理的矩阵分析与应用(二)——内积与范数的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: hibernate二级缓存(一)一级缓存
- 下一篇: oracle 存储过程 实例 循环 给查