20220312 矩阵许瓦茨不等式
設 A,B\boldsymbol{A}, \boldsymbol{B}A,B 為 m×nm \times nm×n 矩陣, m>n,Bm>n, \boldsymbol{B}m>n,B 的秩為 nnn,稱為矩陣許瓦茨不等式。
證明: 設有兩個 nnn 維向量 λ\boldsymbol{\lambda}λ 和 α\boldsymbol{\alpha}α 如下:
λ=[λ1λ2?λn]T,α=[α1α2?αn]T\boldsymbol{\lambda}=\left[\begin{array}{llll}\lambda_{1} & \lambda_{2} & \cdots & \lambda_{n}\end{array}\right]^{\mathrm{T}}, \quad \boldsymbol{\alpha}=\left[\begin{array}{llll}\alpha_{1} & \alpha_{2} & \cdots & \alpha_{n}\end{array}\right]^{\mathrm{T}}λ=[λ1??λ2????λn??]T,α=[α1??α2????αn??]T考慮下面非負定的標量乘積(Bλ+Aα)T(Bλ+Aα)?0(\boldsymbol{B} \boldsymbol{\lambda}+\boldsymbol{A} \boldsymbol{\alpha})^{\mathrm{T}}(\boldsymbol{B} \boldsymbol{\lambda}+\boldsymbol{A} \boldsymbol{\alpha}) \geqslant 0(Bλ+Aα)T(Bλ+Aα)?0只有 Bλ+Aα=0\boldsymbol{B} \boldsymbol{\lambda}+\boldsymbol{A} \boldsymbol{\alpha}=\mathbf{0}Bλ+Aα=0 時,上式的等號才成立。
展開上式,可得
λTBTBλ+αTATBλ+λTBTAα+αTATAα?0\boldsymbol{\lambda}^{\mathrm{T}} \boldsymbol{B}^{\mathrm{T}} \boldsymbol{B} \boldsymbol{\lambda}+\boldsymbol{\alpha}^{\mathrm{T}} \boldsymbol{A}^{\mathrm{T}} \boldsymbol{B} \boldsymbol{\lambda}+\boldsymbol{\lambda}^{\mathrm{T}} \boldsymbol{B}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{\alpha}+\boldsymbol{\alpha}^{\mathrm{T}} \boldsymbol{A}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{\alpha} \geqslant 0 λTBTBλ+αTATBλ+λTBTAα+αTATAα?0因為假定 B\boldsymbol{B}B 是滿秩的, 所以 (BTB)?1\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1}(BTB)?1 存在, 可將上式寫成
[λ+(BTB)?1BTAα]TBTB[λ+(BTB)?1BTAα]+αT[ATA?(ATB)T(BTB)?1(BTA)]α?0\begin{aligned}{\left[\boldsymbol{\lambda}+\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1} \boldsymbol{B}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{\alpha}\right]^{\mathrm{T}} \boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\left[\boldsymbol{\lambda}+\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1} \boldsymbol{B}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{\alpha}\right]+}\boldsymbol{\alpha}^{\mathrm{T}}\left[\boldsymbol{A}^{\mathrm{T}} \boldsymbol{A}-\left(\boldsymbol{A}^{\mathrm{T}} \boldsymbol{B}\right)^{\mathrm{T}}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{A}\right)\right] \boldsymbol{\alpha} \geqslant 0 \end{aligned} [λ+(BTB)?1BTAα]TBTB[λ+(BTB)?1BTAα]+αT[ATA?(ATB)T(BTB)?1(BTA)]α?0?
上式對于任意 λ\lambdaλ 與 α\boldsymbol{\alpha}α 都成立。選 λ\lambdaλ 為
λ=?(BTB)?1BTAα\boldsymbol{\lambda}=-\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1} \boldsymbol{B}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{\alpha}λ=?(BTB)?1BTAα
則上式變成 αT[ATA?(ATB)T(BTB)?1(BTA)]α?0\quad \boldsymbol{\alpha}^{\mathrm{T}}\left[\boldsymbol{A}^{\mathrm{T}} \boldsymbol{A}-\left(\boldsymbol{A}^{\mathrm{T}} \boldsymbol{B}\right)^{\mathrm{T}}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{A}\right)\right] \boldsymbol{\alpha} \geqslant 0αT[ATA?(ATB)T(BTB)?1(BTA)]α?0因為 α\boldsymbol{\alpha}α 是任意的,只有當 [ATA?(ATB)T(BTB)?1(BTA)]\left[\boldsymbol{A}^{\mathrm{T}} \boldsymbol{A}-\left(\boldsymbol{A}^{\mathrm{T}} \boldsymbol{B}\right)^{\mathrm{T}}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{A}\right)\right][ATA?(ATB)T(BTB)?1(BTA)] 是非負定時,這個二次型才是非負定的, 因此有式
ATA?(ATB)T(BTB)?1(BTA)\boldsymbol{A}^{\mathrm{T}} \boldsymbol{A} \geqslant\left(\boldsymbol{A}^{\mathrm{T}} \boldsymbol{B}\right)^{\mathrm{T}}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{B}\right)^{-1}\left(\boldsymbol{B}^{\mathrm{T}} \boldsymbol{A}\right) ATA?(ATB)T(BTB)?1(BTA)證畢。
總結
以上是生活随笔為你收集整理的20220312 矩阵许瓦茨不等式的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 20220312 矩阵求逆引理
- 下一篇: 20220401 A满秩,B满秩,AB一