第15講 子空間投影

Projections onto subspaces

網(wǎng)易公開課?open.163.com

• 投影（射影）Projections

投影問題的幾何解釋就是：如何在向量a的方向上尋找與向量b距離最近的一點(diǎn)。從圖中可以看出，這個(gè)距離最近的點(diǎn)p就位于穿過b點(diǎn)并與向量a正交的直線與向量a所在直線的交點(diǎn)上。這就是b在a上的投影。如果我們將向量p視為b的一種近似，則長(zhǎng)度e=b-p就是這一近似的誤差。

因?yàn)閜在向量a的方向上，因此可以令p=xa，而因?yàn)樗蚭正交，我們可以得到方程：

。

解得：x=

，p= 。

如果b變?yōu)樵瓉淼?倍，則p也變?yōu)樵瓉淼?倍。而如果a變?yōu)樵瓉淼?倍，p不發(fā)生變化。從幾何上和計(jì)算中都會(huì)得到驗(yàn)證。

本單元前半部分的核心內(nèi)容就是射影。上一單元我們最核心的內(nèi)容是認(rèn)識(shí)消元法對(duì)于線性方程組的意義，并用矩陣的數(shù)學(xué)語(yǔ)言實(shí)現(xiàn)了消元過程，在那里最核心的策略就是利用矩陣乘法中的行操作來實(shí)現(xiàn)這一過程。這里面臨類似的情況，我們有一個(gè)明確的幾何目標(biāo)，要將向量投影到已知子空間，而這里的策略就是誤差向量和已知子空間正交，即兩者求點(diǎn)積為0。

• 投影矩陣 Projections matrix

我們將投影問題用投影矩陣的方式進(jìn)行描述，即為p=Pb，其中P為投影矩陣。

p=

。則有P 。，其分子 是一個(gè)矩陣，而分母 是一個(gè)數(shù)。

觀察這個(gè)矩陣可知，矩陣P的列空間就是向量a所在的直線，矩陣的秩是1。投影矩陣P是一個(gè)對(duì)稱矩陣。另一方面，如果做兩次投影則有

，這是因?yàn)榈诙瓮队斑€在原來的位置。因此矩陣P有如下性質(zhì)： ， 。

• 為什么要投影 Why Project

如前所述，方程Ax=b有可能無解，我們需要得到方程的“最優(yōu)解”。這里的問題在于向量Ax一定在矩陣A的列空間之內(nèi)，但是b不一定，因此我們希望將b投影到A的列空間得到p，將問題轉(zhuǎn)化為求解

。

• 在高維投影 Projection in higher dimensions

在R3空間內(nèi)，如何將向量b投影到它距離平面最近的一點(diǎn)p？

如果a1和a2構(gòu)成了平面的一組基，則平面就是矩陣A=[a1 a2]的列空間。

已知向量p在平面內(nèi)，則有p=

。而 與投影平面正交（重點(diǎn)），因此e與a1和a2均正交，因此可以得到： 并且 。因?yàn)閍1和a2分別為矩陣A的列向量，即和為矩陣的行向量，所以將兩個(gè)方程式寫成矩陣形式即為。這與一維投影的方程形式相同。

向量

存在于矩陣的零空間N()里，從上一講討論子空間的正交性可知，向量e與矩陣A的列空間正交，這也正是方程的意義。

將方程

改寫，可得。兩側(cè)左乘，得到：

因?yàn)榫仃嘇不是方陣，無法簡(jiǎn)單的用

對(duì)投影矩陣公式進(jìn)行化簡(jiǎn)。若A是可逆方陣，則化簡(jiǎn)得到P=I。此時(shí)A的列空間就是整個(gè)Rn空間，b到這個(gè)空間的投影就是其本身，投影矩陣等于單位陣。

對(duì)

用矩陣乘法的結(jié)合律和矩陣乘積的轉(zhuǎn)置公式，可以證明投影矩陣的性質(zhì)： ， 。

• 最小二乘法 Least Squares

應(yīng)用投影矩陣求方程組最優(yōu)解的方法，最常用于“最小二乘法”擬合曲線。

有三個(gè)數(shù)據(jù)點(diǎn){(1,1), (2,2), (3,2)}，求直線方程b=C+Dt，要求直線盡量接近于三個(gè)點(diǎn)。把三個(gè)點(diǎn)的數(shù)據(jù)代入方程則有：

C+ D=1

C+2D=2

C+3D=2

矩陣形式為

這個(gè)的方程Ax=b是無解的，解決辦法就是求其最優(yōu)解，即方程

的解。

總結(jié)

以上是生活随笔為你收集整理的已知法向量 求投影_MIT—线性代数笔记15 子空间投影的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。