服從均勻分布的獨(dú)立成分sl和s2的聯(lián)合分布．其中橫坐標(biāo)表示s1，縱坐標(biāo)表示s2

為了進(jìn)一步解釋ICA的統(tǒng)計(jì)模型，考慮服從下列均勻密度分布的兩個(gè)互相獨(dú)立的隨機(jī)變量：

這個(gè)聯(lián)合分布是在一個(gè)方形上均勻分布的，其中樣本點(diǎn)是從這個(gè)分布隨機(jī)取樣得到的。

現(xiàn)在如果用混合矩陣：
將源信號(hào)s1和s2混合，就得到混合信號(hào)xI和x2，他們的聯(lián)合分布見(jiàn)下圖．從上圖可以看出隨機(jī)變量s1和s2是相互獨(dú)立的，因?yàn)槿绻o定s1的任何一個(gè)值，我們不能斷定s2的任何信息，而將兩個(gè)隨機(jī)變量sl和s2混合后得到混合變量x1和22，則x1和x2之間就不是獨(dú)立的了，因?yàn)楫?dāng)給定xl的取值后就可能得到zx2的信息，比如在下圖的四個(gè)角處，x1和x2的關(guān)系就是已經(jīng)確定了。
觀測(cè)混合信號(hào)。x1和x2的聯(lián)合分布．其中橫坐標(biāo)表示x1，縱坐標(biāo)表示x2。
估計(jì)ICA數(shù)據(jù)模型的問(wèn)題現(xiàn)在成為僅利用混合x1和x2的信息來(lái)估計(jì)混合矩陣A．實(shí)際上，我們可以通過(guò)觀察上圖來(lái)直觀的估計(jì)矩陣A：平行四邊形的邊的方向就是混合矩陣A的列所指的方向．這樣獨(dú)立成分分析的解可以通過(guò)確定混合方向來(lái)得到，但在標(biāo)準(zhǔn)的ICA中這樣的計(jì)算是較為復(fù)雜的，我們可以尋找更為方便，計(jì)算簡(jiǎn)單的算法，這里只
給出ICA的直觀解釋．對(duì)于復(fù)雜的情況，特別是稀疏超完各問(wèn)題，我們可以通過(guò)一些這樣的幾何解釋來(lái)幫助問(wèn)題的解決。

參考文獻(xiàn)：史振威. (2005).?獨(dú)立成分分析的若干算法及其應(yīng)用研究. (Doctoral dissertation, 大連理工大學(xué)).

總結(jié)

以上是生活随笔為你收集整理的独立成分分析ICA系列3:直观解释与理解的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。