怎么用spss做冗余分析_【攻略】手把手教你怎么用SPSS做统计分析
使用SPSS軟件進(jìn)行數(shù)據(jù)分析
一個(gè)嚴(yán)謹(jǐn)?shù)膶?shí)驗(yàn),在獲得實(shí)驗(yàn)數(shù)據(jù)的那一刻,數(shù)據(jù)的處理與分析,就顯得尤為重要,今天先聊聊主成分分析,以城市分析為例子,大家延伸思考吧,文檔已通過(guò)論證。想跟師兄交流實(shí)驗(yàn)數(shù)據(jù)問(wèn)題,加我微信:laiwenshixiong,申請(qǐng)時(shí),記得填寫申請(qǐng)理由,格式為:真實(shí)姓名+所學(xué)專業(yè)+學(xué)校或單位,例如:高鵬+生化專業(yè)+浙江大學(xué)。
切入正題:
主成分分析
【例子】以全國(guó)31個(gè)省市的8項(xiàng)經(jīng)濟(jì)指標(biāo)為例,進(jìn)行主成分分析。
第一步:錄入或調(diào)入數(shù)據(jù)(圖1)。
第二步:打開(kāi)“因子分析”對(duì)話框。
沿著主菜單的“Analyze→Data Reduction→Factor”的路徑(圖2)打開(kāi)因子分析選項(xiàng)框(圖3)。
圖2 打開(kāi)因子分析對(duì)話框的路徑
圖3 因子分析選項(xiàng)框
第三步:選項(xiàng)設(shè)置。
首先,在源變量框中選中需要進(jìn)行分析的變量,點(diǎn)擊右邊的箭頭符號(hào),將需要的變量調(diào)入變量(Variables)欄中(圖3)。在本例中,全部8個(gè)變量都要用上,故全部調(diào)入(圖4)。因無(wú)特殊需要,故不必理會(huì)“Value”欄。下面逐項(xiàng)設(shè)置。
圖4 將變量移到變量欄以后
⒈ 設(shè)置Descriptives選項(xiàng)。
單擊Descriptives按鈕(圖4),彈出Descriptives對(duì)話框(圖5)。
圖5 描述選項(xiàng)框
在Statistics欄中選中Univariate descriptives復(fù)選項(xiàng),則輸出結(jié)果中將會(huì)給出原始數(shù)據(jù)的抽樣均值、方差和樣本數(shù)目(這一欄結(jié)果可供檢驗(yàn)參考);選中Initial solution復(fù)選項(xiàng),則會(huì)給出主成分載荷的公因子方差(這一欄數(shù)據(jù)分析時(shí)有用)。
在Correlation Matrix欄中,選中Coefficients復(fù)選項(xiàng),則會(huì)給出原始變量的相關(guān)系數(shù)矩陣(分析時(shí)可參考);選中Determinant復(fù)選項(xiàng),則會(huì)給出相關(guān)系數(shù)矩陣的行列式,如果希望在Excel中對(duì)某些計(jì)算過(guò)程進(jìn)行了解,可選此項(xiàng),否則用途不大。其它復(fù)選項(xiàng)一般不用,但在特殊情況下可以用到(本例不選)。
設(shè)置完成以后,單擊Continue按鈕完成設(shè)置(圖5)。
⒉ 設(shè)置Extraction選項(xiàng)。
打開(kāi)Extraction對(duì)話框(圖6)。因子提取方法主要有7種,在Method欄中可以看到,系統(tǒng)默認(rèn)的提取方法是主成分(Principal components),因此對(duì)此欄不作變動(dòng),就是認(rèn)可了主成分分析方法。
在Analyze欄中,選中Correlation matirx復(fù)選項(xiàng),則因子分析基于數(shù)據(jù)的相關(guān)系數(shù)矩陣進(jìn)行分析;如果選中Covariance matrix復(fù)選項(xiàng),則因子分析基于數(shù)據(jù)的協(xié)方差矩陣進(jìn)行分析。對(duì)于主成分分析而言,由于數(shù)據(jù)標(biāo)準(zhǔn)化了,這兩個(gè)結(jié)果沒(méi)有分別,因此任選其一即可。
在Display欄中,選中Unrotated factor solution(非旋轉(zhuǎn)因子解)復(fù)選項(xiàng),則在分析結(jié)果中給出未經(jīng)旋轉(zhuǎn)的因子提取結(jié)果。對(duì)于主成分分析而言,這一項(xiàng)選擇與否都一樣;對(duì)于旋轉(zhuǎn)因子分析,選擇此項(xiàng),可將旋轉(zhuǎn)前后的結(jié)果同時(shí)給出,以便對(duì)比。
選中Scree Plot(“山麓”圖),則在分析結(jié)果中給出特征根按大小分布的折線圖(形如山麓截面,故得名),以便我們直觀地判定因子的提取數(shù)量是否準(zhǔn)確。
在Extract欄中,有兩種方法可以決定提取主成分(因子)的數(shù)目。一是根據(jù)特征根(Eigenvalues)的數(shù)值,系統(tǒng)默認(rèn)的是。我們知道,在主成分分析中,主成分得分的方差就是對(duì)應(yīng)的特征根數(shù)值。如果默認(rèn),則所有方差大于等于1的主成分將被保留,其余舍棄。如果覺(jué)得最后選取的主成分?jǐn)?shù)量不足,可以將值降低,例如取;如果認(rèn)為最后的提取的主成分?jǐn)?shù)量偏多,則可以提高值,例如取。主成分?jǐn)?shù)目是否合適,要在進(jìn)行一輪分析以后才能肯定。因此,特征根數(shù)值的設(shè)定,要在反復(fù)試驗(yàn)以后才能決定。一般而言,在初次分析時(shí),最好降低特征根的臨界值(如取) ,這樣提取的主成分將會(huì)偏多,根據(jù)初次分析的結(jié)果,在第二輪分析過(guò)程中可以調(diào)整特征根的大小。
第二種方法是直接指定主成分的數(shù)目即因子數(shù)目,這要選中Number of factors復(fù)選項(xiàng)。主成分的數(shù)目選多少合適?開(kāi)始我們并不十分清楚。因此,首次不妨將數(shù)值設(shè)大一些,但不能超過(guò)變量數(shù)目。本例有8個(gè)變量,因此,最大的主成分提取數(shù)目為8,不得超過(guò)此數(shù)。在我們第一輪分析中,采用系統(tǒng)默認(rèn)的方法提取主成分。
圖6 提取對(duì)話框
需要注意的是:主成分計(jì)算是利用迭代(Iterations)方法,系統(tǒng)默認(rèn)的迭代次數(shù)是25次。但是,當(dāng)數(shù)據(jù)量較大時(shí),25次迭代是不夠的,需要改為50次、100次乃至更多。對(duì)于本例而言,變量較少,25次迭代足夠,故無(wú)需改動(dòng)。
設(shè)置完成以后,單擊Continue按鈕完成設(shè)置(圖6)。
⒊ 設(shè)置Scores設(shè)置。
選中Save as variables欄,則分析結(jié)果中給出標(biāo)準(zhǔn)化的主成分得分(在數(shù)據(jù)表的后面)。至于方法復(fù)選項(xiàng),對(duì)主成分分析而言,三種方法沒(méi)有分別,采用系統(tǒng)默認(rèn)的“回歸”(Regression)法即可。
圖7 因子得分對(duì)話框
選中Display factor score coefficient matrix,則在分析結(jié)果中給出因子得分系數(shù)矩陣及其相關(guān)矩陣。
設(shè)置完成以后,單擊Continue按鈕完成設(shè)置(圖7)。
⒋ 其它。
對(duì)于主成分分析而言,旋轉(zhuǎn)項(xiàng)(Rotation)可以不必設(shè)置;對(duì)于數(shù)據(jù)沒(méi)有缺失的情況下,Option項(xiàng)可以不必理會(huì)。
全部設(shè)置完成以后,點(diǎn)擊OK確定,SPSS很快給出計(jì)算結(jié)果(圖8)。
圖8 主成分分析的結(jié)果
第四步,結(jié)果解讀。
在因子分析結(jié)果(Output)中,首先給出的Descriptive Statistics,第一列Mean對(duì)應(yīng)的變量的算術(shù)平均值,計(jì)算公式為
第二列Std. Deviation對(duì)應(yīng)的是樣本標(biāo)準(zhǔn)差,計(jì)算公式為
第三列Analysis N對(duì)應(yīng)是樣本數(shù)目。這一組數(shù)據(jù)在分析過(guò)程中可作參考。
接下來(lái)是Correlation Matrix(相關(guān)系數(shù)矩陣),一般而言,相關(guān)系數(shù)高的變量,大多會(huì)進(jìn)入同一個(gè)主成分,但不盡然,除了相關(guān)系數(shù)外,決定變量在主成分中分布地位的因素還有數(shù)據(jù)的結(jié)構(gòu)。相關(guān)系數(shù)矩陣對(duì)主成分分析具有參考價(jià)值,畢竟主成分分析是從計(jì)算相關(guān)系數(shù)矩陣的特征根開(kāi)始的。相關(guān)系數(shù)陣下面的Determinant=1.133E-0.4是相關(guān)矩陣的行列式值,根據(jù)關(guān)系式可知,det(λI)=det(R),從而Determinant=1.133E-0.4=λ1*λ2*λ3*λ4*λ5*λ6*λ7*λ8。這一點(diǎn)在后面將會(huì)得到驗(yàn)證。
在Communalities(公因子方差)中,給出了因子載荷陣的初始公因子方差(Initial)和提取公因子方差(Extraction),后面將會(huì)看到它們的含義。
在Total Variance Explained(全部解釋方差) 表的Initial Eigenvalues(初始特征根)中,給出了按順序排列的主成分得分的方差(Total),在數(shù)值上等于相關(guān)系數(shù)矩陣的各個(gè)特征根λ,因此可以直接根據(jù)特征根計(jì)算每一個(gè)主成分的方差百分比(% of Variance)。由于全部特征根的總和等于變量數(shù)目,即有m=∑λi=8,故第一個(gè)特征根的方差百分比為λ1/m=3.755/8=46.939,第二個(gè)特征根的百分比為λ2/m=2.197/8= 27.459,……,其余依此類推。然后可以算出方差累計(jì)值(Cumulative %)。在Extraction Sums of Squared Loadings,給出了從左邊欄目中提取的三個(gè)主成分及有關(guān)參數(shù),提取的原則是滿足λ>1,這一點(diǎn)我們?cè)趫D6所示的對(duì)話框中進(jìn)行了限定。
圖8 特征根數(shù)值衰減折線圖(山麓圖)
主成分的數(shù)目可以根據(jù)相關(guān)系數(shù)矩陣的特征根來(lái)判定,如前所說(shuō),相關(guān)系數(shù)矩陣的特征根剛好等于主成分的方差,而方差是變量數(shù)據(jù)蘊(yùn)涵信息的重要判據(jù)之一。根據(jù)λ值決定主成分?jǐn)?shù)目的準(zhǔn)則有三:
i 只取λ>1的特征根對(duì)應(yīng)的主成分
從Total Variance Explained表中可見(jiàn),第一、第二和第三個(gè)主成分對(duì)應(yīng)的λ值都大于1,這意味著這三個(gè)主成分得分的方差都大于1。本例正是根據(jù)這條準(zhǔn)則提取主成分的。
ii 累計(jì)百分比達(dá)到80%~85%以上的λ值對(duì)應(yīng)的主成分在Total Variance Explained表可以看出,前三個(gè)主成分對(duì)應(yīng)的λ值累計(jì)百分比達(dá)到89.584%,這暗示只要選取三個(gè)主成分,信息量就夠了。
iii 根據(jù)特征根變化的突變點(diǎn)決定主成分的數(shù)量
從特征根分布的折線圖(Scree Plot)上可以看到,第4個(gè)λ值是一個(gè)明顯的折點(diǎn),這暗示選取的主成分?jǐn)?shù)目應(yīng)有p≤4(圖8)。那么,究竟是3個(gè)還是4個(gè)呢?根據(jù)前面兩條準(zhǔn)則,選3個(gè)大致合適(但小有問(wèn)題)。
在Component Matrix(成分矩陣)中,給出了主成分載荷矩陣,每一列載荷值都顯示了各個(gè)變量與有關(guān)主成分的相關(guān)系數(shù)。以第一列為例,0.885實(shí)際上是國(guó)內(nèi)生產(chǎn)總值(GDP)與第一個(gè)主成分的相關(guān)系數(shù)。將標(biāo)準(zhǔn)化的GDP數(shù)據(jù)與第一主成分得分進(jìn)行回歸,決定系數(shù)R2=0.783(圖9),容易算出R=0.885,這正是GDP在第一個(gè)主成分上的載荷。
下面將主成分載荷矩陣拷貝到Excel上面作進(jìn)一步的處理:計(jì)算公因子方差和方差貢獻(xiàn)。首先求行平方和,例如,第一行的平方和為
這是公因子方差。然后求列平方和,例如,第一列的平方和為
這便是方差貢獻(xiàn)(圖10)。在Excel中有一個(gè)計(jì)算平方和的命令sumsq,可以方便地算出一組數(shù)據(jù)的平方和。顯然,列平方和即方差貢獻(xiàn)。事實(shí)上,有如下關(guān)系成立:
相關(guān)系數(shù)矩陣的特征根=方差貢獻(xiàn)=主成分得分的方差
至于行平方和,顯然與前面公因子方差(Communalities)表中的Extraction列對(duì)應(yīng)的數(shù)據(jù)一樣。如果我們將8個(gè)主成分全部提取,則主成分載荷的行平方和都等于1(圖11),即有hi=1,sj=λj。到此可以明白:在Communalities中,Initial對(duì)應(yīng)的是初始公因子方差,實(shí)際上是全部主成分的公因子方差;Extraction對(duì)應(yīng)的是提取的主成分的公因子方差,我們提取了3個(gè)主成分,故計(jì)算公因子方差時(shí)只考慮3個(gè)主成分。
圖9 國(guó)內(nèi)生產(chǎn)總值(GDP)的與第一主成分的相關(guān)關(guān)系(標(biāo)準(zhǔn)化數(shù)據(jù))
圖10 主成分方差與方差貢獻(xiàn)
圖11 全部主成分的公因子方差和方差貢獻(xiàn)
提取主成分的原則上要求公因子方差的各個(gè)數(shù)值盡可能接近,亦即要求它們的方差極小,當(dāng)公因子方差完全相等時(shí),它們的方差為0,這就達(dá)到完美狀態(tài)。實(shí)際應(yīng)用中,只要公因子方差數(shù)值彼此接近(不相差太遠(yuǎn))就行了。從上面給出的結(jié)果可以看出:提取3個(gè)主成分的時(shí)候,居民消費(fèi)的公因子方差偏小,這暗示提取3個(gè)主成分,居民消費(fèi)方面的信息可能有較多的損失。至于方差貢獻(xiàn),反映對(duì)應(yīng)主成分的重要程度,這一點(diǎn)從方差的統(tǒng)計(jì)學(xué)意義可以得到理解。
在圖11中,將最后一行的特征根全部乘到一起,得0.0001133,這正是相關(guān)系數(shù)矩陣的行列式數(shù)值(在Excel中,求一組數(shù)據(jù)的乘積之和的命令是product)。
最后說(shuō)明Component Score Coefficient Matrix(成分得分系數(shù)矩陣)和Component Score Covariance Matrix(成分得分協(xié)方差矩陣),前者是主成分得分系數(shù),后者是主成分得分的協(xié)方差即相關(guān)系數(shù)。從Component Score Covariance Matrix可以看出,標(biāo)準(zhǔn)化主成分得分之間的協(xié)方差即相關(guān)系數(shù)為0(j≠k)或1(j=k),這意味著主成分之間彼此正交即垂直。
初學(xué)者常將Component Score Coefficient Matrix表中的數(shù)據(jù)當(dāng)成主成分得分或因子得分,這是誤會(huì)。成分得分系數(shù)矩陣的數(shù)值是主成分載荷除以相應(yīng)的特征根得到的結(jié)果。在Component Matrix表中,將第一列數(shù)據(jù)分別除以λ1=3.755,第二列數(shù)值分別除以λ2=2.197,…,立即得到Component Score Coefficient;反過(guò)來(lái),如果將Component Score Coefficient Matrix表中的各列數(shù)據(jù)分別乘以λ1=3.755,λ2=2.197,…,則可將其還原為主成分載荷即Component Matrix中的數(shù)據(jù)。
實(shí)際上,主成分得分在原始數(shù)據(jù)所在的SPSS當(dāng)前數(shù)據(jù)欄中給出,不過(guò)給出的都是標(biāo)準(zhǔn)化的主成分得分(圖12a);將各個(gè)主成分乘以相應(yīng)的√λ即特征根的二次方根可以將其還原為未經(jīng)標(biāo)準(zhǔn)化的主成分得分。
a.標(biāo)準(zhǔn)化的主成分得分 b. 非標(biāo)準(zhǔn)化的主成分得分圖12 兩種主成分得分
計(jì)算標(biāo)準(zhǔn)化主成分得分的協(xié)方差或相關(guān)系數(shù),結(jié)果與Component Score Covariance Matrix表中的給出的結(jié)果一致(見(jiàn)圖13)。
第一因子第二因子第三因子
第一因子1
第二因子0.00000 1
第三因子0.00000 0.00000 1
圖13 主成分(得分)之間的相關(guān)系數(shù)矩陣
第五步,計(jì)算結(jié)果分析。
從Component Matrix即主成分載荷表中可以看出,國(guó)內(nèi)生產(chǎn)總值、固定資產(chǎn)投資和工業(yè)產(chǎn)值在第一主成分上載荷較大,亦即與第一主成分的相關(guān)系數(shù)較高;職工工資和貨物周轉(zhuǎn)量在第二主成分上的載荷絕對(duì)值較大,即負(fù)相關(guān)程度較高;消費(fèi)價(jià)格指數(shù)在第三主成分上的載荷較大,即相關(guān)程度較高。
因此可將主成分命名如下:
第一主成分:投入-產(chǎn)出主成分;
第二主成分:工資-物流主成分;
第三主成分:消費(fèi)價(jià)格主成分。
問(wèn)題在于:一方面,居民消費(fèi)和商品零售價(jià)格指數(shù)的歸類比較含混;另一方面,主成分的命名結(jié)構(gòu)不清。因此,有必要作進(jìn)一步的因子分析。
至于因子旋轉(zhuǎn)之類,留待“因子分析”部分說(shuō)明;計(jì)算結(jié)果的系統(tǒng)分析不屬于軟件操作范圍,預(yù)備課堂講解。
【說(shuō)明】本人計(jì)算機(jī)是雙系統(tǒng),現(xiàn)在常用的WinMe系統(tǒng)出了毛病,SPSS10.0在WinMe系統(tǒng)中;故這次改用本人Win2000系統(tǒng)中的SPSS11.0。對(duì)于因子分析之類,SPSS11.0與SPSS10.0基本沒(méi)有什么差別。
想了解更多有用的、有意思的前沿資訊以及酷炫的實(shí)驗(yàn)方法的你,都可以成為師兄的好伙伴
師兄微信號(hào):laiwenshixiong
總結(jié)
以上是生活随笔為你收集整理的怎么用spss做冗余分析_【攻略】手把手教你怎么用SPSS做统计分析的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 嵌入式接口之GPIO驱动LED的实验(附
- 下一篇: Java 正则表达式的用法与实例