簡單分類器的MATLAB實現.doc

簡單分類器的MATLAB實現 摘要：本實驗運用最小距離法、Fisher線形判別法、樸素貝葉斯法、K近鄰法四種模式識別中最簡單的方法處理兩維兩類別的識別問題，最后對實驗結果進行了比較。關鍵字：MATLAB 最小距離 Fisher線形判別 樸素貝葉斯 K近鄰法Matlab語言簡介 Matlab 語言 (即 Matrix 和 Laboratory) 的前三位字母組合 ,意為“矩陣實驗室”,Matlab 語言是一種具有面向對象程序設計特征的高級語言,以矩陣和陣列為基本編程單位。Matlab 可以被高度“向量化”,而且用戶易寫易讀。傳統的高級語言開發程序不僅僅需要掌握所用語言的語法,還需要對有關算法進行深入的分析。與其他高級程序設計語言相比 ,Matlab 在編程的效率、可讀性以及可移植性等方面都要高于其他高級語言,但是執行效率要低于高級語言 ,對計算機系統的要求比較高。例如,某數據集是m*n的二維數據組，對一般的高級計算機語言來說，必須采用兩層循環才能得到結果,不但循環費時費力 ,而且程序復雜;而用 Matlab 處理這樣的問題就快得多,只需要一小段程序就可完成該功能,雖然指令簡單 ,但其計算的快速性、準確性和穩定性是一般高級語言程序所遠遠不及的。嚴格地說 ,Matlab 語言所開發的程序不能脫離其解釋性執行環境而運行。樣本預處理實驗樣本來源于1996年UCI的Abalone data，原始樣本格式如下：1 2 3 4 5 6 7 8 9其中第一行是屬性代碼：1.sex 2.length 3.diameter 4.height 5.whole_weight 6.shucked_weight 7 .viscera weight 8. shell weight 9.age原始樣本是一個8維20類的樣本集，就是根據Abalone的第一至第八個特征來預測第九個特征，即Abalone的年齡。為簡單其見，首先將原始樣本處理成兩維兩類別問題的樣本。選取length和weiht作為兩個特征向量，來預測第三個特征向量age.(age=6或者age=9)，我們將age=6的樣本做為第一類，age=12的樣本做為第二類。處理后的樣本：length weight age實驗過程1.最小距離法最小距離法是事先從給定的訓練集中為每一個類別生成一個代表該類的中心向量，計算新向量與每個類別中心向量的距離，距離最小的類別即新向量的類別。兩類別的分界面就是就是兩類別中心向量終點連線的中垂線。圖１分界面方程可以由下式求出：(m1-m2)［x1,x2］＇－(m1-m2)(m1+(m2-m1)/2)＇＝０其中：m1為第一類訓練樣本的均值，m2為第二類樣本的均值．2．Fisher判別法最小距離判別法對于離散度相等的線性可分問題分類效果是令人滿意的，但是根據本實驗樣本而言，由上圖可見第一類與第二類的離散度并不相等，而Fisher線性判別法較好的解決的這一問題．Fisher判別法希望類內離散度與類間離散度的比值越小越好，然后根據最小的比值將兩維空間影射的一維空間．影射方向可由以下matlab程序求出m1=mean(newtrain6)m2=mean(newtrain12)％求兩類的均值s1=cov(newtrain6)s2=cov(newtrain12)％求兩類的協方差s=s1+s2w=(inv(s))*(m1-m2)'％求影射方向圖２素貝葉斯法樸素貝葉斯算法以貝葉斯定理為理論基礎，是一種在已知先驗概率與類條件概率情況下的模式識別方法，其基本思想是：一個向量屬于某個類別的概率，等于詞屬于該類別概率的綜合表達式。之所以稱其為“樸素”，是因為它的條件獨立性假設，即個向量在給定類別下的條件概率分布是相互獨立的。設訓練樣本集為m類，記作C={c1,c2,…cm}，每類的先驗概率P(ci)=ci類樣本數/總樣本數，i=1,2,……,m，對于新樣本x，其屬于ci的條件概率為P(x|ci),根據貝葉斯定理，ci的后驗概率為P(ci|x)為： (2-1)如果 i=1,2,……，m，則 (2-2)上式為最大后驗概率判別準則。將式子2-1代入2-2中，則有：如果 i=1,2,……，m，則 (2-3)特殊情況下，若，可以采用最大似然判別準則：如果 j=1,2,……，m，則 (2-4)對本實驗而言我們假設先驗概率相等即P(c1)= P(c2)，現在主要問題就轉化為求類條件概率密度問題，我們假設類條件概率密度服從正態分布，采用最大似然估計法估計參數。用最大似然估計發求參數的matla

總結

以上是生活随笔為你收集整理的matlab分类器设计,简单分类器的MATLAB实现.doc的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。