文章目錄

• • 一、聚類綜述
  • 二、主要用到的聚類算法
  • 三、K-means聚類算法
  • 四、K-means++算法
  • 五、對于K-means算法和K-means算法的討論
  • 六、系統(tǒng)（層次）聚類算法
  • 七、DBSCAN算法
  • 八、總結(jié)

一、聚類綜述

聚類的主要目的就是將樣本劃分為由類似的對象組成的多個類的過程。進(jìn)行聚類后，我們可以在每個類中使用統(tǒng)計模型進(jìn)行數(shù)據(jù)分析或者在不同類之間進(jìn)行相關(guān)性探究。

聚類模型和分類模型的區(qū)別：

聚類模型是未知類別的，目的是要確定類別來對樣本數(shù)據(jù)進(jìn)行分類；

分類模型的類別是已知的，只需將嚴(yán)格樣本數(shù)據(jù)分類到對應(yīng)的類別中即可。

二、主要用到的聚類算法

K-means聚類算法

K-means++聚類算法

系統(tǒng)（層次）聚類算法

DBSCAN算法

三、K-means聚類算法

算法步驟：

指定需要劃分的 $K$ 個簇（即要劃分成的類的個數(shù)）

隨機(jī)選取 $K$ 個數(shù)據(jù)對象作為初始的聚類中心**（注意：這里選取的聚類中心不一定是樣本點）**

計算其余的各個數(shù)據(jù)對象到這 $K$ 個初始聚類中心的距離，把數(shù)據(jù)對象劃歸到距離它最近的那個中心所在的簇中。

調(diào)整新類并且重新計算出新類的中心**（確定新類的中心的方法類似于求重心）**

重復(fù)三、四步，直到中心不再需要調(diào)整。若不再需要調(diào)整或者達(dá)到最大迭代次數(shù)則停止。

如下面的流程圖：

K-means算法的優(yōu)點：
（1）算法簡單便捷；
（2）對于大數(shù)據(jù)集，該算法效率較高；
K-mean算法的缺點：
（1）必須實現(xiàn)給出需要分得的類的數(shù)目 $K$；
（2）對初始值非常敏感（初始分類中心不同，其分得的類也不同）；
（3）對于孤立點的數(shù)據(jù)比較敏感；

因此，衍生出了K-means++算法來解決K-means算法帶來的問題。

四、K-means++算法

算法步驟：（對聚類中心的選擇進(jìn)行了優(yōu)化）
（1）隨機(jī)選取一個樣本作為第一個聚類中心；
（2）計算每個樣本與最近的一個聚類中心的距離，這個值越大，表示被選取作為聚類中心的概率越大；最后，用輪盤法選取下一個聚類中心。
（3）重復(fù)第二步，直到選出 $K$ 個聚類中心。
這些過程可以直接在SPSS中實現(xiàn)，并且SPSS使用的是K-means++算法。

五、對于K-means算法和K-means算法的討論

（1）確定 $K$ 的值
聚類的目的就是將樣本數(shù)據(jù)分為 $K$ 個可以解釋其意義的類。因此最好的方法就是去幾個不同的 $K$ 值，選取其中最好解釋的那個 $K$ 值即可。
（2）量綱對于聚類的影響
為了排除量綱對于聚類的影響，可以首先進(jìn)行去量綱處理（標(biāo)準(zhǔn)化）。標(biāo)準(zhǔn)化公式：$$z_i=\frac{x_i?\bar{x}}{{\sigma }_x}$$ 其中，$\bar{x}$ 是樣本的均值，${\sigma }_x$ 是樣本的標(biāo)準(zhǔn)差。

六、系統(tǒng)（層次）聚類算法

算法核心
計算兩類數(shù)據(jù)點之間的距離，對最為接近的兩類數(shù)據(jù)進(jìn)行合并，反復(fù)進(jìn)行直到合成一類，最終生成聚類系譜圖。

算法步驟：

將每個對象單獨(dú)看作一類，計算兩兩之間的最小距離；

將距離最小的兩個類合并成一類新類；

重新計算這個新類與所有類之間的距離；

重復(fù)第二步和第三步，直到所有類合并成一類；

算法流程圖如下：
3. 解決問題
可以在SPSS中調(diào)用命令，可得結(jié)果為：

由圖可得，具體的聚類個數(shù)可以從圖中決定。

七、DBSCAN算法

算法簡要敘述：

指定半徑 $Eps$ 和 最小包圍的點的數(shù)目 $MinPts$；

指定初始點 $A$，以 $A$ 為圓心，$Eps$ 為半徑作圓，在該圓內(nèi)有不少于 $MinPts$ 個點，則具有這樣的特征的點是一個類；（注意：若有點在 $A$ 圓內(nèi)，但是以這個點作的圓不包圍 $MinPts$ 個點，它是不屬于 $A$ 類的哦~~~）

可以參考這個圖：

DBSCAN算法實現(xiàn)
DBSCAN算法可以由Matlab實現(xiàn)，可以去官網(wǎng)下載：https://ww2.mathworks.cn/matlabcentral/fileexchange/52905‐dbscan‐clustering‐algorithm

八、總結(jié)

確定指標(biāo)數(shù)量；

做出散點圖判斷可以使用哪種算法；
建議：
（1）如果只有兩個指標(biāo)，而且這兩個指標(biāo)作出的散點圖很有形狀，那么可以使用DBSCAN進(jìn)行聚類
（2）其他情況建議系統(tǒng)聚類（K-means算法可寫的東西太少）

根據(jù)算法進(jìn)行聚類；

對得出的結(jié)果進(jìn)行解釋（一定要選取適當(dāng)?shù)谋阌诮忉尩?$K$ 值哦~~~）

如果有什么錯誤，請一定告訴我哈~~~

總結(jié)

以上是生活随笔為你收集整理的数学建模学习笔记（九）——聚类模型的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。