文章目錄

• 一、 K-Means 聚類算法流程
• 二、 二維數(shù)據(jù)的 K-Means 聚類
• • 1、 第一次迭代
  • 2、 第二次迭代

參考博客 :

• 【數(shù)據(jù)挖掘】聚類算法 簡介 ( 基于劃分的聚類方法 | 基于層次的聚類方法 | 基于密度的聚類方法 | 基于方格的聚類方法 | 基于模型的聚類方法 )
• 【數(shù)據(jù)挖掘】基于劃分的聚類方法 ( K-Means 算法簡介 | K-Means 算法步驟 | K-Means 圖示 )
• 【數(shù)據(jù)挖掘】K-Means 一維數(shù)據(jù)聚類分析示例
• 【數(shù)據(jù)挖掘】K-Means 二維數(shù)據(jù)聚類分析 ( K-Means 迭代總結(jié) | K-Means 初始中心點(diǎn)選擇方案 | K-Means 算法優(yōu)缺點(diǎn) | K-Means 算法變種 )

一、 K-Means 聚類算法流程

---

K-Means 算法 步驟 : 給定數(shù)據(jù)集 $\mathrm{X}$ , 該數(shù)據(jù)集有 $\mathrm{n}$ 個(gè)樣本 , 將其分成 $\mathrm{K}$ 個(gè)聚類 ;

① 中心點(diǎn)初始化 : 為 $\mathrm{K}$ 個(gè)聚類分組選擇初始的中心點(diǎn) , 這些中心點(diǎn)稱為 Means ; 可以依據(jù)經(jīng)驗(yàn) , 也可以隨意選擇 ;

② 計(jì)算距離 : 計(jì)算 $\mathrm{n}$ 個(gè)對象與 $\mathrm{K}$ 個(gè)中心點(diǎn) 的距離 ; ( 共計(jì)算 $\mathrm{n}\times \mathrm{K}$ 次 )

③ 聚類分組 : 每個(gè)對象與 $\mathrm{K}$ 個(gè)中心點(diǎn)的值已計(jì)算出 , 將每個(gè)對象分配給距離其最近的中心點(diǎn)對應(yīng)的聚類 ;

④ 計(jì)算中心點(diǎn) : 根據(jù)聚類分組中的樣本 , 計(jì)算每個(gè)聚類的中心點(diǎn) ;

⑤ 迭代直至收斂 : 迭代執(zhí)行 ② ③ ④ 步驟 , 直到 聚類算法收斂 , 即 中心點(diǎn) 和 分組 經(jīng)過多少次迭代都不再改變 , 也就是本次計(jì)算的中心點(diǎn)與上一次的中心點(diǎn)一樣 ;

給定 一組樣本 , 和 一組中心點(diǎn) , 計(jì)算 所有樣本 到 所有中心點(diǎn) 的距離 , 給樣本 分組 , 計(jì)算分好組的樣本的中心點(diǎn) , 重新計(jì)算所有樣本到所有中心點(diǎn)的距離 , 繼續(xù)進(jìn)行分組 , 一直迭代執(zhí)行上述操作 , 直到連續(xù)兩次樣本分組不再變化 ;

二、 二維數(shù)據(jù)的 K-Means 聚類

---

給定數(shù)據(jù)集 $\{{\mathrm{A}}_1(2,4),{\mathrm{A}}_2(3,7),{\mathrm{B}}_1(5,8),{\mathrm{B}}_2(9,5),{\mathrm{C}}_1(6,2),{\mathrm{C}}_2(4,9)\}$ , 初始中心點(diǎn) $\{{\mathrm{A}}_1(2,4),{\mathrm{B}}_1(5,8),{\mathrm{C}}_1(6,2)\}$ , 使用 K-Means 算法對數(shù)據(jù)集進(jìn)行聚類分析 ;

曼哈頓距離計(jì)算方式 : 以計(jì)算 ${\mathrm{A}}_1(2,4)$ 與 ${\mathrm{B}}_1(5,8)$ 的距離為例 ;

$\mathrm{d}({\mathrm{A}}_1,{\mathrm{B}}_1)=|2?5|+|4?8|=7$

1、 第一次迭代

第一次迭代 : 計(jì)算每個(gè)樣本值與每個(gè)中心點(diǎn)的距離 , 將樣本分類到最近的中心點(diǎn)所在的分組 , 計(jì)算每個(gè)分組新的中心值 ;

$A_1(2,4)$$A_2(3,7)$$B_1(5,8)$$B_2(9,5)$$C_1(6,2)$$C_2(4,9)$

$A_1(2,4)$	$0$	$4$	$7$	$8$	$6$	$7$
$B_1(5,8)$	$7$	$3$	$0$	$7$	$7$	$2$
$C_1(6,2)$	$6$	$8$	$7$	$6$	$0$	$9$

新的聚類分組 :

① 聚類 $1$ : $\{A_1\}$

② 聚類 $2$ : $\{A_2,B_1,C_2\}$

③ 聚類 $3$ : $\{B_2,C_1\}$

新的中心點(diǎn)計(jì)算 :

${\mathrm{C}}_1=(2,4)$

${\mathrm{C}}_2=(\frac{3+5+4}{3},\frac{7+8+9}{3})=(4,8)$

${\mathrm{C}}_3=(\frac{9+6}{2},\frac{5+2}{2})=(7,3)$

2、 第二次迭代

第二次迭代 : 計(jì)算每個(gè)樣本值與每個(gè)中心點(diǎn)的距離 , 將樣本分類到最近的中心點(diǎn)所在的分組 , 計(jì)算每個(gè)分組新的中心值 ;

$A_1(2,4)$$A_2(3,7)$$B_1(5,8)$$B_2(9,5)$$C_1(6,2)$$C_2(4,9)$

$(2,4)$	$0$	$4$	$7$	$8$	$6$	$7$
$(4,8)$	$6$	$2$	$1$	$8$	$8$	$1$
$(7,3)$	$6$	$8$	$7$	$4$	$2$	$9$

新的聚類分組 :

① 聚類 $1$ : $\{A_1\}$

② 聚類 $2$ : $\{A_2,B_1,C_2\}$

③ 聚類 $3$ : $\{B_2,C_1\}$

新的中心點(diǎn)計(jì)算 :

${\mathrm{C}}_1=(2,4)$

${\mathrm{C}}_2=(\frac{3+5+4}{3},\frac{7+8+9}{3})=(4,8)$

${\mathrm{C}}_3=(\frac{9+6}{2},\frac{5+2}{2})=(7,3)$

第二次迭代與第一次迭代值相同 , 因此第三次迭代的結(jié)果就是 K-Means 聚類算法最終結(jié)果 ;

詳細(xì)解析參考 【數(shù)據(jù)挖掘】K-Means 二維數(shù)據(jù)聚類分析 ( K-Means 迭代總結(jié) | K-Means 初始中心點(diǎn)選擇方案 | K-Means 算法優(yōu)缺點(diǎn) | K-Means 算法變種 )

總結(jié)

以上是生活随笔為你收集整理的【数据挖掘】数据挖掘总结 ( K-Means 聚类算法 | 二维数据的 K-Means 聚类 ) ★的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。