K最近鄰(k-Nearest Neighbor，KNN)分類算法，是一個理論上比較成熟的方法，也是最簡單的機器學習算法之一。該方法的思路是：在特征空間中，如果一個樣本附近的k個最近(即特征空間中最鄰近)樣本的大多數屬于某一個類別，則該樣本也屬于這個類別。

我們對應上面的流程來說

1.給定了紅色和藍色的訓練樣本，綠色為測試樣本
2.計算綠色點到其他點的距離
3.選取離綠點最近的k個點
4.選取k個點中，同種顏色最多的類。例如：k=1時，k個點全是藍色，那預測結果就是Class 1；k=3時，k個點中兩個紅色一個藍色，那預測結果就是Class 2

相似的樣本，特征之間的值都是相近的。K-近鄰算法需要做標準化處理。


數據來源：https://www.kaggle.com/c/facebook-v-predicting-check-ins/data?select=train.csv.zip

from sklearn.neighbors import KNeighborsClassifier from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler import pandas as pddef knncls():# k-近鄰預測用戶簽到位置# 1，讀取數據data = pd.read_csv("train.csv")# print(data.head(10))#,2，處理數據# 縮小數據,查詢數據篩選data = data.query("x > 1.0 & x <1.25 & y >2.5 & y < 2.75")# 處理時間數據time_value = pd.to_datetime(data["time"],unit="s")# print(time_value)# 把日期格式轉換成字典格式time_value = pd.DatetimeIndex(time_value)# 3，構造一些特征data["day"] = time_value.daydata["hour"] = time_value.hourdata["weekday"] = time_value.weekday# 把時間戳特征刪除data = data.drop(["time"],axis=1) # sklearn中1表示列和pandas不一樣# print(data)#把簽到數量少于n個目標位置刪除place_count = data.groupby("place_id").count()tf = place_count[place_count.row_id > 3].reset_index()data = data[data["place_id"].isin(tf.place_id)]data = data.drop(["row_id"],axis=1)print(data)# 取出數據當中的特征值和目標值y = data["place_id"]x = data.drop(["place_id"],axis=1)# 進行數據的分割 訓練集和測試集x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.25)# 特征工程（標準化）std = StandardScaler()# 對測試集和訓練集的特征值進行標準化x_train = std.fit_transform(x_train)x_test = std.transform(x_test)# 進行算法流程knn = KNeighborsClassifier(n_neighbors=5)# fit,predict,scoreknn.fit(x_train,y_train)# 得出預測結果y_predict = knn.predict(x_test)print("預測的目標簽到位置為:",y_predict)# 得出準確率print("預測的準確率:",knn.score(x_test,y_test))if __name__=="__main__":knncls()

需調優提高準確度

總結

以上是生活随笔為你收集整理的机器学习-分类算法-K-近邻算法06的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。