先上代碼
# coding:UTF-8from __future__ import division
from math import exp
from numpy import *
from random import normalvariate # 正態分布
from datetime import datetime
import pandas as pd
import numpy as np
from math import log10
trainData = 'data/diabetes_train.txt' #請換為自己文件的路徑
testData = 'data/diabetes_test.txt'def preprocessData(data):feature=np.array(data.iloc[:,:-1]) #取特征label=data.iloc[:,-1].map(lambda x: 1 if x==1 else -1) #取標簽并轉化為 +1，-1#將數組按行進行歸一化zmax, zmin = feature.max(axis=0), feature.min(axis=0)feature = (feature - zmin) / (zmax - zmin)label=np.array(label)return feature,labeldef sigmoid(inx):#return 1. / (1. + exp(-max(min(inx, 15.), -15.)))return 1.0 / (1 + exp(-inx))def SGD_FM(dataMatrix, classLabels, k, iter):''':param dataMatrix: 特征矩陣:param classLabels: 類別矩陣:param k: 輔助向量的大小:param iter: 迭代次數:return:'''# dataMatrix用的是mat, classLabels是列表m, n = shape(dataMatrix) #矩陣的行列數，即樣本數和特征數alpha = 0.01# 初始化參數# w = random.randn(n, 1)#其中n是特征的個數w = zeros((n, 1)) #一階特征的系數w_0 = 0.v = normalvariate(0, 0.2) * ones((n, k)) #即生成輔助向量，用來訓練二階交叉特征的系數for it in range(iter):for x in range(m): # 隨機優化，每次只使用一個樣本xx0=dataMatrix[x]xx=np.array(xx0)xx1=xx.T@xxvv=v@v.Te=xx1*vvinteraction=0.5*(e.sum()-e.trace())p = w_0 + xx@w + interactionloss = (1-sigmoid(classLabels[x] * p[0, 0]) ) #計算損失w_0 = w_0 +alpha * loss * classLabels[x]for i in range(n):if dataMatrix[x, i] != 0:w[i, 0] = w[i, 0] +alpha * loss * classLabels[x] * xx[0,i]#dataMatrix[x, i]for j in range(k):vv=np.array([v[:,j]])v[i, j] = v[i, j]+ alpha * loss * classLabels[x] * xx[0,i]*( xx@vv.T - v[i, j] * xx[0,i])print("第{}次迭代后的損失為{}".format(it, loss))return w_0, w, vdef getAccuracy(dataMatrix, classLabels, w_0, w, v):m, n = shape(dataMatrix)allItem = 0error = 0result = []for x in range(m): #計算每一個樣本的誤差allItem += 1xx0=dataMatrix[x]xx=np.array(xx0)xx1=xx.T@xxvv=v@v.Te=xx1*vvinteraction=0.5*(e.sum()-e.trace())p = w_0 + xx@w + interactionpre = sigmoid(p[0, 0])result.append(pre)if pre < 0.5 and classLabels[x] == 1.0:error += 1elif pre >= 0.5 and classLabels[x] == -1.0:error += 1else:continuereturn float(error) / allItemif __name__ == '__main__':train=pd.read_csv(trainData)test = pd.read_csv(testData)dataTrain, labelTrain = preprocessData(train)dataTest, labelTest = preprocessData(test)date_startTrain = datetime.now()print ("開始訓練")w_0, w, v = SGD_FM(mat(dataTrain), labelTrain, 20, 30)print("訓練準確性為：%f" % (1 - getAccuracy(mat(dataTrain), labelTrain, w_0, w, v)))date_endTrain = datetime.now()print("訓練用時為：%s" % (date_endTrain - date_startTrain))print("開始測試")print("測試準確性為：%f" % (1 - getAccuracy(mat(dataTest), labelTest, w_0, w, v)))
從本質上講，ｆｍ就是一個機器學習算法；
一種有監督學習算法；
一種和多元線性回歸非常相似的算法；
就是一種算法而已；
但是這種算法在輸入是稀疏矩陣的情況下，效果比LR，SVM,要好,
原因是他考慮了不同特征的相關性；
個性化推薦的場景下，輸入的是一個很大的稀疏矩陣；
所以這種算法在推薦場景應用的比較多
代碼在git
文章鏈接
1
2
3
4
5代碼加數學推導
總結
以上是生活随笔為你收集整理的因子分解机 Factorization Machine python 源码的全部內容，希望文章能夠幫你解決所遇到的問題。
如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。
