fm 讲解加代码

转自：

博客

http://blog.csdn.net/google19890102/article/details/45532745/

github

https://github.com/zhaozhiyong19890102/Python-Machine-Learning-Algorithm/tree/master/Chapter_3%20Factorization%20Machine

一、因子分解机FM的模型

   因子分解机(Factorization Machine, FM)是由Steffen Rendle提出的一种基于矩阵分解的机器学习算法。

1、因子分解机FM的优势

    对于因子分解机FM来说，最大的特点是对于稀疏的数据具有很好的学习能力。现实中稀疏的数据很多，例如作者所举的推荐系统的例子便是一个很直观的具有稀疏特点的例子。

2、因子分解机FM的模型

    对于度为2的因子分解机FM的模型为：

其中，参数，，。表示的是两个大小为的向量和向量的点积：

其中，表示的是系数矩阵的第维向量，且，称为超参数。在因子分解机FM模型中，前面两部分是传统的线性模型，最后一部分将两个互异特征分量之间的相互关系考虑进来。

    因子分解机FM也可以推广到高阶的形式，即将更多互异特征分量之间的相互关系考虑进来。

二、因子分解机FM算法

    因子分解机FM算法可以处理如下三类问题：

1. 回归问题(Regression)
2. 二分类问题(Binary Classification)
3. 排序(Ranking)

在这里主要介绍回归问题和二分类问题。

1、回归问题(Regression)

    在回归问题中，直接使用作为最终的预测结果。在回归问题中使用最小均方误差(the least square error)作为优化的标准，即

其中，表示样本的个数。

2、二分类问题(Binary Classification)

    与Logistic回归类似，通过阶跃函数，如Sigmoid函数，将映射成不同的类别。在二分类问题中使用logit loss作为优化的标准，即

其中，表示的是阶跃函数Sigmoid。具体形式为：

三、因子分解机FM算法的求解过程

1、交叉项系数

    在基本线性回归模型的基础上引入交叉项，如下：

  表示共有n个特征：

 

若是这种直接在交叉项的前面加上交叉项系数的方式在稀疏数据的情况下存在一个很大的缺陷，即在对于观察样本中未出现交互的特征分量，不能对相应的参数进行估计。

    对每一个特征分量引入辅助向量，利用对交叉项的系数进行估计，即

令

则

这就对应了一种矩阵的分解。对值的限定，对FM的表达能力有一定的影响。

2、模型的求解

这里要求出，主要采用了如公式求出交叉项。具体过程如下：

注：上式中： 

,且，倒数第二行中，将 j 换成 i，原式不变，所以能得到倒数第一行的形式。

3、基于随机梯度的方式求解

对于回归问题：

对于二分类问题：

而

 

最终交叉项要估计的参数每一个是：V_i,f

有n个特征， 每个特征有k个分量，那交叉项的参数个数就是：n*k。

四、实验(求解二分类问题)

1、实验的代码：

1. #coding:UTF-8
2. from __future__ import division
3. from math import exp
4. from numpy import *
5. from random import normalvariate#正态分布
6. from datetime import datetime
7. trainData = 'E://data//diabetes_train.txt'
8. testData = 'E://data//diabetes_test.txt'
9. featureNum = 8
10. def loadDataSet(data):
11. dataMat = []
12. labelMat = []
13. fr = open(data)#打开文件
14. for line in fr.readlines():
15. currLine = line.strip().split()
16. #lineArr = [1.0]
17. lineArr = []
18. for i in xrange(featureNum):
19. lineArr.append(float(currLine[i + 1]))
20. dataMat.append(lineArr)
21. labelMat.append(float(currLine[0]) * 2 - 1)
22. return dataMat, labelMat
23. def sigmoid(inx):
24. return 1.0 / (1 + exp(-inx))
25. def stocGradAscent(dataMatrix, classLabels, k, iter):
26. #dataMatrix用的是mat, classLabels是列表
27. m, n = shape(dataMatrix)
28. alpha = 0.01
29. #初始化参数
30. w = zeros((n, 1))#其中n是特征的个数
31. w_0 = 0.    #截距项
32. v = normalvariate(0, 0.2) * ones((n, k))   #交叉项
33. for it in xrange(iter):
34. print it
35. for x in xrange(m):#随机优化，对每一个样本而言的
36. inter_1 = dataMatrix[x] * v
37. inter_2 = multiply(dataMatrix[x], dataMatrix[x]) * multiply(v, v)#multiply对应元素相乘
38. #完成交叉项
39. interaction = sum(multiply(inter_1, inter_1) - inter_2) / 2.
40. p = w_0 + dataMatrix[x] * w + interaction#计算预测的输出
41. loss = sigmoid(classLabels[x] * p[0, 0]) - 1
42. print loss
43. w_0 = w_0 - alpha * loss * classLabels[x]
44. for i in xrange(n):
45. if dataMatrix[x, i] != 0:
46. w[i, 0] = w[i, 0] - alpha * loss * classLabels[x] * dataMatrix[x, i]
47. for j in xrange(k):
48. v[i, j] = v[i, j] - alpha * loss * classLabels[x] * (dataMatrix[x, i] * inter_1[0, j] - v[i, j] * dataMatrix[x, i] * dataMatrix[x, i])
49. return w_0, w, v
50. def getAccuracy(dataMatrix, classLabels, w_0, w, v):
51. m, n = shape(dataMatrix)
52. allItem = 0
53. error = 0
54. result = []
55. for x in xrange(m):
56. allItem += 1
57. inter_1 = dataMatrix[x] * v
58. inter_2 = multiply(dataMatrix[x], dataMatrix[x]) * multiply(v, v)#multiply对应元素相乘
59. #完成交叉项
60. interaction = sum(multiply(inter_1, inter_1) - inter_2) / 2.
61. p = w_0 + dataMatrix[x] * w + interaction#计算预测的输出
62. pre = sigmoid(p[0, 0])
63. result.append(pre)
64. if pre < 0.5 and classLabels[x] == 1.0:
65. error += 1
66. elif pre >= 0.5 and classLabels[x] == -1.0:
67. error += 1
68. else:
69. continue
70. print result
71. return float(error) / allItem
72. if __name__ == '__main__':
73. dataTrain, labelTrain = loadDataSet(trainData)
74. dataTest, labelTest = loadDataSet(testData)
75. date_startTrain = datetime.now()
76. print "开始训练"
77. w_0, w, v = stocGradAscent(mat(dataTrain), labelTrain, 20, 200)
78. print "训练准确性为：%f" % (1 - getAccuracy(mat(dataTrain), labelTrain, w_0, w, v))
79. date_endTrain = datetime.now()
80. print "训练时间为：%s" % (date_endTrain - date_startTrain)
81. print "开始测试"
82. print "测试准确性为：%f" % (1 - getAccuracy(mat(dataTest), labelTest, w_0, w, v))

2、实验结果：

五、几点疑问

    在传统的非稀疏数据集上，有时效果并不是很好。在实验中，我有一点处理，即在求解Sigmoid函数的过程中，在有的数据集上使用了带阈值的求法：

1. def sigmoid(inx):
2. #return 1.0 / (1 + exp(-inx))
3. return 1. / (1. + exp(-max(min(inx, 15.), -15.)))

六 图片