ALS交替最小二乘法总结

摘要：

　　1.算法概述

　　2.算法推导

　　3.算法特性及优缺点

　　4.注意事项

　　5.实现和具体例子

　　6.适用场合

内容：

　　1.算法概述

　　ALS是alternating least squares的缩写 , 意为交替最小二乘法；而ALS-WR是alternating-least-squares with weighted-λ -regularization的缩写，意为加权正则化交替最小二乘法。关于最小二乘法可以看我之前的这篇介绍：最优化方法与机器学习工具；而交替最小二乘法是对最小二乘法处理多个变量时的扩展。其基本原理是如果有两个变量需要确定，那ALS先固定第一个变量，然后求解第二个变量。之后固定第二个变量，求解第一个变量。如此交替迭代直至收敛或者达到最大迭代次数。

　　2.算法推导

　　

　　这里将ALS用于解决稀疏矩阵分解的问题

　　3.算法特性及优缺点

　　　　优点：相比SVD可以解决稀疏矩阵分解的问题

　　　　缺点：对于隐变量个数选择比较敏感，k越大越精确，但是计算时间越长

　　4.注意事项

　　　　评分矩阵缺失值处理，填充0

　　　　

　　5.实现和具体例子

　　　　spark als实现

　　6.适用场合

　　　　推荐系统