Coursera台大机器学习技法课程笔记04-Soft-Margin Support Vector Machine

之前的SVM非常的hard，要求每个点都要被正确的划分，这就有可能overfit，为此引入了Soft SVM，即允许存在被错分的点，将犯的错放在目

标函数中进行优化，非常类似于正则化。

将Soft SVM进行对偶转化后，发现与之前的hard SVM非常的像，只是其中一个系数多了个上界。

通过对阿尔法值的范围的讨论，将SVs分成三类：边界外的、free vector、bounded vector

最后讲的是模型的选择。需要注意的是，我们可以根据support vector的数量来确定cross validation的上限。

参考：http://www.cnblogs.com/xbf9xbf/p/4622646.html

http://www.cnblogs.com/bourneli/p/4216750.html