从超平面到SVM（三）

源 | 小象     文 | 数据挖掘机上期我们已经讲了从《超平面到SVM（二）》中关于对偶算法和核技巧的部分，不过，这是SVM算法中纯理论的部分，在进行算法的实现的时候会发现使用理论中推导的公式按部就班的去实现算法不太现实，因为SVM算法的时间复杂度太高了，目前，SVM算法的实现当属SMO（sequentialminimal optimization，序列最小化优化），本文将接着上期，结束《从超平面到SVM》的算法讲解。一、固定两个拉格朗日乘子上期引入核函数以后，原来的优化目标函数就变成了如下的形式：在上面的优化目标函数中，变量为拉格朗日乘子，一个变量ai对应于一个样本点(xi,yi)，变量的总数等于训练样本容量N。从公式中可以看出，在求解过程中，上述公式的优化过程实 ………………………………