机器学习在基础上进行自适应性优化

Weighted Base Algorithm

(1)基础算法中引入权重参数

这类算法通过为每个数据赋予特定权重，该权重可理解为该数据点所占的份数。

在前述的SVM算法中，对于错误样本会扣除C的分数，而在引入权重后，每个数据点将扣除C·un这一额外分数，该参数在经过二次规划计算后，会直接影响到α的上限。
针对逻辑回归模型而言，un可被解释为样本(xn,yn)在抽样过程中的比例系数。
上述两个实例表明，将权重系数整合进具体算法之中是具有可行性的。

(2)增强假设间的差异性
在上一节关于Aggregation的讨论中，我们了解到，当各类假设之间的差异性越显著时，借助组合机制便能获得更为优越的成效。那么，我们应当如何调整u的取值，以促使假设g之间的差异性达到最大化？
可以明确的是，g(t)是通过un(t)进行加权计算得出的，而g(t+1)则是基于un(t+1)的加权结果形成的。

![](http://7n