如何理解线性模型中的bias,它和统计意义下的bias有何差别?


QQ截图20160513093845.png

如该线性模型中的w0 如何理解?该bias有何意义?模型中不加入该bias有何影响?

wgb - 机器学习与数据挖掘从业者

赞同来自: fish

姜老师已经说得很清楚了,我画蛇添足一下:   你上面写的w0代表的是截距项,并不是偏差;   关于偏差是估计理论中一个非常重要的概念,我们可以简单回顾一下统计学-参数估计中的无偏估计:   如果E(Y)=u,即总体的均值为u;我们现在构造了一个估计量,比如说叫Y^hat(例如Y^hat=mean(Y)) 那么如果E(Y^hat)=u=E(Y),则我们可以说这个估计是无偏的估计(unbias)。那么偏差(bias)是什么呢? 其实偏差就是                             偏差=E(Y^hat)-E(Y) 也就是说偏差等于估计量的期望减去总体的期望。   偏差,方差,均方误差这些概念都是非常重要的概念,建议如果不是很了解的话,可以去看下《数据科学中的统计基础》。

邹博 - 计算机科学博士,深谙机器学习算法原理

赞同来自: 雷维华

首先,统计意义上的偏差,在机器学习方向上可以这样理解:
Bias-Variance1.png
Bias-Variance2.png
其次,线性模型中的Bias,可以看成是“截距”:在参数都为0时的预测值。如果以“分形”的角度理解,这个截距可以看成是更细粒度规模的参数引起的。

Eric_Jiang - 我是小象的搬运工!!!

赞同来自:

w0在你的表达式中代表的解决.并不是bias.
1463104081681.png
这个才是

要回复问题请先登录注册