经验风险、结构风险、期望风险之间的关系

1 个评论

期望风险是损失函数的期望,是模型关于联合分布的损失期望
经验风险是损失函数的平均值,是模型关于训练样本集的平均损失
当N趋于无穷大的时候,经验风险与期望风险是相等的。
结构风险是为了防止过拟合提出来的,是在经验风险的基础上加上正则化(模型的复杂度),只有当正则化和经验风险同时小,选出来的模型才是好的模型

要回复文章请先登录注册