Vivie

Vivie

威望 : -2 积分 : 1040 赞同 : 2 感谢 : 0

更多 »回复

1

[list] [*]“机器学习”是人工智能的核心研究领域之一, 其最初的研究动机是为了让计算机系统具有人的学习能力以便实现人工智能,因为众所周知,没有学习能力的系统很难被认为是具有智能的。目前被广泛采用的机器学习的定义是“利用经验来改善计算机系统自身的性能”[...

1

[attach]6148[/attach] 除此之外,合理的选择初始化权重可以一定程度避免梯度消失。

0

假设Z=WX+b, Z经ReLU激活函数进行激活,则激活值 a = max(0, Z)。 若Z>0,a = Z; 若Z<=0, a = 0。 所以大概一半的Z,经激活函数后变成0;但是实际上在隐含神经元中有足够多的Z>0,网络通过这些被激活的...

0

为何要做BN操作:在训练一个神经网络或逻辑回归模型的时候,通常会将不同的输入特征进行归一化。 如果不做归一化,在进行梯度下降的时候会比较缓慢,下降轨迹波动比较大。归一化可以加快学习速度。 对于一个较深的网络, 需要训练很多隐含层的参数,所以做BN操作可以加速网...

更多 »发问

没有内容

更多 »动态

发问

回复

文章

最新动态

详细资料

个人成就:

威望: -2 积分: 1040 赞同: 2 感谢: 0

最后活跃:
2017-10-10 15:23
更多 » 关注 14

yanglei wgb Eric_Jiang bnnkong 绿树

更多 » 0 人关注
主页访问量 : 145 次访问