relu - 小百科

小百科

百科知识指南

全部

梯度消失、梯度爆炸及其表现和解决方法_梯度消失的表现

https://blog.csdn.net/vivian_ll/article/details/100919715

骑白马的毛巾 · 梯度下降 relu · 1 月前

2019年9月17日 ... 重新设置网络结构，减少网络层数,调整学习率（消失增大，爆炸减小）。预训练加微调. 此方法来自Hinton在2006年发表的一篇论文，Hinton为了解决梯度的问题，提出;...