卷积神经网络的学习率怎么计算出来的

如题所述

学习率实际和信号分析里的时间常数是一样的,学习率越小 学习会越精细,但同时学习速度也会降低,因为现实中很多模型都是非线性的,犹如一条曲线,梯度下降采用很多小直线迭代去逼近非线性的曲线,如果每一步跨度太大(学习率)就会失去很多曲线的扭曲信息,局部直线化过严重,跨度太小你要到达曲线的尽头就需要很多很多步,这就需要更多的样本,所以这个也要考虑实际问题再来决定学习率的。
温馨提示:答案为网友推荐,仅供参考
第1个回答  2019-03-15
注意:训练样本和测试样本是不一样的。判断正确和错误,主要是看能不能通过训练分析机以及是否在误差内。正确率的得出:对测试样本进行测试,看看识别出来的有哪些,除以测试样本的总数即可。
相似回答