单项选择题
对深度学习中梯度消失的描述正确的是()。
A.靠近输出层的hidden layer 3的权值更新正常,但是靠近输入层的hidden layer 1的权值更新非常慢,导致其权值几乎不变,仍接近于初始化的权值,这种现象叫做梯度小事B.造成梯度消失的原因是过深的深度学习模型,由于梯度反向传导过程中的累积问题,就出现了内在本质上的不稳定场景,另一方面是模型激活函数不太合适C.使用Relu函数作为激活函数、增加BatchNormal层、使用残差模块等缓解梯度爆炸D.以上全部
单项选择题 假设一个二分类问题,现在采用一个大于0.5的阈值,那么关于模型的说法正确的是()。
单项选择题 Xavier初始化是最为常用的神经网络权重初始化方法Xavier初始化是用来帮助信号能够在神经网络中传递得更深,下面哪些叙述是对的?()1.如果权重一开始很小,信号到达最后也会很小2.如果权重一开始很大,信号到达最后也会很大3.Xavier初始化是由高斯发布引出的4.Xavier初始化可以帮助减少梯度弥散问题
单项选择题 Dropout率为保留一个神经元为激活状态的概率,Dropout率和正则化有什么关系?()