深度学习-特征稀疏化方法(模型超参数优化挑战)
发布时间
阅读量:
阅读量
(1)如果把本节中的两个丢弃概率超参数对调,会有什么结果?观察并分析实验结果,并给出你的结论。
drop_prob1=0.2,drop_prob2=0.5
调换前的两个丢弃概率超参数设置
#定义神经网络模型,将各个层声明清楚
net=nn.Sequential(
d2l.FlattenLayer(),
nn.Linear(num_inputs,num_hiddens1),
nn.ReLU(),
nn.Dropout(drop_prob1),
nn.Linear(num_hiddens1,num_hiddens2),
nn.ReLU(),
nn.Dropout(drop_prob2),
nn.Linear(num_hiddens2,10))
#模型参数的初始化
for param in net.parameters():
nn.init.normal_(param,mean=0,std=0.01)
全部评论 (0)
还没有任何评论哟~
