Advertisement

深度学习-特征稀疏化方法(模型超参数优化挑战)

阅读量:

(1)如果把本节中的两个丢弃概率超参数对调,会有什么结果?观察并分析实验结果,并给出你的结论。

复制代码
    drop_prob1=0.2,drop_prob2=0.5
    
    
      
    

调换前的两个丢弃概率超参数设置

复制代码
    #定义神经网络模型,将各个层声明清楚
    net=nn.Sequential(
      d2l.FlattenLayer(),
      nn.Linear(num_inputs,num_hiddens1),
      nn.ReLU(),
      nn.Dropout(drop_prob1),
      nn.Linear(num_hiddens1,num_hiddens2),
      nn.ReLU(),
      nn.Dropout(drop_prob2),
      nn.Linear(num_hiddens2,10))
    #模型参数的初始化
    for param in net.parameters():
    nn.init.normal_(param,mean=0,std=0.01)
    
    
      
      
      
      
      
      
      
      
      

全部评论 (0)

还没有任何评论哟~