Advertisement

deeplearning4j 梯度标准化策略

阅读量:

deeplearning4j梯度标准化策略

deeplearning4j框架中共包含以下几种策略:

复制代码
    package org.deeplearning4j.nn.conf;
    
    public enum GradientNormalization {
    None, RenormalizeL2PerLayer, RenormalizeL2PerParamType, ClipElementWiseAbsoluteValue, ClipL2PerLayer, ClipL2PerParamType
    }
    
      
      
      
      
      
    

BaseMultiLayerUpdater类位于package org.deeplearning4j.nn.updater路径下,用于实现方法的调用

复制代码
    /** * Pre-apply: Apply gradient normalization/clipping
     * * @param layer     Layer to apply gradient normalization/clipping for
     * @param gradient  Gradient to update
     * @p

全部评论 (0)

还没有任何评论哟~