Advertisement

Dl4j-fit(DataSetIterator iterator)源码学习（八） 根据参数更新梯度

阅读量：

在完成反向传播计算后，模型的损失函数值与梯度信息已被确定，随后流程将返回至package org.deeplearning4j.optimize.solvers包中的BaseOptimizer.gradientAndScore()方法内继续进行后续操作，该方法内部将继续执行相关步骤。

反向传播所得到的参数信息还需经历梯度正则化处理，并结合L1与L2范式的参数惩罚机制进行调整。

复制代码 
    @Override
    public Pair<Gradient, Double> gradientAndScore() {
    oldScore = score;
    //包含反向传播，已经算出了模型的损失函数得分以及梯度
    model.computeGradientAndScore();
    
    if (iterationListeners != null && iterationListeners.size() > 0) {
        for (IterationListener l : iterationListeners) {
            if (l instanceof TrainingListener) {
                ((TrainingListener) l).onGradientCalculati

全部评论 (0)

还没有任何评论哟~

相关文章推荐