Advertisement

PyTorch's nn.Softmax() function

阅读量:

本文深入探讨了Softmax函数中维度参数的作用。
首先阐述一下Softmax函数的基本概念及其作用。
假设输入向量x为[1, 2, 3]。
则经过Softmax激活后的输出向量为[\frac{ e^{ 1} }{ sum }, \frac{ e^{ 2} }{ sum }, \frac{ e^{ 3} }{ sum }],
其中sum = e^{ 1} + e^{ 2} + e^{ 3}

接下来分析torch.nn里面的softmax函数

复制代码
    y = torch.rand(size=[2,2,3])
    print(y)
    #y的size是2,2,3。可以看成有两张表,每张表2行3列
复制代码
    tensor([[[0.7536, 0.2712, 0.4176],
         [0.2008, 0.9512, 0.4904]],
    
        [[0.2232, 0.7459, 0.9858],
         [0.9141, 0.0604, 0.4307]]])
复制代码
    net_1 = nn.Softmax(dim=0)
    net_2 = nn.Softmax(dim=1)
    net_3 = nn.Softmax(dim=2)
    print('dim=0的结果是:

全部评论 (0)

还没有任何评论哟~