使用多个学习率进行模型训练与优化

学习过程中所形成的记录，可供借鉴与参考。

Alpha值的定义与意义

针对 RGBA（或 BGRA）格式的数据而言，Alpha 通道所包含的 Alpha 值本质上应为 Opaque 值，即代表不透明度的参数。当 Alpha 值达到 255 时，意味着该像素完全不透明；而 Alpha 值为 0 的情况下，则表示该像素完全透明。

此外，Alpha 值也常用介于 0 到 1 的数值区间进行表达。其中，数值为 0 表示全透明状态，数值为 1 则对应完全不透明的状态。相关细节可参考此处：https://en.wikipedia.org/wiki/Alpha_compositing。>

直接 Alpha 和预乘 Alpha 的区别

Alpha 模式主要分为两种形式，分别为直接 Alpha 与预乘 Alpha。

在采用直接 Alpha 方式对 RGBA 颜色进行描述时，颜色的透明度信息会单独保存在 Alpha 通道中。例如，若需表示一种具有 60% 不透明度的绿色，则对应的数值应为：(0 , 255 , 0 , 255 * 0.6) = (0 , 255 , 0 , 153)。其中，数值 255 表示完全饱和的绿色，而数值 153（即为 255 的 60%）则用于表达该颜色应当具备的不透明度比例。

当使用预乘 Alpha 方法描述 RGBA 颜色时，每种颜色通道的