INT16乘累加防溢出量化过程—Overflow-aware Quantization
发布时间
阅读量：
阅读量
简介
- 参考文献：https://arxiv.org/abs/2005.13297
- OAQ (Overflow-aware Quantization) 通过利用量化过程中比特位宽所具有的表示冗余特性，采用INT16单元存储中间计算结果及最终乘累加数值，从而在ARM平台上实现计算效率的提升；
基本原理概述
本文围绕TF-Lite框架下的非对称量化训练方法展开，提出了一种针对INT16乘累加运算的防溢出条件设定。
总体而言，整数运算过程中的中间乘法累加值以及最终的累积结果均需确保不超出INT16的数据范围；文章中通过引入可调节的alpha参数，构建了一种能够对整数量化区间进行自适应调节的机制：
还没有任何评论哟~