Advertisement

十进制小数定量化

阅读量:

题目设定与研究方向

在这里插入图片描述

在FPGA中执行小数乘法运算时,通常需要对定点小数进行量化处理。
量化过程的第一步是确定所采用的位宽,位宽越大,量化后的精度也越高。

如题所述,若要对12.918进行无损定点化处理,首先应确定整数部分所需的量化位数。整数部分为12,为了实现无损量化,必须使用4bit;

小数部分为0.918,若选择12bit作为整体位宽,并分配4bit用于整数部分,则小数部分将仅能使用8bit表示。8bit所能表达的最大值为255(需注意,在FPGA中进行定点小数运算时,并不会实际存储小数点位置,例如数值12.918会被转换为二进制形式存储。因此,在这种情况下,8bit所能表示的小数最大值为255,在后续反量化过程中再除以256,相当于将小数点向右移动8位)。计算得出0.918乘以256等于235.008,并将其取整后得到235,该数值即为对0.918进行8bit量化后的结果。
接下来需对235进行反量化处理:计算得出235除以256等于0.91796875。与原始值0.918相比,误差仅为0.00003125。由于此次操作属于无损定点化

全部评论 (0)

还没有任何评论哟~