量化

量化具有现实价值的V表示为位的加权和。在一般的斜率和偏置编码方案下,无符号定点数量的值为

V ~ = 年代 ( = 0 w 年代 1 b 2 ] + B ,

而有符号的定点数量的值由

V ~ = 年代 ( b w 年代 1 2 w 年代 1 + = 0 w 年代 2 b 2 ] + B ,

在哪里

  • b 是二进制数字吗 b = 1 , 0 ,因为 = 0 , 1 , , w 年代 1

  • 以位为单位的单词大小由ws,ws=1,2,3.、……128

  • 年代是由 F = 2 E ,其中缩放不受限制,因为二进制点不必与字相邻。

b 被称为位乘数 2 被称为“权重

定点格式

8位有符号和无符号定点值的格式如下图所示。

注意,您不能仅通过检查来辨别这些数字是有符号的还是无符号的数据类型,因为这些信息并没有显式地编码在单词中。

的二进制数0011.0101为无符号和2的补码表示生成相同的值,因为MSB =0。设置B=0使用适当的权重、位乘法器和缩放,值是

V ~ = ( F 2 E ) = 2 E ( = 0 w 年代 1 b 2 ] = 2 4 ( 0 × 2 7 + 0 × 2 6 + 1 × 2 5 + 1 × 2 4 + 0 × 2 3. + 1 × 2 2 + 0 × 2 1 + 1 × 2 0 ) = 3.3125。

相反,二进制数1011.0101从MSB =开始,为无符号和2的补码表示生成不同的值1

设置B=0使用适当的权值、位乘法器和缩放,unsigned值是

V ~ = ( F 2 E ) = 2 E ( = 0 w 年代 1 b 2 ] = 2 4 ( 1 × 2 7 + 0 × 2 6 + 1 × 2 5 + 1 × 2 4 + 0 × 2 3. + 1 × 2 2 + 0 × 2 1 + 1 × 2 0 ) = 11.3125 ,

而两者的补数值为

V ~ = ( F 2 E ) = 2 E ( b w 年代 1 2 w 年代 1 + = 0 w 年代 2 b 2 ] = 2 4 ( 1 × 2 7 + 0 × 2 6 + 1 × 2 5 + 1 × 2 4 + 0 × 2 3. + 1 × 2 2 + 0 × 2 1 + 1 × 2 0 ) = 4.6875。