有限精度浮点数加减运算示例 - 以A=100.5和B=-60.2为例
首先将A和B转换为二进制表示:
A = 1100100.1
B = 101111001.0011001
由于尾数仅有6个bit,因此需要对A和B进行舍入操作。
对于A,第7位为1,需要向上舍入,即:
A = 1100101.0
对于B,第7位为0,不需要舍入,即:
B = 101111001.001101
接下来,将A和B表示成规格化的科学计数法形式:
A = 1.10010100 x 2^6
B = 1.01111001 x 2^-4
然后进行加减运算。
将B乘以2^6,得到:
B = 1.01111001001101 x 2^2
然后将A和B对齐,即将B的小数点向右移动4位:
A = 1.10010100 x 2^6
B = 0.0101111001001101 x 2^6
接着进行加法运算,得到:
1.11110000 x 2^6
由于结果的尾数超过了6个bit,需要进行舍入操作。第7位为0,因此结果向下舍入,得到:
1.11101100 x 2^6
最后将结果转换回十进制,得到:
A + B = 124.75
原文地址: https://www.cveoy.top/t/topic/mF6Y 著作权归作者所有。请勿转载和采集!