分析单精度及双精度浮点数相互转换的截断误差及其原因

2025-04-25 05:40:20
推荐回答(1个)
回答1:

一般来说,双精度的有效数字约13位,单精度的有效数字约7位,双精度数字用4个字节存储,单精度数字用2个字节存储,简单地说,双精度转换为单精度时,存储空间不足,自然就只保留了前面一半的有效数字了,单精度转换为双精度时,会增加有效数字位数,但多出的部分(8~13位)有效数字可能全是零(如FORTRAN)或者是不定的随机数,取决于增加的2个字节中原来存储的内容。