咔片PPT · AI自动生成演示文稿,模板丰富、排版精美 讯飞智文 · 一键生成PPT和Word,高效应对学习与办公

程序的数据类型,不管是使用单精度浮点数float 还是双精度浮点数double,都存在计算出错的可能性。

有两种避免该问题的方法。

【1】回避无视这些错误。根据程序目的的不同有时一些微小的偏差并不会造成什么问题。

例如,假设使用计算机设计工业制品。将100个长0.1毫米的零件连接起来后,其长度并非一定要是10毫米,10.000002毫米也没有任何问题。一般来说,在科学技术计算结果只要能得到近似值就足够了。那些微小的误差完全可以忽略掉。

【2】另一个策略是把小数转换成整数来计算。计算机在进行小数计算时可能会出错,但进行整数计算(只要不超过可处理的数值范围)时一定不会出现问题。

因此,进行小数的计算时可以暂时使用整数,然后再把计算结果用小数表示出来即可。

例如将0.1相加100次这一计算,就可以转换为将0.1扩大10倍后再将1相加100次的计算,最后把结果除以10就可以了。

0.1*100可以算把0.1转为10,然后最后的结果÷10,就可以得到正确的结果了。

(0.1*10)*100 等于 100

然后 100 /10 就可以算出10了

当然BCD(Binary Coded Decimal)也是一种使用二进制表示十进制的方法。简单的说BCD就是用4位来表示0~9的1位数字的处理方法。

Articles