首页 > 其他 > 详细

计算机进行小数运算时出错的原因和避免方法

时间:2019-04-07 12:33:23      阅读:151      评论:0      收藏:0      [点我收藏+]

计算机进行小数运算时出错的原因:

 是因为有一些十进制的小数无法转换成二进制数。

如何地避免小数运算错误:

1.回避策略,即无视这些错误。根据程序目的不同,有时一些微笑的偏差并不会造成什么问题

2.就是把小数转换成整数来计算。计算机计算小数时可能会出错,但进行整数计算时一定不会出现问题。因此我们可以将小数暂时转换成整数在输出的时候再以小数的形式来输出

 

计算机进行小数运算时出错的原因和避免方法

原文:https://www.cnblogs.com/hyy123-/p/10664879.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!