首页 > 编程语言 > 详细

关于C++变量类型精度的研究

时间:2020-02-13 15:18:29      阅读:60      评论:0      收藏:0      [点我收藏+]

今天在练习的时候,忽然发现了一个神奇的“bug”,就是C++在进行数据精度处理的时候会有不同的结果,下面便是我做的两个小测试。

NO1.

技术分享图片

如图,在同时使用int类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.000000

NO.2

技术分享图片

如图,在同时使用double类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.500000

--------------分割线---------------

真的是很神奇,暂时还未找到原因,待解决后补充原因。

关于C++变量类型精度的研究

原文:https://www.cnblogs.com/alixx/p/12303420.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!