首页 > 编程语言 > 详细

java中,数值型Double运算出错问题

时间:2015-08-02 16:51:48      阅读:292      评论:0      收藏:0      [点我收藏+]

在java中(在python,js其他语言中也存在),某些double型数值运算会出错,例如0.1+0.2或者0.1*3会得到结果0.30000000000000004,网上有人提出解决办法如下:

      Floati=3*0.1;

   System.out.println(i);

但是对于0.9*1这种运算又会出现问题,用上述办法解决不了,所以,最好采用保留精度的方法,即设定保留小数点位数,下面保留小数点位数的工具类:

public static double round(double value, int scale) {
		
		if (scale < 0) {
			throw new IllegalArgumentException(
					"The scale must be a positive integer or zero");
		}
		
		BigDecimal b = new BigDecimal(Double.toString(value));
		BigDecimal one = new BigDecimal("1");
		
		return b.divide(one, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
	}


版权声明:本文为博主原创文章,未经博主允许不得转载。

java中,数值型Double运算出错问题

原文:http://blog.csdn.net/xiaokanzheshijie/article/details/47207655

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!