首页 > 其他 > 详细

【转载】VB6里面,double精度都不够用怎么办?

时间:2016-04-21 10:06:08      阅读:164      评论:0      收藏:0      [点我收藏+]
double类型的精度确实是可定义类型中最高的,但有效数字为15或16位
另一种Decimal 数据类型有效位可达到28或29位,但不含指数位
应该可以这样理解:
Decimal精度更高但示数范围小;double反之
而且Decimal 数据类型只能在 Variant中使用,也就是说,不能声明一变量为 Decimal 的类型
上面有高手给了你利用Decimal 数据类型解决例题的办法。
另外如果需要,还可以自己定义变量或数组来记录超大数,有效位和示数范围上不封顶,不过进位借位等等操作只有自己解决了

Dim y As Variant
Dim q As Variant
Dim n As Integer

q = 1E+20
n = 17

y = CDec(CDec(q) - Fix(CDec(q) / n) * n)
Print y

【转载】VB6里面,double精度都不够用怎么办?

原文:http://www.cnblogs.com/argent/p/5415612.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!