首页 > 其他 > 详细

浮点型转字符型有效位数问题

时间:2015-06-10 01:22:53      阅读:136      评论:0      收藏:0      [点我收藏+]

float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。



遇到的问题: 83427.746 在float类型下转成NSstring 类型 变成83427.742188产生巨大偏差,导致四舍五入,在Double类型下正常,经测试发现大于65536之后,三位小数都会失真


浮点型转字符型有效位数问题

原文:http://38734603.blog.51cto.com/7240279/1660176

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!