标题:库函数的BUG???
只看楼主
StarWing83
Rank: 8Rank: 8
来 自:仙女座大星云
等 级:贵宾
威 望:19
帖 子:3951
专家分:748
注 册:2007-11-16
得分:0 
你们老师真强……
浮点数是一个二进制规范,所以取舍都是在二进制层面的,和十进制的数字会有些些的不同。
比如0.1这个数字在十进制上是个精确数,但是在二进制里面,这是个循环小数,不可能取得精确值。所以不同精度转换下,可能会造成误差。LZ的例子应该也是同样的原因。

专心编程………
飞燕算法初级群:3996098
我的Blog
2008-05-15 00:21



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-214181-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 1.209425 second(s), 8 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved