标题:不同数据类型比较大小的问题
只看楼主
wangfuli
Rank: 4
等 级:贵宾
威 望:12
帖 子:206
专家分:10
注 册:2005-11-11
 问题点数:0 回复次数:3 
不同数据类型比较大小的问题

我在server2000中有一个属性列为real,我将这个属性得到总和,比如说得到2.555,然后在.net中声明一个double为2.555,将这两个2.555比较大小,结果double的2.555比real的2.555要大,难道server2000的real和double不一样吗?

还有两个数比较:一个为single,一个为double,都是2.555,比较后,结果single的2.555大于double的2.555;

如果将double的2.555先转换成single后,在和single的2.555比较,就相等了,请问为什么了?

谢谢

搜索更多相关主题的帖子: double single 类型 数据 real 
2007-02-27 20:00
bygg
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:乖乖的心中
等 级:版主
威 望:241
帖 子:13555
专家分:3076
注 册:2006-10-23
得分:0 
还没想清楚??

飘过~~
2007-02-27 20:30
Kendy123456
Rank: 10Rank: 10Rank: 10
等 级:贵宾
威 望:62
帖 子:2720
专家分:0
注 册:2007-1-3
得分:0 

精度问题
在VB6版曾经有个贴非常详尽的讨论过这个问题 去找找吧


2007-02-28 09:14
wangfuli
Rank: 4
等 级:贵宾
威 望:12
帖 子:206
专家分:10
注 册:2005-11-11
得分:0 
先谢谢,这个我也清楚,但是在解决的时候有点头疼,很麻烦,这看似很基础,很简单的东西,在做东西的时候,确实很重要很棘手的了,有没有好点的方法解决,使数据计算上精确一点?

2007-02-28 13:33



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-121888-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 1.601687 second(s), 7 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved