标题:关于VB计算精确度的问题~~~求解答
只看楼主
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
结帖率:77.78%
已结贴  问题点数:10 回复次数:10 
关于VB计算精确度的问题~~~求解答
这个计算结果明显是错误的,可是代码也正确啊,是精确度有问题么?应该怎么弄呢?
2015-05-22 14:26
wp231957
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:神界
等 级:版主
威 望:422
帖 子:13681
专家分:53296
注 册:2012-10-18
得分:2 
代码呢???  明显是错误的也敢说“可是代码也正确啊”

DO IT YOURSELF !
2015-05-22 14:28
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
得分:0 
Private Sub Command1_Click()
D = Val(Text7.Text)
P0 = 1.18 / D ^ 0.5
Text4.Text = P0
End Sub

Private Sub Command2_Click()
Text4.Text = ""
Text7.Text = ""
End Sub
2015-05-22 14:29
wp231957
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:神界
等 级:版主
威 望:422
帖 子:13681
专家分:53296
注 册:2012-10-18
得分:2 
我这里没问题:

程序代码:
 Private Sub Button4_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button4.Click
        Dim D As Double
        Dim P0 As Double
        D = Val(TextBox3.Text)
        P0 = 1.18 / D ^ 0.5
        TextBox4.Text = P0
    End Sub

DO IT YOURSELF !
2015-05-22 14:36
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
得分:0 
看起来好深奥,我是菜鸟,应该把这些代码放在哪呀?放在计算按钮里么?
2015-05-22 15:06
wp231957
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:神界
等 级:版主
威 望:422
帖 子:13681
专家分:53296
注 册:2012-10-18
得分:2 
我没有vb6环境  那个神马一系列变量不用dim定义 你都能直接用吗

DO IT YOURSELF !
2015-05-22 15:07
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
得分:0 
好吧~~~我承认我没明白你什么意思,我之前那个代码就可以计算,但是计算有些大的数值的时候就不对了,比如根号里输入100就可以正确地算出来了,但是输入大点的数值就不行了,你在帮我看看呗,我用的是VB6.0
2015-05-22 15:11
wmf2014
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
等 级:贵宾
威 望:216
帖 子:2039
专家分:11273
注 册:2014-12-6
得分:2 
你把text4宽度拉宽点就看到真正的结果了,是科学计数法造成的。

能编个毛线衣吗?
2015-05-22 15:18
孙东东007
Rank: 1
等 级:新手上路
帖 子:45
专家分:0
注 册:2015-4-9
得分:0 
回复 8楼 wmf2014
还是不行~~
2015-05-22 15:20
wmf2014
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
等 级:贵宾
威 望:216
帖 子:2039
专家分:11273
注 册:2014-12-6
得分:2 
回复 9楼 孙东东007
Private Sub Command1_Click()
D = Val(Text7.Text)
P0 = 1.18 / D ^ 0.5
Text4.Text = Format(P0, "0.00000")   '调整下格式吧,就看到正确答案了,你的答案是1.96666666666667E-02,由于太长,显示不出来
End Sub

Private Sub Command2_Click()
Text4.Text = ""
Text7.Text = ""
End Sub

能编个毛线衣吗?
2015-05-22 16:13



参与讨论请移步原网站贴子:https://bbs.bccn.net/thread-445612-1-1.html




关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 1.411882 second(s), 8 queries.
Copyright©2004-2025, BCCN.NET, All Rights Reserved