为什么 vb 减法会错误。。。。。。
text1=1138.15
text2=1139.3
Private Sub Command1_Click()
MsgBox Val(Text1) - Val(Text2)
End Sub
这计算结果 应该是1.15
而我这电脑出来的结果是 -1.14999999999986
这个正常,因为计算机是以二进制存储值的,不信你直接
debug.print 1139.3-1138.15
结果也是
1.14999999999986
看看你的开发需求,如能四舍五入取近似值就取一下吧
这是电脑符点运算精度问题。建议指定数据精度，你可以使用format函数指定小数位数，这样，系统会自动进行四舍五入的计算。
有些十进制小数在浮点数中没有对应的表示，只能近似表示。不过至少7位以内是精确的。你把它四舍五入到7位吧。
用专门算钱的Currency计算吧,应该是为了应用目的,MS也不会让用它来算这个有误差的:)
输出结果:
Currency: 1.15
Single: 1.150024
Decimal: 1.15
Double: 1.14999999999986
直接量: 1.14999999999986
VB code:
Option Explicit
Private Sub Form_Load()
TestJian
End Sub
'---------------------------------------------------------------------------------------
' 过程名 : TestJian
' 时间 : 2010-3-4 21:45
' 作者 : 杨过.网狐.cn
' 功能 : http://topic.csdn.net/u/20100304/21/d13424de-a610-40dc-9740-2cd6b9d328b7.html?seed=1167179594&r=63715104#r_63715104
' 说明 : 为什么 vb 减法会错误。。。。。。
相关问答：
VB怎样获得鼠标处的超级连接呢？
在WebBrowser控件中有这样一个事件:StatusTextChange(index As Integer, ByVal Text As String)
它的Text参数正是鼠标处的超级连接,但问题是如果我的浏览器正� ......
为什么我用form.show和form.hide多次连接了两个窗口只能互换链接两次啊？
代码看看
照道理form.show 没次数限定的吧
我也快疯了。
楼主知道怎么发贴么？
引用
我也快疯了。
楼主知道怎么发贴么？
楼主也 ......
我想把word另存为xml之后，用vb读取这个xml的内容，请问如何实现？
dim f as integer
dim b() as byte
dim s as string
dim L as long
f=freefile()
open "abc.xml" for binary access read as #f
......
把已有数据（数据大于20行）的RS(recordset)的第10行数据与第11行数据做加法后，删除第11行的数据，然后把后面的数据向前移。
RS的话修改数据是会更新数据库，现在的问题是RS里的已有数据是用SQL语句分类统计出来的 ......
xmlDoc1.loadXML(h)总是返回false，为什么？谢谢帮忙回答一下
h是什么呢。。。。。。。。。
h是xml格式的字符串
你是想打开。XML格式的文件吧？
我是把h放在xmlDoc1里，用xmlDoc1.loadXML(h)，然后取xmlDo ......
