妖孽问题
我在脚本中有这么一个判断,当两数不一致时写日志Ifcdbl(manage_rate) +cdbl( manager_rate_for_**c )<>cdbl(manage_exp) Then
createReportnow&":"&idnum&":管理费不一致!"&cdbl(manage_rate) +cdbl( manager_rate_for_**c )&"VS"&cdbl(manage_exp)
End If
但是
打出来的日志有这么一行:
2012-10-19 11:42:08:XXXXXX:管理费不一致!19106.44VS19106.44
这是为毛啊?整个参数列表中就这一组数据在此判断中输出日志
在线等答案,谢谢!!! 我在脚本中有这么一个判断,当两数不一致时写日志
Ifcdbl(manage_rate) +cdbl( manager_rate_for_**c )c ...
jacky8312 发表于 2012-10-19 13:00 http://bbs.51testing.com/images/common/back.gif
double类型的数据比较最好不要直接用等于或者不等于,计算机中的值还是离散的。
楼主可以尝试 abs(cdbl(manage_rate) +cdbl( manager_rate_for_**c )-cdbl(manage_exp) ) < 0.000001的方式来判断。
页:
[1]