51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 1331|回复: 1
打印 上一主题 下一主题

[原创] 妖孽问题

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2012-10-19 13:00:41 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
我在脚本中有这么一个判断,当两数不一致时写日志
If  cdbl(manage_rate) +cdbl( manager_rate_for_**c )<>cdbl(manage_exp) Then
                createReport  now&":"&idnum&":管理费不一致!"&cdbl(manage_rate) +cdbl( manager_rate_for_**c )&"VS"&cdbl(manage_exp)
End If

但是
打出来的日志有这么一行:
2012-10-19 11:42:08:XXXXXX:管理费不一致!19106.44VS19106.44

这是为毛啊?整个参数列表中就这一组数据在此判断中输出日志

在线等答案,谢谢!!!
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏
回复

使用道具 举报

该用户从未签到

2#
发表于 2012-10-19 21:40:39 | 只看该作者
我在脚本中有这么一个判断,当两数不一致时写日志
If  cdbl(manage_rate) +cdbl( manager_rate_for_**c )c ...
jacky8312 发表于 2012-10-19 13:00



    double类型的数据比较最好不要直接用等于或者不等于,计算机中的值还是离散的。
楼主可以尝试 abs(cdbl(manage_rate) +cdbl( manager_rate_for_**c )-cdbl(manage_exp) ) < 0.000001的方式来判断。
回复 支持 反对

使用道具 举报

本版积分规则

关闭

站长推荐上一条 /1 下一条

小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

GMT+8, 2024-11-16 20:35 , Processed in 0.067735 second(s), 27 queries .

Powered by Discuz! X3.2

© 2001-2024 Comsenz Inc.

快速回复 返回顶部 返回列表