51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 2953|回复: 1
打印 上一主题 下一主题

winruner运行简单运算时一个奇怪的事情

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2006-11-2 16:37:09 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
运算:
t=10*1.017;
report_msg(1==1);
report_msg(t);
report_msg(t==10.17);


winrunner执行后结果:
1
10.17
0



也就是说t竟然是不等于10.17;大家有没有遇到过这种情况

[ 本帖最后由 nonway 于 2006-11-2 16:38 编辑 ]

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?(注-册)加入51Testing

x
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏
回复

使用道具 举报

  • TA的每日心情
    奋斗
    2015-11-17 09:09
  • 签到天数: 7 天

    连续签到: 1 天

    [LV.3]测试连长

    2#
    发表于 2006-11-2 19:52:41 | 只看该作者
    我也遇到过这样的情况,使用 == 判断时:
    1。如果两边比较的值是直接赋值过来的话(如,x=1.2,y=1.20时),if(x==y)可以正确执行;
    2。如果是通过表达式(如,x=3*0.4,y=1.2时),if(x==y)就不能正确执行。
         可能就是在进行表达式运算时,浮点控制有问题。
    但是,具体原因还是不清楚。关注下。。。
    回复 支持 反对

    使用道具 举报

    本版积分规则

    关闭

    站长推荐上一条 /1 下一条

    小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

    GMT+8, 2024-11-13 15:16 , Processed in 0.067558 second(s), 25 queries .

    Powered by Discuz! X3.2

    © 2001-2024 Comsenz Inc.

    快速回复 返回顶部 返回列表