51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 2340|回复: 5
打印 上一主题 下一主题

[求助] 请教一个比较菜的问题??

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2013-9-5 15:59:59 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
purchase=18
price=3.7
price * purchase =66.6
最后判断 price * purchase =66.6的时候 结果始终 为 false
百思不得其解。。。。。。。
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏
回复

使用道具 举报

  • TA的每日心情
    奋斗
    2014-12-18 10:31
  • 签到天数: 1 天

    连续签到: 1 天

    [LV.1]测试小兵

    2#
    发表于 2013-9-5 16:39:14 | 只看该作者
    回复 1# rftxrx


        double型数据比较,不能直接判断是否相等,而要通过两值相减,然后判断是否小于一个极小值。
    例:
    If price  *  purchase-66.6<0.0000001 Then
        Print "通过"
    Else
        Print "未通过"
    End If
    或者先数据转换为字符串后再比较:
    例:
    If price  *  purchase="66.6" Then
        Print "通过"
    Else
        Print "未通过"
    End If
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    3#
    发表于 2013-9-5 16:50:56 | 只看该作者
    楼上正解.....
    拿到vs里可以调试下,会发现price  *  purchase=66.600000000000009
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    4#
     楼主| 发表于 2013-9-9 11:11:28 | 只看该作者
    回复 2# feiyunkai

            明白了 。
        上次看到了没时间回,现在回来补一下,谢谢
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    无聊
    2018-9-27 10:05
  • 签到天数: 36 天

    连续签到: 1 天

    [LV.5]测试团长

    5#
    发表于 2013-9-9 12:53:14 | 只看该作者
    2楼正解
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    擦汗
    2016-5-4 10:34
  • 签到天数: 68 天

    连续签到: 1 天

    [LV.6]测试旅长

    6#
    发表于 2013-9-9 15:37:57 | 只看该作者
    double 有效值 14位 前14位肯定是对的 后面他就不会管了......
    回复 支持 反对

    使用道具 举报

    本版积分规则

    关闭

    站长推荐上一条 /1 下一条

    小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

    GMT+8, 2024-11-8 02:58 , Processed in 0.067793 second(s), 27 queries .

    Powered by Discuz! X3.2

    © 2001-2024 Comsenz Inc.

    快速回复 返回顶部 返回列表