51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 1986|回复: 3
打印 上一主题 下一主题

一个奇怪的问题

[复制链接]

该用户从未签到

1#
发表于 2005-1-21 17:58:15 | 显示全部楼层
记得在学C的时候曾听老师说过,对于float(或double)变量运算编程是受限于精度限制,会有一定的误差,不可能完全相等,小于一定的误差(多少就忘了)就可以视为相等,可以这样:
num = 3.0*647.6;
if ((num - 1942.8) < 1.0e-6)
        pause("pass");
else
       pause("fail");
回复 支持 反对

使用道具 举报

本版积分规则

关闭

站长推荐上一条 /2 下一条

小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

GMT+8, 2024-6-16 18:31 , Processed in 0.069990 second(s), 22 queries .

Powered by Discuz! X3.2

© 2001-2024 Comsenz Inc.

快速回复 返回顶部 返回列表