51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 2162|回复: 4
打印 上一主题 下一主题

请版主帮看看我的脚本那里写错了和如何修改

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2005-7-5 08:04:40 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
obj_get_text("dw_1", fsje, 568, 158, 691, 187);       

obj_get_text("dw_1", yys, 693, 158, 779, 187);       

if(yys!=10.50)
{
report_msg("error1");
}
report_msg(yys*0.5*2);
report_msg(fsje*0.07);

if((fsje*0.07)!= (yys*0.5*2))
{
report_msg("error"&fsje*0.07&yys*0.5*2);
}
这两个数值通过乘上系数是一样的,通过report_msg提取也可以确定,可就是在最后一个if语句里被认为是不等的,为什么?
另外:对于PB数据窗提取数字还有别的办法么?
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏
回复

使用道具 举报

该用户从未签到

2#
发表于 2005-7-5 10:25:55 | 只看该作者
以前讨论过类似的问题,应该是系统本身的问题,也就是用2进制表示浮点类型是会有误差的,一般认为小于某个误差就相等了,比如取个1.0E-6:
if (abs(fsje * 0.07 - yys * 0.5 * 2) < 1.0e-6)   #WR没有取绝对值的abs函数自己写写
回复 支持 反对

使用道具 举报

该用户从未签到

3#
 楼主| 发表于 2005-7-5 13:52:39 | 只看该作者
可是,这个函数怎么写呀,小弟刚刚开始用,还真的不会,老大多指点
回复 支持 反对

使用道具 举报

该用户从未签到

4#
 楼主| 发表于 2005-7-5 14:15:40 | 只看该作者
先谢谢老大,小弟再问一下,你看我取数用的是具体坐标,有没有办法可以直接用第几行,第几列来取数
回复 支持 反对

使用道具 举报

该用户从未签到

5#
发表于 2005-7-11 12:24:25 | 只看该作者
可以,如果在表格中,可以直接用tbl_get_info来读取
回复 支持 反对

使用道具 举报

本版积分规则

关闭

站长推荐上一条 /1 下一条

小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

GMT+8, 2024-11-10 22:32 , Processed in 0.069671 second(s), 28 queries .

Powered by Discuz! X3.2

© 2001-2024 Comsenz Inc.

快速回复 返回顶部 返回列表