51Testing软件测试论坛

标题: 请版主帮看看我的脚本那里写错了和如何修改 [打印本页]

作者: duckliuduck 时间: 2005-7-5 08:04
标题: 请版主帮看看我的脚本那里写错了和如何修改
obj_get_text("dw_1", fsje, 568, 158, 691, 187);

obj_get_text("dw_1", yys, 693, 158, 779, 187);

if(yys!=10.50)
{
report_msg("error1");
}
report_msg(yys*0.5*2);
report_msg(fsje*0.07);

if((fsje*0.07)!= (yys*0.5*2))
{
report_msg("error"&fsje*0.07&yys*0.5*2);
}
这两个数值通过乘上系数是一样的,通过report_msg提取也可以确定,可就是在最后一个if语句里被认为是不等的，为什么？
另外：对于PB数据窗提取数字还有别的办法么？

作者: shyfish 时间: 2005-7-5 10:25
以前讨论过类似的问题，应该是系统本身的问题，也就是用2进制表示浮点类型是会有误差的，一般认为小于某个误差就相等了，比如取个1.0E-6：
if (abs(fsje * 0.07 - yys * 0.5 * 2) < 1.0e-6) #WR没有取绝对值的abs函数自己写写

作者: duckliuduck 时间: 2005-7-5 13:52
可是，这个函数怎么写呀，小弟刚刚开始用，还真的不会，老大多指点

作者: duckliuduck 时间: 2005-7-5 14:15
先谢谢老大，小弟再问一下，你看我取数用的是具体坐标，有没有办法可以直接用第几行，第几列来取数

作者: jacky8024 时间: 2005-7-11 12:24
可以，如果在表格中，可以直接用tbl_get_info来读取

欢迎光临 51Testing软件测试论坛 (http://bbs.51testing.com/)