3*647.6<>1942.8?，关于winrunner数值的计算!

kper4 · 发表于 2005-3-30 10:35:59

使用 winrunner 7.5 ,示例程序 fight 1A ，gui map: fight_cchs

测试每个 order 的票总数与计算值是否相等（书上的例子）

在 fax order 中，读取了 tickets,price,total 三个，如下：

edit_get_text("# Tickets:",tickets);
edit_get_text("Ticket Price:",price);
edit_get_text("Total:",total);

利用数据驱动对每个 order 进行测试后，发现 tickets 为 3 的数据计算总是出错

我的判断是这样的：

if(tickets*price == total)
tl_step("total",0,"Correct. "tickets" tickets at $"price" cost $"total".");
else
{
tl_step("total",1,"Error. "tickets" tickets at $"price" does not equal $"total".");
report_msg(tickets*price);
}

总是会报错，后来我发现计算值减总数： tickets*price - total竟然不等于零，竟然是 2.273736754 E-13

晕啊，这是怎么回事？？，只有数据是 3的时候出现这个错误，
后来我采取：
tickets=sprintf("%.3f",tickets);
price=sprintf("%.3f",price);
total=sprintf("%.3f",total);

依然不行，这是怎么回事？？

谢谢