51Testing软件测试论坛

标题: 在Global中输入超过10个纯数字，就会变成1.3333...E+10 [打印本页]

作者: louqqson008 时间: 2012-11-15 14:44
标题: 在Global中输入超过10个纯数字，就会变成1.3333...E+10
这个需要这么解决呢？
需要帮助
这样显示的话写到webedit中也是这种格式的

作者: 黑羽祭 时间: 2012-11-15 15:39
回复 1# louqqson008

我试下来不会啊，可以正常使用10位数字。
我在表格中输入1234567890
表格小的时候会显示1.234...E+10，但拉大了显示的是1234567890
而且print出来，结果也是1234567890，而不是1.234...E+10

作者: louqqson008 时间: 2012-11-15 15:57
回复 2# 黑羽祭

这样啊，
但我这边拉大了也没用会显示1.234...E+10这样格式的
输出了也是这样的
真不知道是什么原因，查了下也没有答案，

作者: xjwldlover 时间: 2012-11-15 16:13

回复黑羽祭

这样啊，
但我这边拉大了也没用会显示1.234...E+10这样格式的
输出了也是这样的
真不 ...
louqqson008 发表于 2012-11-15 15:57

那是因为写的数还不够大~，再多几个位数的话就会产生数据丢失了。存数在excel时在前面加个【'】，就会当字符串存储起来，不会丢失位数。使用时你得另处理了，到网上搜一下vbs处理大数，就会搜到相应的方法

作者: 黑羽祭 时间: 2012-11-15 16:42
回复 4# xjwldlover

嗯，10位是极限，从11位开始就用科学计数法计数了。
LZ还是在数字前加个[']吧。

作者: louqqson008 时间: 2012-11-15 16:59
本帖最后由 louqqson008 于 2012-11-15 17:07 编辑

回复 4# xjwldlover

谢了，存数在excel时在前面加个【'】是可以的，

但搜索了一下vbs处理大数，都不是很清楚，应该是我看不懂吧，哈哈

我尝试了下，下面这个方法也可以，但不知道会不会出其他问题
我在Global显示【1.234...E+10】的框上点击右键
选择Format——Custom Number——ALL或者Fixed——选择【0】
这样就好了，

作者: louqqson008 时间: 2012-11-15 17:03
本帖最后由 louqqson008 于 2012-11-15 17:04 编辑

回复 5# 黑羽祭

嗯加这个[']是可以的，我上面写了一个我刚尝试成功的，但我不知道会不会有不好地方。
先2个都用着看看会不会有问题

作者: xjwldlover 时间: 2012-11-15 17:18

回复 xjwldlover

谢了，存数在excel时在前面加个【'】是可以的，

但搜索了一下vbs处理大数，都不 ...
louqqson008 发表于 2012-11-15 16:59

选择Format——Custom Number——ALL或者Fixed——选择【0】这样做的极限是存储15位数字，超过这个位数，小数点后面的的位数会丢失（次幂数不丢）。

【'】的方式（实际存储的是字符串），当你取数进行运算时会自动转换为double，导致数位丢失。

具体如何做需要LZ自己权衡了

作者: louqqson008 时间: 2012-11-16 10:37
回复 8# xjwldlover

嗯了解了，非常感谢

作者: yaoer 时间: 2012-11-16 15:37
加个单引号试哈

作者: walker1020 时间: 2012-11-16 17:30
从本质上来说，那个 Global Sheet 就是一个EXCEL。建议楼主直接去查一下在EXCEL里面，这个问题是如何解决的

作者: jack_loo 时间: 2012-11-21 16:39
要是怎么取都是字符型，那就先取再转换成数字，但要注意范围，尽量用dbl型或长整型。

欢迎光临 51Testing软件测试论坛 (http://bbs.51testing.com/)