在Global中输入超过10个纯数字,就会变成1.3333...E+10
这个需要这么解决呢?需要帮助
这样显示的话写到webedit中也是这种格式的 回复 1# louqqson008
我试下来不会啊,可以正常使用10位数字。
我在表格中输入1234567890
表格小的时候会显示1.234...E+10,但拉大了显示的是1234567890
而且print出来,结果也是1234567890,而不是1.234...E+10 回复 2# 黑羽祭
这样啊,
但我这边拉大了也没用 会显示1.234...E+10这样格式的
输出了也是这样的
真不知道是什么原因,查了下也没有答案, 回复黑羽祭
这样啊,
但我这边拉大了也没用 会显示1.234...E+10这样格式的
输出了也是这样的
真不 ...
louqqson008 发表于 2012-11-15 15:57 http://bbs.51testing.com/images/common/back.gif
那是因为写的数还不够大~,再多几个位数的话就会产生数据丢失了。存数在excel时在前面加个【'】,就会当字符串存储起来,不会丢失位数。使用时你得另处理了,到网上搜一下vbs处理大数,就会搜到相应的方法 回复 4# xjwldlover
嗯,10位是极限,从11位开始就用科学计数法计数了。
LZ还是在数字前加个[']吧。 本帖最后由 louqqson008 于 2012-11-15 17:07 编辑
回复 4# xjwldlover
谢了,存数在excel时在前面加个【'】是可以的,
但搜索了一下vbs处理大数,都不是很清楚,应该是我看不懂吧,哈哈
我尝试了下,下面这个方法也可以,但不知道会不会出其他问题
我在Global显示【1.234...E+10】的框上点击右键
选择Format——Custom Number——ALL或者Fixed——选择【0】
这样就好了, 本帖最后由 louqqson008 于 2012-11-15 17:04 编辑
回复 5# 黑羽祭
嗯加这个[']是可以的,我上面写了一个我刚尝试成功的,但我不知道会不会有不好地方。
先2个都用着看看会不会有问题 回复xjwldlover
谢了,存数在excel时在前面加个【'】是可以的,
但搜索了一下vbs处理大数,都不 ...
louqqson008 发表于 2012-11-15 16:59 http://bbs.51testing.com/images/common/back.gif
选择Format——Custom Number——ALL或者Fixed——选择【0】这样做的极限是存储15位数字,超过这个位数,小数点后面的的位数会丢失(次幂数不丢)。
【'】的方式(实际存储的是字符串),当你取数进行运算时会自动转换为double,导致数位丢失。
具体如何做需要LZ自己权衡了 回复 8# xjwldlover
嗯 了解了,非常感谢 加个单引号试哈 从本质上来说,那个 Global Sheet 就是一个EXCEL。建议楼主直接去查一下 在EXCEL里面 ,这个问题是如何解决的 要是怎么取都是字符型,那就先取再转换成数字,但要注意范围,尽量用dbl型或长整型。
页:
[1]