51Testing软件测试论坛

 找回密码
 (注-册)加入51Testing

QQ登录

只需一步,快速开始

微信登录,快人一步

手机号码,快捷登录

查看: 4298|回复: 11
打印 上一主题 下一主题

[原创] 在Global中输入超过10个纯数字,就会变成1.3333...E+10

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2012-11-15 14:44:09 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
这个需要这么解决呢?
需要帮助
这样显示的话写到webedit中也是这种格式的
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏
回复

使用道具 举报

  • TA的每日心情
    无聊
    2018-9-27 10:05
  • 签到天数: 36 天

    连续签到: 1 天

    [LV.5]测试团长

    2#
    发表于 2012-11-15 15:39:52 | 只看该作者
    回复 1# louqqson008


        我试下来不会啊,可以正常使用10位数字。
    我在表格中输入1234567890
    表格小的时候会显示1.234...E+10,但拉大了显示的是1234567890
    而且print出来,结果也是1234567890,而不是1.234...E+10
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    3#
     楼主| 发表于 2012-11-15 15:57:02 | 只看该作者
    回复 2# 黑羽祭

    这样啊,
    但我这边拉大了也没用 会显示1.234...E+10这样格式的
    输出了也是这样的
    真不知道是什么原因,查了下也没有答案,
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    4#
    发表于 2012-11-15 16:13:52 | 只看该作者
    回复  黑羽祭

    这样啊,
    但我这边拉大了也没用 会显示1.234...E+10这样格式的
    输出了也是这样的
    真不 ...
    louqqson008 发表于 2012-11-15 15:57


    那是因为写的数还不够大~,再多几个位数的话就会产生数据丢失了。存数在excel时在前面加个【'】,就会当字符串存储起来,不会丢失位数。使用时你得另处理了,到网上搜一下vbs处理大数,就会搜到相应的方法
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    无聊
    2018-9-27 10:05
  • 签到天数: 36 天

    连续签到: 1 天

    [LV.5]测试团长

    5#
    发表于 2012-11-15 16:42:01 | 只看该作者
    回复 4# xjwldlover


        嗯,10位是极限,从11位开始就用科学计数法计数了。
    LZ还是在数字前加个[']吧。
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    6#
     楼主| 发表于 2012-11-15 16:59:59 | 只看该作者
    本帖最后由 louqqson008 于 2012-11-15 17:07 编辑

    回复 4# xjwldlover


    谢了,存数在excel时在前面加个【'】是可以的,

    但搜索了一下vbs处理大数,都不是很清楚,应该是我看不懂吧,哈哈

    我尝试了下,下面这个方法也可以,但不知道会不会出其他问题
    我在Global显示【1.234...E+10】的框上点击右键
    选择Format——Custom Number——ALL或者Fixed——选择【0】   
    这样就好了,
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    7#
     楼主| 发表于 2012-11-15 17:03:13 | 只看该作者
    本帖最后由 louqqson008 于 2012-11-15 17:04 编辑

    回复 5# 黑羽祭


      嗯  加这个[']是可以的,  我上面写了一个我刚尝试成功的,但我不知道会不会有不好地方。
       先2个都用着  看看会不会有问题
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    8#
    发表于 2012-11-15 17:18:32 | 只看该作者
    回复  xjwldlover


    谢了,存数在excel时在前面加个【'】是可以的,

    但搜索了一下vbs处理大数,都不 ...
    louqqson008 发表于 2012-11-15 16:59


    选择Format——Custom Number——ALL或者Fixed——选择【0】  这样做的极限是存储15位数字,超过这个位数,小数点后面的的位数会丢失(次幂数不丢)。

    【'】的方式(实际存储的是字符串),当你取数进行运算时会自动转换为double,导致数位丢失。

    具体如何做需要LZ自己权衡了
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    9#
     楼主| 发表于 2012-11-16 10:37:07 | 只看该作者
    回复 8# xjwldlover

    嗯   了解了,非常感谢
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    10#
    发表于 2012-11-16 15:37:31 | 只看该作者
    加个单引号试哈
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2016-2-27 08:48
  • 签到天数: 2 天

    连续签到: 1 天

    [LV.1]测试小兵

    11#
    发表于 2012-11-16 17:30:23 | 只看该作者
    从本质上来说,那个 Global Sheet 就是一个EXCEL。建议楼主直接去查一下 在EXCEL里面 ,这个问题是如何解决的
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    12#
    发表于 2012-11-21 16:39:18 | 只看该作者
    要是怎么取都是字符型,那就先取再转换成数字,但要注意范围,尽量用dbl型或长整型。
    回复 支持 反对

    使用道具 举报

    本版积分规则

    关闭

    站长推荐上一条 /1 下一条

    小黑屋|手机版|Archiver|51Testing软件测试网 ( 沪ICP备05003035号 关于我们

    GMT+8, 2024-10-4 19:22 , Processed in 0.222441 second(s), 27 queries .

    Powered by Discuz! X3.2

    © 2001-2024 Comsenz Inc.

    快速回复 返回顶部 返回列表