hzhengy
V2EX  ›  问与答

谷歌计算器的结果和微软计算器的结果不一致

  •  1
     
  •   hzhengy · Jul 24, 2021 · 4842 views
    This topic created in 1937 days ago, the information mentioned may be changed or developed.

    Imgur

    https://imgur.com/2NNQec5

    计算 9^17: 谷歌计算器:16,677,181,699,666,568 微软计算器:16,677,181,699,666,569

    最后一位,一个是 8,一个是 9,这是为什么?

    18 replies  •  2021-07-26 16:18:34 +08:00
    CatCode
    CatCode
    Jul 24, 2021❤️8
    1
    google 的错了啊 奇数自乘怎么可能得到偶数呢
    webshe11
    webshe11
    Jul 24, 2021 via Android
    2
    Python:
    >>> 9**17
    16677181699666569
    看来微软的对
    maplerecall
    maplerecall
    Jul 24, 2021 via Android❤️5
    3
    Google 网页版是 js 实现,直接用了原始 Number 类型,所以存在大数精确度的问题。这个数已经超过 js 原生支持的最大安全整型了,内部是 float,所以不准确。
    xiangyuecn
    xiangyuecn
    Jul 24, 2021
    4
    js 超过最大支持的范围了,结果不精确

    Number.MAX_SAFE_INTEGER

    Math.pow(9,17)
    ryd994
    ryd994
    Jul 24, 2021 via Android
    5
    Bing 直接显示科学计数法了。虽然不精确但也没有错
    XavierWang3P
    XavierWang3P
    Jul 24, 2021
    6
    Siri 算出来也是 16,677,181,699,666,568

    ![]( https://i.loli.net/2021/07/24/UeGJNXgwifYkuBr.png)
    autoxbc
    autoxbc
    Jul 24, 2021
    7
    9 ** 17 ×
    9n ** 17n √
    JensenQian
    JensenQian
    Jul 24, 2021 via Android
    8
    🐒厂计算器
    [img][/img]
    klh
    klh
    Jul 24, 2021
    9
    c#也跑错了,

    Lemeng
    Lemeng
    Jul 24, 2021
    10
    这种计算都是用的自带,没用过谷歌的
    sutra
    sutra
    Jul 24, 2021
    11
    应该是计算过程中使用的是 double 的问题,计算过程改成 int/long 应该就不会了。
    mcoo1997
    mcoo1997
    Jul 24, 2021 via Android
    12
    python 算下 1.1+2.2 破事水
    TypeError
    TypeError
    Jul 24, 2021 via Android
    13
    还是 Python 舒适,自带大数运算
    thunderw
    thunderw
    Jul 24, 2021 via iPhone
    14
    iOS 的计算器比较鸡贼。直接告诉你大约是 1.667718169967e16 自己看着办吧
    BrettD
    BrettD
    Jul 24, 2021 via iPhone
    15
    @hiplon double 类型精度限制导致的,用高精度类就能算出正确结果
    DeWjjj
    DeWjjj
    PRO
    Jul 24, 2021
    16
    IEEE754 二进制分数问题。
    kkocdko
    kkocdko
    Jul 25, 2021 via Android
    17
    @maplerecall 这计算器又不需要多少性能,偷懒不手动实现高精度也太坑了吧
    CodeCodeStudy
    CodeCodeStudy
    Jul 26, 2021
    18
    9 次幂,最后一个数不是 9 就是 1
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1151 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 60ms · UTC 23:29 · PVG 07:29 · LAX 15:29 · JFK 18:29
    ♥ Do have faith in what you're doing.