Googleで「399999999999999-399999999999998」を計算すると失敗する件 | IDEA*IDEA
を読んだので試してみた:
- 「2^52+1-2^52」の検索結果 - Yahoo!検索 = 1
- 「2^53+1-2^53」の検索結果 - Yahoo!検索 = 0
- 「2^1023」の検索結果 - Yahoo!検索 = 8.98846567431158x10^307
- 「2^1024」の検索結果 - Yahoo!検索 = Inf
- google:2^48+1-2^48 = 1
- google:2^49+1-2^49 = 0
- google:2^1023 = 8.98846567 × 10307
- google:2^1024 計算結果が表示されない
となった。
yahoo! は普通の倍精度。google のは何?
それよりも。
計算できなかったときには、計算を試みたけど失敗したのか、計算を試みなかったのかをはっきりさせるべきだと思うよ>google。
あと。
yahoo にそんな機能があるを知らなかった。
でもまあ、「3cm/4inch」みたいな計算はしてくれないようなので、googleを使うと思う。単位計算がなければ http://d.hatena.ne.jp/Nabetani/20050706/p1 の電卓を使うので、ウェブに行かない。