JavaScriptの数値計算はどれくらい正確なのか
CRANK

JavaScriptは様々な用途で使われるプログラミング言語で、色々な用途に対応するための一通りの機能が揃っています。その中には、数値計算の機能も含まれています。数値計算、特に小数の計算においては、計算結果の正確性が度々問題になります。プログラムにおいては、色々な要因で計算結果には誤差が発生します。一例として、浮動小数点数の場合は数を表現するために使えるビット数が有限であることから、計算結果は真の値(数学的な意味での正しい計算結果)と異なる値になることがあります(いわゆる丸め誤差)。例えば、JavaScriptの数値はIEEE 754 倍精度浮動小数点数(いわゆるdouble)ですが、doubleでは1 / 10の結果(0.1)を正確に表すことができず、結果の浮動小数点数は(10進数で書き下すと)0.100000000000000005551115123125782702118158340454101562となり完璧に0.1ではありません。最も、これはdoubleで表現可能な限界値であり、doubleの世界ではこれ以上に正確に0.1を表すことができないのですから仕方がありません。さて、JavaScriptというプログラミング言語では、さまざまな数値計算の結果はどれくらい正確なのでしょうか。この記事では、JavaScriptの言…

zenn.dev
Related Topics: JavaScript
2 comments