丸め誤差に対応した計算方法

概要

ECサイト等でよく見られるレビュー「★★★☆☆」

この表示を作るために数値計算の処理を入れていましたが、ある条件における星の表示数にズレが生じていることに気がつきました。

原因を調べると引き算の結果に誤差が埋めれていることがわかりました。所謂「丸め誤差」というやつです。

丸目誤差とは

丸め誤差（round-off error）とは、長い桁や無限桁の小数を扱う際に、これを有限桁で表すためにある桁以降の値を捨ててしまうことにより生じる誤差のこと。コンピュータでは浮動小数点型の数値計算などで現れる。

https://e-words.jp/w/%E4%B8%B8%E3%82%81%E8%AA%A4%E5%B7%AE.html

コンピュータで浮動小数点型の数値計算を行う場合、2進法によって実行されます。例えば10進数の「0.1」という数字は2進数では「0.000110011...」となるため、場合によって、微妙な計算誤差が生まれてしまいます。

対応方法

以下のような「(目的の計算)×100をした上でMath.roundで四捨五入してあげて最後に100で割って元に戻す」みたいな方法で回避できます。

関数化しておくと便利そうですね👀

Math.round((x - y) * 100) / 100

参考サイト

• https://e-words.jp/w/%E4%B8%B8%E3%82%81%E8%AA%A4%E5%B7%AE.html
• https://zenn.dev/ymmt1089/articles/20220603_big_number