実はこれ、Excelに限った問題ではない。「IEEE 754」という数値計算の標準規格に基づく多くのソフトウエアが抱える問題である。「演算誤差」や「丸め誤差」と呼ばれる。 IEEE 754では、通常の10進数を2進数に変換して計算する。 丸め誤差とは、小数点以下の数を2進数で表現できない（近似値を使わざるを得ない）ことにより発生する誤差です。 浮動小数点型（javaで言うとfloat型やdouble型）の変数を使用する際に、この問題が発生することがあります。 IEEE 754の2進浮動小数点形式を採用して計算していれば、同じことが起こります。 この誤差についてもっとよく知りたい方は、「日経PC21 / エクセル（Excel）「演算誤差」対策講座」が参考になるかと思 … Javaで浮動小数点数または倍精度で浮動小数点精度エラーを回避する方法は? 点第二位以降の値まで含んでいるため起きる誤差です。浮動小数点以降の値が多いほど誤差が出やすく、小数点第二位までの値をExcelで正. PHPとExcelのワークシート関数を使って小数点の演算を行い、両者が正しい値を返しているかを比較しているのですが、どうしても計算が合いません。例えば、次のような計算です(小数点は少数点以下第4位までに統一されています)。0.0034×0. 計算過程で誤差が生じてしまうというものです。 これらの事は、Microsoftの各種ページでも解説されていますので、興味があれば読んでみてください。 Excel で浮動小数点演算の結果が正しくない場合がある 浮動小数点演算で丸め誤差を修正する方法 ワークシートで時間計算をしていると、時に不可解な結果に見舞われることがあります。エクセルの時間は、1日を1とした数値で管理されているため、1時間は1の24分の1の数値になります。この少数以下の計算において、エクセルが正しく計算できないというものです。

(8) BigDecimalようなクラスを使って、この特定の問題を避けることができます。floatとdoubleはIEEE 754浮動小数点であり、完全に正確に設計されていないため、高速に設計されています。 1．浮動小数点型の丸め誤差. 小数10桁ちょっとくらいまでは、正確なので、 実用上は、問題がないレベルでの計算はできます。 でも、非常に細かいところで、 数値が正しくない場合があるのです。 これを、 「演算誤差」と呼んでいます 。 ただ、 その演算誤差は、ごくごく小さいので、