なぜ、誤差が発生するのか 原因としては、 Double 公式リファレンス で記載があるように、Double型は、IEEE754 に準拠しているためです。 どういうことかと言いますと、プログラムとして、doubleを記述する際には10進数で表現していますが、ソフトウェア内部 表計...
少数の掛け算 やり方 129620-小数の掛け算 やり方
小数点の位置は関係なく、右詰にして普通に掛け算を行い、出た答えに小数点以下の合計の桁で小数点をつけくわえます。 045 × 13 この問題の場合は、045の小数点以下は2桁、13の小数点以下は1桁なので、合計で小数点以下は3桁です。 045 ×) 13 135 45 0585 今...
登録:
コメント (Atom)
