整数除算コードが間違った答えを出すのはなぜですか?

ジュリアンC。:

私はJavaで非常に単純な部門(1時間あたりの製品数量/生産)を持っていますが、この部門を作成するたびに奇妙なエラーが発生します。

float res = quantity / standard;

上記の除算をいくつかの値で試しましたが、常にエラーが発生しますが、他の場所で試してみて正しくなったのは次のとおりです。

世界のどこでも:

13.6 = 6800 / 500;

Java:

13.0 = 6800 / 500;

私はBigDecimalとBigIntegerを調査しましたが、これらを使用してこの除算を作成する方法が見つかりませんでした。Javaでこの除算を正確なエラーなしに行う方法は他にありますか?

どんな助けでも大歓迎です。

aioobe:

整数を除算しています。つまり、整数除算を使用しています

整数除算では、結果の小数部分が破棄されます。

以下を試してください:

float res = (float) quantity / standard;
            ^^^^^^^

上記により、分子はとして扱われfloat、分母も浮動になり、int除算の代わりにfloat除算が実行されます。

リテラルを扱っている場合は、

float f = 6800 / 500;

f分母を浮動小数点にするため接尾辞を含めるには

float f = 6800f / 500;
              ^

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

110/100を除算すると、SQLで間違った答えが返されるのはなぜですか?

分類Dev

このCコードで間違った答えが返されるのはなぜですか?

分類Dev

Python 3.4が大きな数の除算に対して間違った答えを出すのはなぜですか?また、分割可能性をテストするにはどうすればよいですか?

分類Dev

このJavaコードは正しいと見なされますが、間違った答えを出力するのはなぜですか?

分類Dev

なぜ私のコスト関数が間違った答えを出しているのですか?

分類Dev

同期ブロックが間違った答えを出すのはなぜですか?

分類Dev

Mathematicaが導関数に対して一見間違った答えを出すのはなぜですか?

分類Dev

Cの罪計算コードが間違った値を返すのはなぜですか?

分類Dev

covariance2()が間違った答えを出しているのはなぜですか?

分類Dev

このコードが間違った計算をしているのはなぜですか?

分類Dev

正規表現グループの抽出が間違った答えを与えるのはなぜですか?

分類Dev

コードが間違った値を返すのはなぜですか?

分類Dev

コードが間違った出力を表示するのはなぜですか?

分類Dev

日付フォーマット関数が間違った答えを返すのはなぜですか?

分類Dev

コードが変数に間違った値を与えるのはなぜですか?

分類Dev

base64を使用してエンコードしますが、なぜ間違った答えが返ってくるのですか?

分類Dev

pythonなぜmax(max(float_2d_array))が間違った答えを出すのですか?

分類Dev

なぜJAVAプログラムが間違った答えを出すのですか?

分類Dev

1つは大きい整数と1つは小さい整数の2つの整数を除算すると、間違った答えが返されます

分類Dev

私のコードはcodechefで間違った答えを与えています

分類Dev

TensorFlowの熱心な実行APIがこの関数に対して間違った答えを出すのはなぜですか?

分類Dev

なぜ30日以上の減算が間違った答えをもたらすのか

分類Dev

HIVEでの時差計算は間違った答えを出します

分類Dev

Swiftでpowを使用して間違った答えが返されるのはなぜですか?

分類Dev

デカルト座標と球面座標の間で変換するときに、このPythonコードが間違った答えを与えるのはなぜですか?

分類Dev

私のコードは間違っていますか?答えが見つからないようです

分類Dev

「変更計算機」が間違った出力を出すのはなぜですか?

分類Dev

leetcodeが私のatoiの答えが正しくないと言っているのはなぜですか?それは実際に間違っていますか?またはリートコードにバグがありますか

分類Dev

連結すると、コードが間違った合計を返すのはなぜですか?

Related 関連記事

  1. 1

    110/100を除算すると、SQLで間違った答えが返されるのはなぜですか?

  2. 2

    このCコードで間違った答えが返されるのはなぜですか?

  3. 3

    Python 3.4が大きな数の除算に対して間違った答えを出すのはなぜですか?また、分割可能性をテストするにはどうすればよいですか?

  4. 4

    このJavaコードは正しいと見なされますが、間違った答えを出力するのはなぜですか?

  5. 5

    なぜ私のコスト関数が間違った答えを出しているのですか?

  6. 6

    同期ブロックが間違った答えを出すのはなぜですか?

  7. 7

    Mathematicaが導関数に対して一見間違った答えを出すのはなぜですか?

  8. 8

    Cの罪計算コードが間違った値を返すのはなぜですか?

  9. 9

    covariance2()が間違った答えを出しているのはなぜですか?

  10. 10

    このコードが間違った計算をしているのはなぜですか?

  11. 11

    正規表現グループの抽出が間違った答えを与えるのはなぜですか?

  12. 12

    コードが間違った値を返すのはなぜですか?

  13. 13

    コードが間違った出力を表示するのはなぜですか?

  14. 14

    日付フォーマット関数が間違った答えを返すのはなぜですか?

  15. 15

    コードが変数に間違った値を与えるのはなぜですか?

  16. 16

    base64を使用してエンコードしますが、なぜ間違った答えが返ってくるのですか?

  17. 17

    pythonなぜmax(max(float_2d_array))が間違った答えを出すのですか?

  18. 18

    なぜJAVAプログラムが間違った答えを出すのですか?

  19. 19

    1つは大きい整数と1つは小さい整数の2つの整数を除算すると、間違った答えが返されます

  20. 20

    私のコードはcodechefで間違った答えを与えています

  21. 21

    TensorFlowの熱心な実行APIがこの関数に対して間違った答えを出すのはなぜですか?

  22. 22

    なぜ30日以上の減算が間違った答えをもたらすのか

  23. 23

    HIVEでの時差計算は間違った答えを出します

  24. 24

    Swiftでpowを使用して間違った答えが返されるのはなぜですか?

  25. 25

    デカルト座標と球面座標の間で変換するときに、このPythonコードが間違った答えを与えるのはなぜですか?

  26. 26

    私のコードは間違っていますか?答えが見つからないようです

  27. 27

    「変更計算機」が間違った出力を出すのはなぜですか?

  28. 28

    leetcodeが私のatoiの答えが正しくないと言っているのはなぜですか?それは実際に間違っていますか?またはリートコードにバグがありますか

  29. 29

    連結すると、コードが間違った合計を返すのはなぜですか?

ホットタグ

アーカイブ