気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
71 usersがブックマーク
25
25
"「0.1+0.2≠0.3」だから浮動小数点数を扱うときには気を付けましょう" はいいんだけど結局どうしたらいいのかまでフォローしたほうが親切だと思ったので調べてみた - Qiita
71 users
qiita.com/nirasan
qiita.com/nirasan
記事へのコメント25件
- 注目コメント
- 新着コメント
strawberryhunter
30年近く前に古のC FAQで読んだ。十分に近いかどうかを判定する。確認してみたら出典はKnuth本みたい。C FAQでの判定は fabs(a - b) <= epsilon * fabs(a) になっていて、たぶん * fabs(a)は超でかい値のために閾値を調整する。
turanukimaru
どちらが大きいかではなく同値かが必要な場面ってなんだってのが問題なんだがな。お金の話なら要求されてる精度を使えば良いし、科学技術計算の場では比較は有っても同値はない。同値があったらそれはたまたまだ。
omioni
普通に先人の知恵を借りましょう(この分野は学術的に長年使われてて情報が多い) https://www.nag-j.co.jp/fortran/numerical/numerical_2.html https://www.xlsoft.com/jp/products/intel/compilers/fcw/12/ug/fpops/fortran/fpops_round_err_f.htm
tattyu
事情も知らずに整数やdecimal使えって言うコメ、同じ職場に居たら怖すぎて相談するレベル。同値判定必要になる事はあるので知識として知っておいても良いと思うわ。俺は大体6桁位同じなら同値として扱う様にしてる。
Windymelt
ScalaやJavaにはBigIntとかBigDecimalがあるっス。メモリが許す限り無限精度の整数（BigDecimalでは小数を含む10進数）を扱えるっス。Scalaだとある程度最適化があってJavaより少し効率が良い場面があるっス
el-condor
抑もPHPでfloatというの、昔マイナーバージョンで非互換が発生した話を聞いてから怖くてなかなか使えない/金額関連なら通常はdecimal(元記事も本来このケース)、複雑な計算の誤差が気になるならrationalを使うのが良い。
Windymelt
ScalaやJavaにはBigIntとかBigDecimalがあるっス。メモリが許す限り無限精度の整数（BigDecimalでは小数を含む10進数）を扱えるっス。Scalaだとある程度最適化があってJavaより少し効率が良い場面があるっス
matarillo
実数での数値計算をしたいなら「差がある程度の誤差より小さければ同じ数」以外にもいろんな注意点があるし、桁数が限られる十進小数を扱いたいんならdecimalがいい。「0.1+0.2≠0.3」では前者には見えないのよね。
turanukimaru
どちらが大きいかではなく同値かが必要な場面ってなんだってのが問題なんだがな。お金の話なら要求されてる精度を使えば良いし、科学技術計算の場では比較は有っても同値はない。同値があったらそれはたまたまだ。
omioni
普通に先人の知恵を借りましょう(この分野は学術的に長年使われてて情報が多い) https://www.nag-j.co.jp/fortran/numerical/numerical_2.html https://www.xlsoft.com/jp/products/intel/compilers/fcw/12/ug/fpops/fortran/fpops_round_err_f.htm
hase0510
decimalなら誤差が出ないと素朴に思ってる人、いるんだよなぁ... decimalの1を3で割って3をかけると0.9999...になるよ（CPythonで確認）。あと一般にdecimal型は浮動小数点数より計算が遅い。ちゃんと仕組みを理解しないとダメよ～
tattyu
事情も知らずに整数やdecimal使えって言うコメ、同じ職場に居たら怖すぎて相談するレベル。同値判定必要になる事はあるので知識として知っておいても良いと思うわ。俺は大体6桁位同じなら同値として扱う様にしてる。
masaru_al
そもそも浮動小数点数を == や != で比較判定しようと考えないこと。これに尽きます。そういう状況に出くわしたら、何か間違ったことをやっているのではと考えるべし。離散値を扱う状況なら素直に整数型を使いなさい
strawberryhunter
30年近く前に古のC FAQで読んだ。十分に近いかどうかを判定する。確認してみたら出典はKnuth本みたい。C FAQでの判定は fabs(a - b) <= epsilon * fabs(a) になっていて、たぶん * fabs(a)は超でかい値のために閾値を調整する。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
"「0.1+0.2≠0.3」だから浮動小数点数を扱うときには気を付けましょう" はいいんだけど結局どうしたらいいのかまでフォローしたほうが親切だと思ったので調べてみた - Qiita
"「0.1+0.2≠0.3」だから浮動小数点数を扱うときには気を付けましょう" はいいんだけど結局どうしたらい... "「0.1+0.2≠0.3」だから浮動小数点数を扱うときには気を付けましょう" はいいんだけど結局どうしたらいいのかまでフォローしたほうが親切だと思ったので調べてみたPythonプログラミング初心者数学浮動小数点数 釣られた https://qiita.com/higashi_nc/items/9a5ea00415a008f06843 に釣られて読みました。 2行でまとめると以下のような内容です。 10進数の0.1や0.2は浮動小数点数で表すとピッタリ0.1や0.2にはならずに誤差が出る 浮動小数点数の扱いを理解して、より堅牢なプログラムを作成することを願っています。 え？結局どうしたらいいの？という感想だけ残ったので各言語での浮動小数点数同士の比較の方法を ChatGPT に教えてもらいました。 結局どうしたらいいのか 基本的に浮動小数点数同士の差がある程度の誤差より小さければ同じ数であ
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
qiita.com/nirasan
qiita.com/nirasan
qiita.com/nirasan
qiita.com/nirasan
nigenige110.hatenablog.jp
blog.tenjuu.net
anond.hatelabo.jp
xtrend.nikkei.com
www.bloomberg.co.jp
www.apple.com
www.ubuntulinux.jp
anond.hatelabo.jp
xtech.nikkei.com
www.itmedia.co.jp
av.watch.impress.co.jp
www.battlexroad.com
373news.com
2023/12/12 リンク