2020年08月25日
「次の10進小数を指定の浮動小数点数で表現しなさい」な問題の問題
- 2020-08-25 (Tue)
- 一般
「浮動小数点数」ってなんぞや問題．通常は，「小数を表す符号である2進数」だと思うのだろうけど，名前の最後が「数」なので，「小数を表す符号である2進数で表された小数（値）」と考えられなくもない．
ということで「与えられた10進小数を浮動小数点数に丸めた後の10進小数を答ててバツになったのはなんで？」という質問があった．悩ましい．
- Comments: 0
- TrackBack (Close): -