目次

浮動小数点

固定小数点も参照
コンピュータで浮動小数点を扱う規格に関してはIEEE754にまとまっている.
計算時に丸め誤差や桁落ちが発生することがあるので注意.
マイコンで処理するときには以下のツールが便利
Floating Point to Hex Converter
浮動小数点数内部表現シミュレーター

Cでの例外チェック

C言語の標準ヘッダにfenv.hがある.C99から導入された. ここに浮動小数点での例外のマクロが定義されている.
しかし,GNU Arm Embedded Toolchainに含まれているfenv.harm-none-eabi/include/sys/fenv.hを参照)では以下の例外のマクロがコメントアウトされている.

参考文献

浮動小数点の計算方法と注意
IEEE 754 浮動小数点入門
IEEE754と数値計算 浮動小数点演算の特徴とは
ORCLEの資料が細かくのってる
付録 D 浮動小数点演算について
第 2 章 IEEE 演算機能

fenv.h

第3章 数値データの表現法