浮動小数点
固定小数点も参照
コンピュータで浮動小数点を扱う規格に関してはIEEE754にまとまっている.
計算時に丸め誤差や桁落ちが発生することがあるので注意.
マイコンで処理するときには以下のツールが便利
Floating Point to Hex Converter
浮動小数点数内部表現シミュレーター
Cでの例外チェック
C言語の標準ヘッダにfenv.h
がある.C99から導入された.
ここに浮動小数点での例外のマクロが定義されている.
- FE_DIVBYZERO ゼロ割例外
- FE_INEXACT 不正確結果例外
- FE_INVALID 無公演前例外
- FE_OVERFLOW オーバーフロー例外
- FE_UNDERFLOW アンダーフロー例外