目次

固定小数点

浮動小数点も参照
FPGAやDSPで使うことが多い.
その名の通り,その変数において小数点の位置が固定
小数点の位置によって,表現できる範囲,分解能が変化する.

Qフォーマット(Q表記)

小数点の位置を表す.

右シフトすると,それだけ桁を落とすことになる.→Qの数が小さくなることになる.

参考文献

固定小数点の丸め誤差
●固定小数
固定小数点(整数)演算ソフトウェアの開発方法
第3章 数値データの表現法