fixed_point_number

固定小数点

浮動小数点も参照
FPGAやDSPで使うことが多い．
その名の通り，その変数において小数点の位置が固定
小数点の位置によって，表現できる範囲，分解能が変化する．

Qフォーマット(Q表記)

小数点の位置を表す．

右シフトすると，それだけ桁を落とすことになる．→Qの数が小さくなることになる．

参考文献

固定小数点の丸め誤差
●固定小数
固定小数点(整数)演算ソフトウェアの開発方法
第3章 数値データの表現法

  • fixed_point_number.txt
  • 最終更新: 2023/02/28
  • by yuqlid