先頭へ構造
先頭へ
- 小数点の位置をあらかじめ固定して、2進数で表現する
- 固定小数点の長さはワード（語）で決まる
- 1ワードの長さは16、32ビット、64ビットがある
固定小数点の例
先頭へ
- 2進小数101.01を8ビット固定小数点で表現せよ。小数点は下から2桁目のところにあるとする
00010101
となる。
特定の問題の計算だけ行うのであれば、こういう約束をすることも可能特性・特徴
先頭へ
- 技術計算において、整数のデータを扱う場合に用いられる
- 固定小数点の演算結果が表現範囲を超えることをオーバーフロー(桁あふれ)という
- オーバーフローした数値は演算対象にならない
オーバーフローの例
先頭へ
- 8ビットの符号なし整数の場合、0〜255までの整数を表現できるが、ある演算結果で値が256以上になった場合、範囲内で表現できないのでオーバーフローとなる(固定小数点の場合も同様)
