4. コンピュータにおける数値の表現
コンピュータとは、文字通り、「計算機」であり、さまざまな種類の数値を扱う。非常に大きな数、小さな数まであり、いずれも扱えなければならない。また、数値ではない、画像や音声などの非数値データも扱う必要がある。
しかし、コンピュータの内部では、0と1しか扱えないので、計算するときには、取扱う数値ごとに数値の表し方を取り決めておく必要がある。整数といっても、1バイトで表せるものから数バイトになるものがある。CPUのビット数が増えるにつれて、整数を表すバイト数も増える。また、事務処理分野では、桁の多い10進数を正確に表現する必要がある。科学技術分野では、天文学的大きな数値からミクロの世界の数値まで、幅広く表現できる必要がある。
本章では、整数、浮動小数点、コード体系について学んでほしい。
- 整数
- 固定小数点、浮動小数点
- 仮数、基数、指数
- IEEE形式の浮動小数点
- 丸め誤差、打切り誤差、けた落ち誤差、情報落ち誤差
- 2進化10進数
- ゾーン10進数、パック10進数
- パリティチェック
- K(キロ)、M(メガ)、G(ギガ)
- ASCIIコード、JISコード、シフトJISコード、EUCコード、Unicode、EBCDICコード