4. コンピュータにおける数値の表現

  コンピュータとは、文字通り、「計算機」であり、さまざまな種類の数値を扱う。非常に大きな数、小さな数まであり、いずれも扱えなければならない。また、数値ではない、画像や音声などの非数値データも扱う必要がある。

  しかし、コンピュータの内部では、0と1しか扱えないので、計算するときには、取扱う数値ごとに数値の表し方を取り決めておく必要がある。整数といっても、1バイトで表せるものから数バイトになるものがある。CPUのビット数が増えるにつれて、整数を表すバイト数も増える。また、事務処理分野では、桁の多い10進数を正確に表現する必要がある。科学技術分野では、天文学的大きな数値からミクロの世界の数値まで、幅広く表現できる必要がある。

  本章では、整数、浮動小数点、コード体系について学んでほしい。



  • 整数
  • 固定小数点、浮動小数点
  • 仮数、基数、指数
  • IEEE形式の浮動小数点
  • 丸め誤差、打切り誤差、けた落ち誤差、情報落ち誤差
  • 2進化10進数
  • ゾーン10進数、パック10進数
  • パリティチェック
  • K(キロ)、M(メガ)、G(ギガ)
  • ASCIIコード、JISコード、シフトJISコード、EUCコード、Unicode、EBCDICコード