| チェックポイント 我々が扱う数値は桁数が無限の数値を使います。 しかしコンピュータの使用する数値は扱う桁数が有限の数値を使います。 扱う桁数が有限であるのはコンピュータのメモリには限りがあるためです。 そのため扱える数値の範囲に限りがあるだけでなくある問題も生じます。 |
コンピュータは２進数を使っていますが、我々は１０進数を使っています。
よって数値データの処理をする際に２進数と１０進数の変換を行うことがあります。
ではここで２進数を１０進数に変換する作業を実際にやってみましょう。
まず２進数を１０進数に変換するには
２進数場合、ｎ桁目の重み（値）は２の（ｎ－１）乗となります。
要するに１桁目の重みは２の０乗となります。
普通この乗数を表すには基数の右上に上付き文字で数値を記述しますが、
ワープロでは問題ありませんが現状では表しにくいので下記のように記述します。
基数＾乗数
たとえば２の０乗であれば
２＾０
ということにしておきましょう。
たとえば下記の２進数を１０進数に変換する場合にはｎ桁目の値と重みをかけてすべてを足せばいいわけです。
＆Ｂ１０１１ の場合
１桁目の値は １ です … 重みは ２＾（１－１）＝２＾０＝１ です。 掛けると １×１ で １ です。
２桁目の値は １ です … 重みは ２＾（２－１）＝２＾１＝２ です。 掛けると １×２ で ２ です。
３桁目の値は ０ です … 重みは ２＾（３－１）＝２＾２＝４ です。 掛けると ０×４ で ０ です。
４桁目の値は １ です … 重みは ２＾（４－１）＝２＾３＝８ です。 掛けると １×８ で ８ です。
これらをすべて足すと… ８＋０＋２＋１＝１１ となります。
プチコンは３２ビットで数値を表現しています。
ただし固定小数点方式ですが…
では普通に３２ビットの場合はどうなるかを考えます。
１）コンピュータにおける３２ビットの整数表現の場合
３３３２ ２２２２ ２２２２ ２１１１ １１１１ １１１
２１０９ ８７６５ ４３２１ ０９８７ ６５４３ ２１０９ ８７６５ ４３２１ 桁目
━━━━━━━━━━━━━━━━━━━━━━━━━━━━
１１１１ １１１１ １１１１ １１１１ １１１１ １１１１ １１１１ １１１１
▲少数点の位置
００００ ００００ ００００ ００００ ００００ ００００ １０００ ００００
この場合８桁目が１なので→２＾（８－１）＝２＾７＝１２８です。
ちなみに２＾ｎとは１に２をｎ回掛けるという意味です。（念のために）
２＾７＝（１×２）×２×２×２×２×２×２
＝（２×２）×２×２×２×２×２
＝（４×２）×２×２×２×２
＝（８×２）×２×２×２
＝（１６×２）×２×２
＝（３２×２）×２
＝６４×２
＝１２８
２）プチコンにおけ３２ビットの固定小数点方式の実数表現の場合
２１１１ １１１１ １１１ １１１
０９８７ ６５４３ ２１０９ ８７６５ ４３２１ １２３４ ５６７８ ９０１２ 桁目
━━━━━━━━━━━━━━━━━━━━━━━━━━━━
１１１１ １１１１ １１１１ １１１１ １１１１ １１１１ １１１１ １１１１
▲少数点の位置
整数部 小数部
固定小数点は決められた位置に小数点があると想定して数値を表します。
整数部分は１の場合と同じです。
小数部分は桁数を下記の図のように表すと小数点すぐ右が小数部１桁目です。
このときのｍ桁目の重みは ２＾（－ｍ） です。
これは
１
━━━
２＾ｍ
です。
たとえば小数部１桁目の重みは
１
━━━
２＾１
１
＝ ━━━
２
＝ ０．５
あとは同じです。
今度は１０進数を２進数に変換してみます。
つづく