お正月で、飲んだくれてばかりでも何ですね。
突然ですが、久しぶりにサイエンスネタなど。
かなり昔に、「そろばん はデジタル計算機だ」という記事を書いたことがあります。
■過去記事： アナログ と デジタル
まぁ、一般的に、「デジタル といえば、即コンピュータ」という感覚も分からなくもないのですがね。
ところで、コンピュータでは、ビット(bit) という単位を使います。
いまや、おなじみですよね。
情報量の最小単位
１bit で、０ と １ を表せる
ごもっとも。
全くもって、そのとおりです。
でも、情報量 ってなぁに？
そもそも、情報の量なんて 数値 で表せるものなの？
同じ情報でも、その価値(情報量)は違いますよね。
たとえば、冬の北陸で「明日は大雪です」という情報があっても、「なぁんだ、またか」という程度です。
でも、これが東京だったら、大騒ぎですよね。
実は、情報量は、次の式で表されます。
情報量＝情報が与えられた後の確率/情報が与えられる前の確率
よく起こることの情報より、起こりそうにないことの情報の方が、価値(情報量)が大きいってことになります。
つまり、「犬が人に噛みついた」という情報より、「人が犬に噛みついた」という情報の方が、情報量が多いということです。(^ ^;
なんだか、分かりにくいですね。
具体的な例で説明しましょう。
たとえば、ディラーがサイコロを１つ振って、その目を当てるゲームをしたとします。
もちろん、サイコロの目は、ディラーしか知りません。
当然、サイコロの目が当たる確率は １/６ です。
このとき、ディラーから、「サイコロの目は偶数だ」という情報が与えられたとします。
これで、サイコロの目が当たる確率は １/３ になりました。
このときの情報量は、上の式に当てはめるとこうなります。
(１/３) / (１/６) ＝ ２
さらに、一般的に情報量は、対数で表します。
対数の底は、コンピュータで扱うのに都合がよいので、２ をとることにします。
つまり、こうなりますね。
log２ ２ ＝ １
ということで、この場合、ディラーから得られた情報量は １bit ということです。
これが、ビット の意味です。
そりゃ、サイコロの目は、偶数 か 奇数 か２つに一つですから、こんな回りくどいこと言わなくても １bit に決まっていますけど。(^ ^;
でも、これが本質です。
ビット というと、コンピュータで扱うデジタルの世界のように思っちゃいます。
しかし、その意味を理解すると、情報量は決してコンピュータに限ったものではないし、情報量 の値が デジタル(整数) とは限らないことも分かります。
ちなみに、「サイコロの目が １ である」という場合の情報量は、こうなりますね。
log２ (１ / (１/６)) ＝ ２.５８４９６２５・・・ (bit)
この場合、情報量は整数ではなく、実数になります。
情報の量を数値で表すというすばらしいアイディア！
これを考え出したのは、アメリカの科学者 クロード・シャノン です。
情報理論の父と呼ばれる、情報科学のスーパースターです。
シャノン が生み出した情報理論おかげで、情報を数値で扱うことが出来るようになり、その後の情報科学の飛躍的発展に繋がりました。
まさに、天才！
ついでに、もう一つ。
なぜ、対数の底に２をとると都合がよいかというと。
対数 logｎｘ は、、本質的に、その引数 ｘ が、底 ｎ を基数とする ｎ進数での桁数を表します。
たとえば ８bit は、２進数の８桁で表すことのできる情報量ということになります。
つまり、０ か １ かの信号が８つあれば、０ ～ ２５５ の ２５６種類の状態を表せるということです。
これは、コンピュータをはじめとするデジタル回路と非常に相性がよく、とても使いやすいですよね。
えっ、そんなことはどーでもいいって。
ごもっともです。(汗)
正月から、いったい何を書いてるんだか。
単に、よっぱらった勢いなんです。(^ ^;
申し訳ありません。