情報の意味についてのアイデア

この記事は哲太が書きました。
【基礎知識】情報理論、量子力学

　先の記事「コミュニケーションに関する3層構造」において、情報の意味を定量化することに興味があることを述べました。

１．シャノン情報量

　ある事象の情報量Iの定義は、ある情報が確率pで見いだされるときに

　I = -logp

　とあらわされます。これはつまり、確率が小さいものほど情報量が多く、また独立同一分布に従う２つの事象が連続して起きたときには情報量は2倍になるということを定量化したものといえます。要はびっくり度です。

　これの期待値が情報エントロピーで、

　H = -∑plogp

　と定義されます。情報エントロピーはシャノン情報量といわれることもあります。事象の従う確率分布全体の平均的な情報量を定量化したものです。要は、ある情報源がどれだけの情報量を持っているかを表しています。

　これがシャノンの情報理論における、情報量の定義です。エントロピーが大きい情報源ほど、多くの情報を取り出すことができるということです。Hは最大値があって、これは事象が一様分布に従うときです。

　発現確率が一様分布に従う（公正なコイントスを思い浮かべてください）ということですから、何が出るか予想がつかないということで、これはびっくり度が一番高いというのは直感的にわかります。

　何かしらの傾向があればあるほど情報量は少なくなります。ただし、今考えたいコミュニケーションにおいては、単に情報量だけが重要とは言えなくなります。限られた情報量でもヒトはそこに無限の意味を見出す可能性があります。

２．波動関数

　量子力学において、系の状態は波動関数であらわされます。場所と時刻を波動関数に代入すれば、系全体がうねうねしているのか、しーんとしているのか、そういったことがすぐわかるわけです。

　一般的に、系がある量子状態をとる確率は、その波動関数の固有関数の係数の２乗であらわされます。状態の発現のしやすさが、状態の性質そのものによって規定されているのです。

３．量子力学と情報理論の接点

　情報理論においては、出発点が確率分布でした。量子力学における出発点はあくまで実験事実であり、それを記述するための方法が波動関数であって、その波動関数に確率的意味を付与するのが量子力学の役目だという風に考えています。

　ここで、

　確率振幅　⇔　確率分布
　波動関数　⇔　情報の意味

　という対応を考えてみます。波動関数は力学系において、ある時刻における系の状態情報を担っているものです。この発現確率は、この波動関数の形状そのものに依存します。

　対応させれば、情報の意味とは情報のある種の形状であると思えば、この形状そのものがこの情報の発現確率を規定しているはずです。この対応付けは単なる思い付きで、特に根拠はないのですが、情報という系においても力学的な構造がある可能性は否定できません。

　こうすると、情報の波動関数のようなものを考えることができれば、量子力学の仕事をかなり応用することが可能になるでしょう。量子力学では状態そのものの解釈の研究も盛んになされていますから、これが情報の定量的意味の解釈につながらないとも言い切れません。

　僕の方向性では、あくまで言語によるコミュニケーションに焦点を当てたいと思っていますので、これが言語関数のような、言語情報の状態そのものを記述できるようなものを考えられるのではないかと思っています。

　思いつきというか、メモでした。読みにくくてすいません。