熱力学、統計力学、情報理論
熱力学とは
正月に実家に帰った時に親に質問された。「エネルギーEとエントロピーSは何が違うのか。」
この質問はこう言い換えても良い。「エネルギーEと温度Tは何が違うのか。」
これは僕が小学生の時に抱いた疑問でもある。温度Tが高いと物体のもつ内部エネルギーEは大きい。
比熱Cが分かっていれば、内部エネルギーEはE＝CTで与えられる。
この関係だけをみると「もう、温度なんていらないじゃん」と思えるわけである。
最初の質問「エネルギーEとエントロピーSは何が違うのか。」に対して、僕は次のように答えた。
熱いお湯が入っているコップと冷たい水が入っているコップがある。それを混ぜるとぬるま湯ができるが、エネルギーは変わらない。しかしながら、「ぬるま湯」と「熱いお湯と冷たい水」では明確な区別がある。ぬるま湯からは、熱いお湯と冷たい水はできない。その区別を定量化したものがエントロピーだ。また、熱いお湯とぬるま湯では、適当な熱機関で取り出せる機械的な仕事は違う。これはエネルギーの使いやすさを意味しているとも考えられる。つまり、エネルギーとは別にエネルギーの使いやすさ(質)を表す量が必要であり、それがエントロピーだ。また、一度、ぬるま湯になったら原理的に取り出せる仕事が減っていくように、エネルギーの使いやすさ(質)は劣化していく一方である。これがエントロピー増大法則である。
僕はこの解答で熱力学の主張をほとんど言い尽くせていると考えている。ここで注意するのは、エネルギーの使いやすさ(取り出せる仕事)が「適当な熱機関を通じて取り出せる仕事」で定義されていることである。この仕事を通じて、熱力学のエントロピーは定義される。
適当な熱機関とはざっくばらんに言うと蒸気機関のことである。熱力学の授業を初めて受けた時、ピストンの膨張(カルノーサイクル)の説明が退屈で、それがどう物理の中で位置づけがあるのかが分からなかった。
つまり、熱力学がなんだかよく分からなかったのである。
そんなこんなでしばらく授業が進むと統計力学を習うことになる。ここでのエントロピーはすごく簡単だ。
ボルツマンエントロピー
S＝k log Ω (k＝ボツルマン定数 Ω＝状態数)
統計力学では、マクロな状態はミクロな構成要素の組み合わせで実現されると考える。
同じエネルギーをもつマクロ状態でもミクロにみれば異なるわけで、そういうものを数え上げたものが、「状態数」である。その状態数を数え上げればエントロピーが求まる。熱力学では蒸気機関(気体)についてだけだったが、今度は気体に限らず固体やゴムとかでも計算できる。でも、なんでこんな式が成り立つんだ？
いろんなモデルについてのついてのエントロピーを計算するが、ボルツマンエントロピーそのものについては良く分からずこれが自然の法則だと思い込む。
すっかり謎な量になってしまったエントロピーだが、どうやら情報理論を勉強すると、ボルツマンエントロピーはシャノンの情報エントロピーと同じものらしいことが分かる。シャノンの情報エントロピーは、情報量という明確な意味がある。直感的に言うならば、あるデーターの情報エントロピーは可逆圧縮したバイト数だと思って差し支えない。
情報エントロピーとボルツマンエントロピーの関係は昔から議論されていて、有名なものでは、ジラードエンジンとかマクスウェルの魔の思考実験が知られている。最近では沙川氏らによる論文もあるし、実験もされている。
どうやら、エントロピーは情報と思っていて良いのかな?
もう一回考えよう
熱力学のエントロピーは、カルノーサークル(熱機関)によって求められた非常に狭いものであった。
統計力学のボルツマンエントロピーは、不思議な感じがするけど、ミクロな量を数え上げたものだった。
情報理論のシャノンエントロピーは、情報量であった。
熱力学と情報理論は、統計力学を通じてつながっているように思える。
果たして、それは正しいのであろうか？
熱力学は扱っている範囲が狭いけど非常に現密な理論である。次に問題にしたいのは、ボルツマンエントロピーの不思議な式だ。
S＝k log Ω (k＝ボツルマン定数 Ω＝状態数)
注意深く統計力学のボルツマンエントロピーの導出をみると、ボツルマンエントロピーの式と熱力学のエントロピーは理想気体についての考察によって導かれている。つまり、理想気体以外の場合にボルツマンエントロピーを適用するのは推論でしかない。
統計力学と情報理論との関係はどうであろうか。有名な思考実験は理想気体との関係で考えられているものである。
理想気体とは何かと考えてみると、これは熱力学でカルノーサイクル(熱機関)で使われるものである。
つまり現在の理解のあり方では、エントロピーというのは厳密にはおよそ200年前(1824年)にCarnotが示したカルノーサイクル以上の内容を持たないのである。
統計力学がやっているのはモデルにすぎず、分子動力学によるシミュレーションが定性的な性質を解明こそすれ、厳密な物理量を導かない様に、理想気体以外に適用されたボルツマンエントロピーは、定性的な性質を考えるモデル以上の意味を持たない。
結局、何が言いたいのかというと、カルノーサイクルからはみ出たことを理解するのは難しいねってことです。
僕は何をやりたいのか。
エントロピーをエネルギーの使いやすさで考えてみたい。
既存のエントロピーは、熱機関で取り出せる仕事で定義されていた。
でも、取り出せる仕事って、どんなシステムを使うかに依存するはず。
システムごとに意味のあるエントロピーってのを考えたい。
こんなところですかね。まあ、何もしていませんが。
