数学的つながり：ランダム性の2つの顔を理解する

数学の世界において「ランダム」という言葉は、実は2つの異なる側面を持っています。この投稿では、一見似ているようで全く異なる、その2種類のランダム性について深掘りします。

エントロピーの盲点に関する説明はちょっと違うと思う。ルールに基づいて生成されるものがあっても、実際にはエントロピーにとって問題にはならない。例えば連分数のように、特定の数値に対する生成ルールが簡単なものについてもエントロピーは計算できるし、小数の展開も同じことが言える。本当の盲点は、エントロピーは特定のシーケンスに対しては意味をなさないってことだ。数字がどう生成されるかの理論がなければ、π（パイ）のエントロピーについて問うことはできない。もちろん、0から10の間で一様にランダムな実数を選ぶという前提なら両方のファイルは同等のエントロピーを持つけど、πが送られてくるなんて可能性は極めて低い。実はこの盲点にはもっと微妙な側面があって、それにはもう少し複雑な仕組みが必要になる。エルゴードシステムに対するエントロピーを定義できるんだけど、これはある種の数学的なRNGと見なせる。結局のところ、これは特定の分布とほぼ同等なものを生成する方法を提供するわけだけど、この議論は「すべての」開始点ではなく「ほとんどの」開始点に対してしか成り立たない。わかりやすい例を挙げると、πは（たぶん）完璧に良好なランダムな数字の分布を生成するけど、1/3のようなものはそうじゃない。

この議論でモヤモヤするのは、πを生成する最短のプログラムなんて存在しないってことだ。それを動かすにはコンピュータが必要だけど、それって巨大な非圧縮データだし、人間が計算するにしても計測不能なほどのエントロピーが必要になる。無理数のπは数字が滑らかに分布してるし、ゼロが詰まったファイルは圧縮可能だってことはわかるけど、どちらもプログラムを走らせるわけじゃない世界の一部で、実用的な意味では大差ない気がする。あくまで個人的な考えだし、混乱させたらごめん。