- 三囚人問題にみるベイズの定理と直感
- http://www.madlabo.com/kiyo/standard/kakuritu/Bayes.htm
ベイズ理論とは、英国の長老派教会派の牧師であったトマス・ベイズ（1702-61）により築かれた確率の原理である（注1）。ベイズが発見したといわれる定理によれば、原因から結果が生ずる確率が与えられると、結果が原因から生ずる確率が分かる。数学的に述べれば、ベイズの定理とは、事象EとHに対して、HならばEという条件付き確率P(E|H)と、EならばHという条件付き確率P(H|E)を結びつけるものである（注2）。Ｅという事象を観測することで、Ｈに関する確信度を示すHの確率分布が正確になる（注3）。これをベイズ更新という。
ベイズ理論では、原因の分布を最初に主観的に選び、データが観測される度にこれを更新するため、帰納的主観的であるといわれる。ベイズ統計学の研究者達は、この分布は主観的に選んだ初期の分布によらず、最終的には真の分布に収束すると主張したが（注4）、演繹的客観的な理論構築を目指していた正統的な統計学からは長い間異端視されていた（注5）。
注1.実は、ベイズ本人がベイズの定理を書き残したという事実は確認されていないらしい。
注2.P(E|H)P(H)=P(H|E)P(E)。
注3.P(H)は事前分布、P(H|E)は事後分布、P(E|H)は尤度（もっともらしさ）とよばれる。
注4.計量経済学で流行しているＭＣＭＣ（マルコフ鎖モンテカルロ）法はこのことを根拠にしている。
注5.余談だが、私が知る限り、ベイズ理論の応用研究をしている学者は皆一様に口をそろえて、自分はベイジアンではないのですが、と一旦ことわってから研究発表をすることが多い。
