ベイズの定理とは、観測された結果から原因の確率を逆向きに計算する公式です。
定義
ベイズの定理は、事象 と事象 に関する次の等式です。
は「 が起きたという条件のもとで が起きる確率」を意味します。これを条件付き確率と呼び、二つの確率の間に「」で条件を区切る記法を使います。
各記号の役割を整理します。
- : 事前確率(prior probability)。観測の前に持っている の確率の見積もり
- : 尤度(likelihood)。 が真のとき がどれくらい起きやすいか
- : 周辺確率(marginal probability)。 の有無にかかわらず が起きる全体確率
- : 事後確率(posterior probability)。 を観測した後に更新された の確率
分母の は次の式で展開されます。 が起きる場合と起きない場合(余事象 )に分けて足し合わせたものが です。
これを全確率の公式と呼びます。観測 が起きるルートは「 を通るルート」と「 を通るルート」の二つしかないため、それぞれの寄与を足せば全体の が得られます。
主定理が成り立つ理由を 2 行で確認します。条件付き確率の定義より が成り立ちます。同様に も成り立ちます。二つの式の右辺が同じ であることから、両辺を で割ると が得られます。
性質
ベイズの定理が持つ主な性質を列挙します。
- 条件を逆向きに読み替える: 手元にあるのが (原因 が真なら結果 がどれくらい起きやすいか)でも、定理を使えば (結果 を見た後の の確率)を計算できます。
- 観測が確率を更新する: は観測前の確率、 は観測後の確率です。新しい証拠 を得るたびに確率を書き換えていく「更新の仕組み」として機能します。
- 分母 は正規化定数: は事後確率が「確率として合計 1 になる」ように調整する役割を持ちます。事後確率の大小関係を比べるだけであれば、分母 は計算不要です( は によらない定数だからです)。
- 独立な場合は更新が起きない: と が独立なとき が成り立ち、 となります。観測 が に関する情報を何ももたらさないとき、事後確率は事前確率のまま変わりません。
視覚的に見る
の正方形を全確率空間として、4 セルに分割した図でベイズの定理を読みます。縦方向に と で分け、横方向に と で分けた単純格子です。各セルのラベルが同時確率を示します。面積は確率に比例しない点に注意してください。
横軸は「 の確率空間」、縦軸は「 の確率空間」を表します。縦軸では (下側、)と (上側、)に分かれます。 のセル(左下、青色)の同時確率は です。青い点線()はその値の位置を横軸上に示しています。 列()の同時確率の合計は です。
「 が起きた」という観測は「 列の確率だけに着目する」操作です。条件付き確率の定義より です。
事前確率 が観測後に へ上昇しています。 が起きやすい状況()に があるため、 を観測することで の可能性が高まっています。
実世界での使われ方
医療検査
検査の感度(sensitivity)と特異度(specificity)から、陽性を受けた患者が実際に病気である確率(陽性的中率、positive predictive value)を計算するとき、ベイズの定理が使われます。
事前確率 が病気の有病率、尤度 が感度、 が偽陽性率()に対応します。たとえば有病率 1% の集団に感度 90%・特異度 95% の検査を使うと、陽性的中率は にしかなりません。検査が陽性でも、実際に病気である確率は 15% です。感度と特異度が高くても、有病率(事前確率)が低ければ陽性的中率は低く抑えられます。国立感染症研究所も新型コロナウイルス対策の検査体制を議論する文脈でこの構造を示しており、有病率の変化に伴う陽性的中率の変動が公衆衛生上の論点となりました。
スパムフィルタ(ナイーブベイズ)
メール本文中の単語列から「スパムである確率」を計算する標準的な手法がナイーブベイズ分類器です。メールに含まれる単語 が観測されたとき、スパム である事後確率を計算します。各単語が独立に出現するという仮定(ナイーブ仮定)を置くと、尤度 に分解でき、大量の学習データから各単語の出現頻度を事前確率・尤度として蓄積して更新し続けます。1990 年代後半から 2000 年代のスパムフィルタに広く組み込まれ、実用上の有効性が示されました。
信用スコアの更新
金融機関が個人の返済履歴という観測データから、デフォルト確率()を逐次更新する場面でもベイズの定理の構造が使われます。事前確率 は属性情報から決まる初期リスク推定値で、返済履歴という観測 を積み上げるたびに事後確率に書き換えます。金融庁が整備した「信用情報機関」のデータベースを活用した審査モデルの背後にも、この更新構造が組み込まれています。
深掘り
歴史的経緯
トーマス・ベイズ(Thomas Bayes, 1701–1761)は英国の非国教会派牧師で、確率論への貢献は没後に発表されました。ベイズの死後、友人のリチャード・プライス(Richard Price)が遺稿を整理し、1763 年に "An Essay towards solving a Problem in the Doctrine of Chances" として英国王立協会の「Philosophical Transactions」に発表しました。ベイズ自身が生前にこの論文を公開していなかった理由については諸説あり、結果の不完全さを感じていたためとも、当時の哲学的論争に巻き込まれることを避けたためとも推測されています。
ベイズの結果は当初ほとんど注目されませんでした。フランスのピエール=シモン・ラプラス(Pierre-Simon Laplace, 1749–1827)が 1814 年の著作『確率の哲学試論』(Essai philosophique sur les probabilités)でベイズと独立に同じ原理を定式化し、現在の形に整理したことで広まりました。現代では「ベイズの定理」と呼ぶのが慣例ですが、理論的な整備に最も貢献したのはラプラスです。
頻度主義との哲学的対立
ベイズの定理を「事前確率を主観的信念として設定し更新する」枠組みとして捉えるベイズ統計学と、確率を長期的な試行頻度として定義する頻度主義統計学は、20 世紀を通じて対立し続けました。ネイマン=ピアソン流の仮説検定・信頼区間が 20 世紀前半に統計学の主流となる一方、ベイズ統計学は計算コストの問題から長らく周辺に留まりました。1990 年代以降、マルコフ連鎖モンテカルロ法(MCMC)の発展によって複雑な事後分布の計算が現実的になり、機械学習・医学研究・経済学など広い領域でベイズ統計が再評価されています。この哲学的対比の詳細は stats-17「ベイズ更新」で扱います。
ナイーブベイズへの一般化
観測 を単一の事象ではなく複数の特徴 の組に拡張すると、ベイズの定理は次の形になります。
各特徴 が を条件として互いに独立であるという「ナイーブ仮定」を置くと、尤度が積の形に分解されます。この仮定は現実には成り立たないことが多いですが、分類精度は実用上十分に高く、テキスト分類・スパムフィルタ・文書カテゴリ分類のベースラインとして今も広く使われています。ナイーブベイズは機械学習の歴史上、最も古典的な確率的分類器の一つです。
関連する用語
- 条件付き確率(ベイズの定理を支える基礎概念)
- 事前確率(観測前に設定する確率)
- 事後確率(観測後に更新された確率)
- 尤度(原因が真なら結果がどれくらい起きやすいかを表す値)
- 独立性( が成り立つ場合)
よくある誤解
と は別の数です。「検査陽性である確率」と「病気であれば陽性になる確率(感度)」は異なります。感度 90% の検査でも、有病率が低ければ陽性的中率は 90% に近くなりません。前節の医療検査の例で確認できるとおり、有病率 1%・感度 90%・特異度 95% のとき陽性的中率は約 15% です。この取り違えを「検察官の誤謬」(prosecutor's fallacy)と呼び、法廷における統計証拠の誤用として知られています。
「事前確率を設定するのは恣意的でないか」という批判は頻度主義の立場からよく出されますが、分母 の計算には必ず が必要です。ベイズの定理は公式として数学的に正しく、批判の対象は「事前確率をどう決めるか」という応用上の問題です。事前確率を過去データや専門知識から設定する場合と、一様分布で均等に設定する場合とで結果が変わることは事実ですが、その差は観測データが積み上がるにつれ小さくなります。
この用語を扱う本編記事
本編記事 stats-07: 条件付き確率とベイズの面積 では、面積モデルを使ってベイズの定理を導く過程を節 4 で核心展開しています。本辞典ページで記号と数値の確認ができたら、本編で「なぜこの公式になるのか」の構造的理解に進んでください。