ベルヌーイ分布とは、成功確率 のもとで (成功)または (失敗)のどちらかだけを取る確率変数の分布です。確率変数が 2 つの値しか持たない、確率分布の中で最小の構成です。
定義
確率変数 がベルヌーイ分布に従うとき、 の取りうる値は と の 2 つだけで、それぞれの確率は次の通りです。
を「成功確率」と呼びます。この 2 式を 1 本の式にまとめると、確率質量関数(PMF: probability mass function)は次のように書けます。
を代入すると 、 を代入すると になり、上の 2 式に戻ります。記号を確認しておきます。 はベルヌーイ確率変数、 は成功確率( 以上 以下の実数)、 は の取りうる値です。
性質
- 期待値: 。確率そのものが期待値になります
- 分散: 。 のとき最大値 を取ります
- 特殊例 : 公平なコインに対応します。このとき分散は最大で、結果が最も予測しにくい状態です
- 二項分布との関係: 個の独立同一ベルヌーイ確率変数の和が二項分布 になります。ベルヌーイ分布は の二項分布です
- 2 値分布の中で最小の構造: 離散確率変数が取れる最少の値の数は 2 です。ベルヌーイ分布はその最小構成で、確率の合計は です
視覚的に見る
のベルヌーイ分布の確率質量を 2 本の縦棒で示します。横軸は 、縦軸は各値の確率です。
図を見て把握すべきことは 2 つです。第一に、ベルヌーイ分布の確率質量は 2 本の棒だけです。連続分布(正規分布など)が曲線で表されるのに対し、ベルヌーイ分布は と の 2 点にしか確率が乗りません。第二に、期待値 の縦線(青)は と の間に位置しますが、 はこの値を取りません。期待値は「分布の重心」であって、実際に起こる値ではない点に注意が必要です。 を や に変えると、それぞれ左の棒が高くなる・右の棒が高くなるという変化が起き、期待値の縦線はその位置に追従します。
実世界での使われ方
臨床試験の主要評価項目では、患者ごとに「奏効した()」「奏効しなかった()」の 2 値を記録します。厚生労働省「医薬品の臨床試験の実施に関する基準(GCP 省令)」が定めるエンドポイントでは、各患者の応答がベルヌーイ確率変数 です。 名の合計 は二項分布 に従い、奏効率の信頼区間の導出に使われます。
Web 広告・サイト改修の A/B テストでは、訪問者 1 人ごとに「クリックした()」「しなかった()」を記録します。総務省「令和 5 年 通信利用動向調査」が集計するような Web 利用統計は、ベルヌーイ試行の累積として扱えます。クリック率の推定精度はサンプル数 と成功確率 の関数で決まり、 が分散の縮小速度を与えます。
金融のデフォルト評価では、企業 1 社の 1 年後の状態を「デフォルトした()」「しなかった()」で記号化します。日本銀行「金融システムレポート」が用いる信用リスク評価では、企業ごとのデフォルト指示変数 がベルヌーイ確率変数です。ポートフォリオ全体の損失分布は の分布として近似され、個々の のパラメータ がデフォルト確率(PD: probability of default)に対応します。
深掘り
指示変数としての見方は他分野とのつながりを示す発展で、定義を理解するだけなら不要です。
指示変数としてのベルヌーイ確率変数
任意の事象 に対し、指示変数(indicator variable) を次のように定義します。
はパラメータ のベルヌーイ確率変数です。ここから という等式が直ちに出ます。「期待値は確率の一般化」という発想の起点です。この見方は実用的で、例えば「事象 と が排反でないとき 」という包除公式は、 の両辺の期待値を取る操作として書き直せます。指示変数を経由すると、確率の計算が期待値の計算に統一されます。
二項分布の構成要素としての位置
は二項分布 に従います。i.i.d. の「独立(i)」と「同一分布(i.d.)」の 2 つの仮定は、モーメントの計算で異なる役割を果たします。期待値の線形性は独立性を必要とせず、 が出ます。一方、分散の加法性 には独立性が必要です。「i.d.」は各 が同じ を持つという条件で、 の計算で を 倍できる根拠になります。stats-06 節 6 で扱った「二項分布の期待値が 2 行で出る」という結果の背後にある構造です。
で分散が最大になる理由
を について微分すると です。 で微分がゼロになり、最大値 を取ります。この最大性は「コインが公平なときに結果が最も予測しにくい」という直感に対応します。
情報理論の言葉では、この直感をエントロピー
として定式化できます。 も で最大値 (1 ビット)を取ります。「2 値分布の中で最も予測困難」「最も分散が大きい」「最もエントロピーが高い」の 3 つの意味での「最大性」が同じ点 で揃います。この対応は偶然ではなく、分散もエントロピーもともに「分布のばらつき」を測る量だという共通の背景から来ています。ベルヌーイ分布を通すと、確率論と情報理論がともに「ばらつき」を別の言葉で測っていることが見えてきます。
ベルヌーイ分布は「0 と 1 しか取らない」離散分布なので、連続曲線(密度関数)は存在しません。確率質量は 2 本の縦棒だけです。また、 は「必ず 」ではありません。公平なコインは の特殊例で、 は の任意の値を取れます。
関連する用語
- 算術平均(ベルヌーイ確率変数の標本平均 がそのまま成功確率 の推定値になります)
- 期待値( という等式はベルヌーイ分布の中心的な結果で、指示変数 の期待値が確率 に等しいという事実の最小例です)
- 中央値(ベルヌーイ分布では p < 1/2 のとき中央値は 、p > 1/2 のとき です。 のとき中央値は と のどちらでもよい不定の区間になります)
- 歪度( のベルヌーイ分布は左右非対称で、歪度は です。 でのみ歪度がゼロになります)
この用語を扱う本編記事
- stats-06: 期待値の線形性(ベルヌーイ確率変数を導入し、 個の和として二項分布を構成して を 2 行で導く節 6 を収録しています)