本文へスキップ
用語解説確率

ベルヌーイ分布

成功確率 p で 1 か 0 のどちらかを取る確率変数の分布。1 回だけのコイン投げを数学的に書き表した最も小さい確率分布で、期待値は p、分散は p(1-p)。

ベルヌーイ分布とは、成功確率 pp のもとで X=1X = 1(成功)または X=0X = 0(失敗)のどちらかだけを取る確率変数の分布です。確率変数が 2 つの値しか持たない、確率分布の中で最小の構成です。

定義

確率変数 XX がベルヌーイ分布に従うとき、XX の取りうる値は 0011 の 2 つだけで、それぞれの確率は次の通りです。

P(X=1)=p,P(X=0)=1p,0p1P(X = 1) = p, \quad P(X = 0) = 1 - p, \quad 0 \le p \le 1

pp を「成功確率」と呼びます。この 2 式を 1 本の式にまとめると、確率質量関数(PMF: probability mass function)は次のように書けます。

P(X=k)=pk(1p)1k,k{0,1}P(X = k) = p^k (1 - p)^{1-k}, \quad k \in \{0,\, 1\}

k=1k = 1 を代入すると p1(1p)0=pp^1 (1-p)^0 = pk=0k = 0 を代入すると p0(1p)1=1pp^0 (1-p)^1 = 1 - p になり、上の 2 式に戻ります。記号を確認しておきます。XX はベルヌーイ確率変数pp は成功確率(00 以上 11 以下の実数)、kkXX の取りうる値です。

性質

  • 期待値: E[X]=pE[X] = p。確率そのものが期待値になります
  • 分散: Var[X]=p(1p)\mathrm{Var}[X] = p(1-p)p=1/2p = 1/2 のとき最大値 1/41/4 を取ります
  • 特殊例 p=1/2p = 1/2: 公平なコインに対応します。このとき分散は最大で、結果が最も予測しにくい状態です
  • 二項分布との関係: nn 個の独立同一ベルヌーイ確率変数の和が二項分布 B(n,p)B(n, p) になります。ベルヌーイ分布は n=1n = 1二項分布です
  • 2 値分布の中で最小の構造: 離散確率変数が取れる最少の値の数は 2 です。ベルヌーイ分布はその最小構成で、確率の合計は p+(1p)=1p + (1-p) = 1 です

視覚的に見る

p=0.3p = 0.3 のベルヌーイ分布の確率質量を 2 本の縦棒で示します。横軸は k{0,1}k \in \{0, 1\}、縦軸は各値の確率です。

p = 0.3 のベルヌーイ分布: 確率質量の 2 点P(X=0) = 0.7P(X=1) = 0.3E[X] = p = 0.301k0.00.30.50.7P(X=k)

図を見て把握すべきことは 2 つです。第一に、ベルヌーイ分布の確率質量は 2 本の棒だけです。連続分布(正規分布など)が曲線で表されるのに対し、ベルヌーイ分布は k=0k = 0k=1k = 1 の 2 点にしか確率が乗りません。第二に、期待値 E[X]=p=0.3E[X] = p = 0.3 の縦線(青)は 0011 の間に位置しますが、XX はこの値を取りません。期待値は「分布の重心」であって、実際に起こる値ではない点に注意が必要です。pp0.10.10.90.9 に変えると、それぞれ左の棒が高くなる・右の棒が高くなるという変化が起き、期待値の縦線はその位置に追従します。

実世界での使われ方

臨床試験の主要評価項目では、患者ごとに「奏効した(X=1X = 1)」「奏効しなかった(X=0X = 0)」の 2 値を記録します。厚生労働省「医薬品の臨床試験の実施に関する基準(GCP 省令)」が定めるエンドポイントでは、各患者の応答がベルヌーイ確率変数 XiX_i です。nn 名の合計 Xi\sum X_i二項分布 B(n,p)B(n, p) に従い、奏効率の信頼区間の導出に使われます。

Web 広告・サイト改修の A/B テストでは、訪問者 1 人ごとに「クリックした(X=1X = 1)」「しなかった(X=0X = 0)」を記録します。総務省「令和 5 年 通信利用動向調査」が集計するような Web 利用統計は、ベルヌーイ試行の累積として扱えます。クリック率の推定精度はサンプル数 nn と成功確率 pp の関数で決まり、p(1p)/np(1-p)/n が分散の縮小速度を与えます。

金融のデフォルト評価では、企業 1 社の 1 年後の状態を「デフォルトした(X=1X = 1)」「しなかった(X=0X = 0)」で記号化します。日本銀行「金融システムレポート」が用いる信用リスク評価では、企業ごとのデフォルト指示変数 IdefaultI_{\text{default}} がベルヌーイ確率変数です。ポートフォリオ全体の損失分布は Idefault,i\sum I_{\text{default},\, i} の分布として近似され、個々の XiX_i のパラメータ pp がデフォルト確率(PD: probability of default)に対応します。

深掘り

指示変数としての見方は他分野とのつながりを示す発展で、定義を理解するだけなら不要です。

指示変数としてのベルヌーイ確率変数

任意の事象 AA に対し、指示変数(indicator variable)IAI_A を次のように定義します。

IA(ω)={1(ωA)0(ωA)I_A(\omega) = \begin{cases} 1 & (\omega \in A) \\ 0 & (\omega \notin A) \end{cases}

IAI_A はパラメータ p=P(A)p = P(A) のベルヌーイ確率変数です。ここから E[IA]=P(A)E[I_A] = P(A) という等式が直ちに出ます。「期待値は確率の一般化」という発想の起点です。この見方は実用的で、例えば「事象 AABB排反でないとき P(AB)=P(A)+P(B)P(AB)P(A \cup B) = P(A) + P(B) - P(A \cap B)」という包除公式は、IAB=IA+IBIABI_{A \cup B} = I_A + I_B - I_{A \cap B} の両辺の期待値を取る操作として書き直せます。指示変数を経由すると、確率の計算が期待値の計算に統一されます。

二項分布の構成要素としての位置

nn 個の独立同一分布(i.i.d.)なベルヌーイ確率変数 X1,,XnX_1, \ldots, X_n の和

Sn=X1+X2++XnS_n = X_1 + X_2 + \cdots + X_n

二項分布 B(n,p)B(n, p) に従います。i.i.d. の「独立(i)」と「同一分布(i.d.)」の 2 つの仮定は、モーメントの計算で異なる役割を果たします。期待値の線形性独立性を必要とせず、E[Sn]=nE[X1]=npE[S_n] = n E[X_1] = np が出ます。一方、分散の加法性 Var[Sn]=nVar[X1]=np(1p)\mathrm{Var}[S_n] = n \mathrm{Var}[X_1] = np(1-p) には独立性が必要です。「i.d.」は各 XiX_i が同じ pp を持つという条件で、E[Sn]E[S_n] の計算で E[X1]E[X_1]nn 倍できる根拠になります。stats-06 節 6 で扱った「二項分布期待値が 2 行で出る」という結果の背後にある構造です。

p=1/2p = 1/2 で分散が最大になる理由

Var[X]=p(1p)\mathrm{Var}[X] = p(1-p)pp について微分すると 12p1 - 2p です。p=1/2p = 1/2 で微分がゼロになり、最大値 1/41/4 を取ります。この最大性は「コインが公平なときに結果が最も予測しにくい」という直感に対応します。

情報理論の言葉では、この直感をエントロピー

H(X)=plogp(1p)log(1p)H(X) = -p \log p - (1-p) \log(1-p)

として定式化できます。H(X)H(X)p=1/2p = 1/2 で最大値 log2\log 2(1 ビット)を取ります。「2 値分布の中で最も予測困難」「最も分散が大きい」「最もエントロピーが高い」の 3 つの意味での「最大性」が同じ点 p=1/2p = 1/2 で揃います。この対応は偶然ではなく、分散もエントロピーもともに「分布のばらつき」を測る量だという共通の背景から来ています。ベルヌーイ分布を通すと、確率論と情報理論がともに「ばらつき」を別の言葉で測っていることが見えてきます。

よくある誤解

ベルヌーイ分布は「0 と 1 しか取らない」離散分布なので、連続曲線(密度関数)は存在しません。確率質量は 2 本の縦棒だけです。また、pp は「必ず 1/21/2」ではありません。公平なコインは p=1/2p = 1/2 の特殊例で、pp[0,1][0, 1] の任意の値を取れます。

関連する用語

  • 算術平均(ベルヌーイ確率変数の標本平均 Xˉ=Sn/n\bar{X} = S_n / n がそのまま成功確率 pp の推定値になります)
  • 期待値E[X]=pE[X] = p という等式はベルヌーイ分布の中心的な結果で、指示変数 IAI_A期待値が確率 P(A)P(A) に等しいという事実の最小例です)
  • 中央値(ベルヌーイ分布では p < 1/2 のとき中央値00p > 1/2 のとき 11 です。p=1/2p = 1/2 のとき中央値0011 のどちらでもよい不定の区間になります)
  • 歪度p1/2p \neq 1/2 のベルヌーイ分布は左右非対称で、歪度(12p)/p(1p)(1-2p)/\sqrt{p(1-p)} です。p=1/2p = 1/2 でのみ歪度がゼロになります)

この用語を扱う本編記事