期待値

はじめに

サイコロを 1 回振ったとき、出る目は 1・2・3・4・5・6 のどれかです。その期待値は 3.5 と計算されますが、3.5 はサイコロに存在しない目です。これは単純な矛盾のように見えます。

この違和感の根にあるのは、「期待値」という言葉が「1 回の試行で期待できる値」を意味していない、という事実です。統計学における期待値は「無限回繰り返したときの平均値」を指します。stats-05 で見た頻度主義の極限値の考え方がここに直結します。コインを無限回投げれば表の相対頻度が 0.5 に近づくのと同じ構図で、サイコロを無限回振れば観測平均が 3.5 付近に張り付きます。

サイコロの期待値 3.5 はサイコロに存在しない

3.5 は単一の試行結果ではなく、無数の試行を積み重ねたときに観測平均が収まっていく先として読みます。

サイコロを実際に振り続けたとき、観測平均はどう変化するでしょうか。以下の数値は教育用の典型値です。

$N = 10$ のときは 3.2 という値が出ており、3.5 からの差は 0.3 あります。$N = 10000$ では 3.499 で、3.5 との差は 0.001 まで縮まっています。$N$ が大きくなるにつれて、観測平均は 3.5 付近の細い帯に張り付いていきます。

stats-05 で見た「コインを 100 回投げると表の相対頻度が 0.5 付近に張り付く」のと同じ構図です。サイコロも各目が $1/6$ ずつ出ます。だとすれば、各目の値にその出る割合を掛けて足し上げた数値が、長期的な観測平均の収まる先になります。

この計算を手で追うと

となります。6 つの目が各 $1/6$ の割合で出るので、平均はちょうど中間の 3.5 になります。この 3.5 という値は、1 回の試行で実際に現れる結果ではなく、無数の試行の集積として定まる数値です。

日本語の「期待」は「望ましいことが起きるだろうという見通し」を意味します。一方、統計学の「期待値」は感情的な期待とは無関係で、「無限回試行を繰り返したときの平均値」という技術的な定義を持つ言葉です。サイコロを振って 3.5 が出ることを期待しているわけではありません。

確率変数 $X$ と実現値 $x$ の区別

「サイコロを振った結果」を式で扱うとき、記号の使い方を一度整理しておく必要があります。大文字の $X$ と小文字の $x$ は別の意味を持ちます。

$X$ は「サイコロを振ったらどんな値が入るかわからない箱」です。試行を行う前の段階では、1 が入るかもしれないし 6 が入るかもしれません。このような「試行の前に値が定まっていない量」を確率変数と呼びます。

$x$ は「箱から出てきた具体的な数値」です。サイコロを実際に振って 3 が出たとき、$x = 3$ となります。試行後に実際に観測された値で、実現値と呼びます。「箱（試行前）」と「中身（試行後）」の違いです。

たとえば「箱に 3 が入る確率は 1/6」は $P(X = 3) = 1/6$ と書きます。$X$ はまだ値が定まっていない箱で、その箱が 3 という値を取る確率が $1/6$ だ、と読みます。「箱に 3 が入った」という事実は $X = 3$ と書きます。

確率変数を大文字 $X$ で、実現値を小文字 $x$ で表す慣習は、大阪大学をはじめとする日本の統計学教科書で標準的に採用されています。本記事以降もこの慣習に従います。

期待値の定義: stats-01 の平均を確率で置き換える

stats-01 で見た度数分布表の平均を思い出しましょう。値 $x_i$ が度数 $f_i$ 回観測され、データ総数が $n$ のとき

ここで $x_i$ は値、$f_i$ は度数、$f_i / n$ は相対度数（その値が出た割合）です。

stats-05 で見たとおり、試行回数 $n$ を無限に増やすと相対度数 $f_i / n$ の極限が確率 $P(X = x_i)$ に近づきます。つまり式の重みを「相対度数」から「確率」に書き換えると、度数分布表の平均がそのまま期待値の定義になります。

$E[X]$ は「確率変数 $X$ の期待値」を表す記号です。$\sum_i$ は取りうるすべての値 $x_i$ について足し合わせることを意味します。各値 $x_i$ にその値が出る確率 $P(X = x_i)$ を掛けて、足し上げます。（本記事では離散確率変数のみを扱います。連続型の場合は $\sum$ が積分に置き換わりますが構造は同じで、stats-09 以降で扱います。）

この $E[X] = \sum_i x_i P(X = x_i)$ が期待値の数学的定義です。「無限回試行の平均」という直感は、この定義から大数の法則によって導かれる帰結であり、stats-08 で扱います。

サイコロで確認します。取りうる値は $x_i = 1, 2, 3, 4, 5, 6$ で、各値の確率は $P(X = x_i) = 1/6$ です。

節 2 で手で追った数値と一致しました。

宝くじの例も考えます。1 等当選 1 億円が確率 $10^{-7}$、外れは 0 円という単純化した仮想くじの期待値は

となります。1 枚 300 円のくじを無限回買い続ければ、1 回あたり平均 290 円の損になります。そして「期待値 10 円」というのもサイコロの 3.5 と同じで、実際には出ない値です。外れか 1 億円かの二択であり、10 円が実際に支払われることはありません。期待値は長期平均として正確ですが、単一の試行結果としては存在しない値です。

期待値の線形性 $E[aX+b] = aE[X]+b$

期待値には代数的に扱いやすい性質があります。定数 $a, b$ と確率変数 $X$ について

が成り立ちます。これを期待値の線形性と呼びます。

具体的に確認します。$X$ をサイコロの目（$E[X] = 3.5$）として、$Y = 2X + 1$ とおくと、線形性から $E[Y] = 2 \times 3.5 + 1 = 8$ です。定義式から直接計算しても

となり、同じ結果が得られます。

もう一つの線形性があります。$X$ と $Y$ が任意の確率変数のとき

が成り立ちます。ここで $X$ と $Y$ の独立性は一度も使っていません。

「独立でなくても成り立つ」とはどういうことでしょうか。$X$ をサイコロを 1 回振った目として、$Y = X$（同じ試行のコピー、完全従属）とします。$X$ が決まれば $Y$ は自動的に $X$ と同じ値になります。この完全従属の場合でも

の両方が 7 で一致します。独立性を要求しない線形性なので、$X$ と $Y$ が何らかの関係を持っていても式は成り立ちます。この線形性が次節の二項分布の期待値計算で直接使われます。

▶計算E[X+Y] = E[X]+E[Y] の証明を見る（独立性を一度も使わない）

$X$ が取りうる値を $x_i$、$Y$ が取りうる値を $y_j$ として、同時確率分布 $P(X = x_i, Y = y_j)$ から出発します。

$$E[X + Y] = \sum_i \sum_j (x_i + y_j) P(X = x_i, Y = y_j)$$

これを展開すると

$$= \sum_i \sum_j x_i P(X = x_i, Y = y_j) + \sum_i \sum_j y_j P(X = x_i, Y = y_j)$$

第 1 項では $j$ について先に和を取ります。$\sum_j P(X = x_i, Y = y_j) = P(X = x_i)$ は周辺分布への集約で、独立性を使いません。同様に第 2 項では $i$ について先に和を取ると $\sum_i P(X = x_i, Y = y_j) = P(Y = y_j)$ になります。

$$= \sum_i x_i P(X = x_i) + \sum_j y_j P(Y = y_j) = E[X] + E[Y]$$

証明の中で $P(X = x_i, Y = y_j) = P(X = x_i) P(Y = y_j)$（独立性）を一度も使っていません。同時確率分布の周辺化だけで結論に到達しています。

なお、期待値の演算子 $E[\cdot]$ は加法と定数倍については素通りしますが、一般の関数 $g$ については $E[g(X)]$ と $g(E[X])$ は異なります（詳細は stats-09 以降で扱います）。

線形性の威力: 二項分布の期待値が 2 行で出る

ベルヌーイ確率変数から始めます。

コインを 1 回投げて表が出たら $X = 1$、裏が出たら $X = 0$ とします。表が出る確率を $p$ とすると $P(X = 1) = p$、$P(X = 0) = 1 - p$ です。このような 0 か 1 かの 2 値を取る確率変数をベルヌーイ確率変数と呼びます。

ベルヌーイ確率変数の期待値は定義式から直接計算できます。

公平なコインなら $p = 1/2$ なので $E[X] = 0.5$ です。コインを 1 回投げたときの期待値は 0.5 で、これもサイコロの 3.5 と同じく実際には出ない値です（表か裏かの二択で 0.5 は出ません）。

次に、コインを $n$ 回独立に投げて表が出た合計回数を $X$ とします。$X$ の取りうる値は $0, 1, 2, \ldots, n$ です。ちょうど $k$ 回表が出る確率は

で与えられます。ここで $\binom{n}{k}$ は「$n$ 個の試行から $k$ 個の成功を選ぶ組み合わせの数」です。この確率分布を二項分布 $B(n, p)$ と呼びます。

この $X$ の期待値を定義式から素朴に計算しようとすると、次の重い式が現れます。

結果だけ先に言うと $E[X] = np$ になりますが、この式から $np$ を取り出すには多段の計算が必要です。

▶計算二項分布 E[X] = np の素朴計算による導出を見る

$k = 0$ の項は $0$ なので $\sum_{k=1}^{n}$ から開始します。$\binom{n}{k} = \frac{n!}{k!(n-k)!}$ を展開して $k$ を消去すると

$$k \binom{n}{k} = n \binom{n-1}{k-1}$$

が成り立ちます。また $p^k = p \cdot p^{k-1}$ と書き直して $np$ を括り出します。

$$E[X] = np \sum_{k=1}^{n} \binom{n-1}{k-1} p^{k-1} (1-p)^{n-k}$$

$j = k - 1$、$m = n - 1$ と変数置換すると

$$= np \sum_{j=0}^{m} \binom{m}{j} p^j (1-p)^{m-j}$$

二項定理より $\sum_{j=0}^{m} \binom{m}{j} p^j (1-p)^{m-j} = (p + (1-p))^m = 1$ なので

$$E[X] = np$$

多段計算でようやく $np$ が出ました。

同じ結果を線形性で導くと 2 行で完了します。各 $i$ 回目の試行結果を $X_i$（成功確率 $p$ のベルヌーイ確率変数）とおくと、$n$ 回の合計は $X = X_1 + X_2 + \cdots + X_n$ です。各 $E[X_i] = p$ と線形性 $E[X_1 + \cdots + X_n] = E[X_1] + \cdots + E[X_n]$ から

素朴計算では変数置換と二項定理の 4 ステップが必要でしたが、線形性では $E[X_i] = p$ という 1 行の事実を $n$ 回足すだけです。

$B(100, 1/2)$ の期待値は $E[X] = 100 \times 1/2 = 50$ です。stats-05 で「コイン 100 回投げの中心は 50」と書いていた数字が、ここで代数的に確定します。

サイコロ観測平均の軌跡（$N = 10$ 〜 $10000$）

節 2 では $N = 10, 100, 1000, 10000$ の 4 点の静的な数値表を見ました。下の図は同じ「サイコロを $N$ 回振ったときの観測平均」を軌跡として描いたものです。

横軸は累積試行回数、縦軸はそこまでの観測平均です。青い折れ線が 1 本の実験の軌跡で、赤い破線が理論期待値 3.5 を示しています。

$N = 10$ 付近では折れ線が 3.5 の上下に大きく振れます。$N = 100$ に近づくと折れ線は 3.5 付近の細い帯に張り付き、赤い破線とほぼ重なって見えます。これが「期待値 = 無限回試行の平均」を図として確認したものです。$N = 100$ 付近での収束はこの図で視覚的に追えます。$N$ をさらに増やしたときの数値（$N = 10000$ で差は 0.001）は節 2 の数値表で確認できます。

金融での登場場面: 期待リターンと保険料

株式の期待リターン $E[R]$ は、過去 $N$ 営業日のリターン $r_1, r_2, \ldots, r_N$ の標本平均として推定するのが基本です。各営業日のリターンを「1 回の試行結果」と見なして確率変数 $R$ に当てはめ、その期待値を過去データから計算します。stats-05 で扱った「相対頻度の極限が確率」という構図が、ここでも同じ形で出てきます。

保険料の設計は期待値の直接的な応用です。火災保険を例に取ると、保険会社は「年間の期待損害額（損害額 × 損害発生確率の和）+ 経費 + マージン」を基に保険料を設定します。保険会社は期待値を上回る価格で契約を売り、契約者は期待値を下回る支出で大損失のリスクを回避します。その差額が安心の対価です。トレードの期待収益 $E[R]$、Kelly 基準、リスク中立確率といった概念も期待値を土台にしており、詳細は補足記事と実践記事で扱います。

期待値が定義できない例の予告

期待値は必ず有限の値として定まるとは限りません。Cauchy 分布という連続型分布は、期待値を計算しようとすると $+\infty - \infty$ の不定形になり、期待値そのものが定義できません。Saint Petersburg のパラドックスでは「コインを表が出るまで投げ続け、$n$ 回目に初めて表が出たら $2^n$ 円もらえる」という賭けの期待値が正の無限大に発散します。詳細はそれぞれ補足記事に分けてあります。

「期待値が未定義（Cauchy）」と「期待値が無限大（Saint Petersburg）」は別物です。前者は期待値が「存在しない」、後者は期待値が「無限大として確定している」。どちらも「有限の期待値が存在する」という条件を満たさない点は共通で、この条件は stats-08 の大数の法則・中心極限定理が前提として要求します。

次に学ぶこと

次回 stats-07「条件付き確率とベイズの面積」では、情報が増えたときに確率がどう変化するかを面積を使って扱います。本記事で導入した $X$、$P(X = x)$、$E[X]$ の言語が、stats-07 以降でもそのまま使われます。

Part 2 の流れをまとめます。

• stats-05: 確率の直感（頻度主義の極限値、Kolmogorov の三公理）
• stats-06: 期待値
• stats-07: 条件付き確率とベイズの面積
• stats-08: 大数の法則と中心極限定理

stats-08 では本記事で証明した線形性 $E[X_1 + \cdots + X_n] = nE[X_1]$ が大数の法則の証明の中核として戻ってきます。