条件付き独立性()とは、第 3 の事象 が起きたとわかった条件のもとで、事象 と が独立になる関係です。
定義
事象 、、 があり、 とします。 が起きたとわかったあとで、 と が(条件付きで)独立な関係になることを 条件付き独立性 と呼び、 と書きます。記号 は「独立」を表す二重垂直線で、縦棒の右の が「何で条件付けているか」を示します。
定義式は次のとおりです。 の制約は「起こりえない事象で条件付けると確率が定義できない」ためで、必ず明示します。
記号の意味: は「 と が両方起きる事象」、 は「 が起きたという条件のもとで が起きる」を表します。
この定義とまったく同値な書き方として、条件付き確率を使った形があります。
読み方は「 という情報を知ったあとは、追加で を知っても の確率が変わらない」です。 の情報が に対して何も運ばない。これが条件付き独立性の核心です。
性質
条件付き独立性には以下の性質があります。
- 対称性: と は同値です。定義式の右辺が積で対称なため、 と のどちらを主語にしても成立します。
- 条件 に依存する: を変えると独立性が成立しなくなることがあります。「 のもとでは独立、 のもとでは非独立」という状況は自然に現れます。
- 無条件独立性とは無関係: 無条件独立 が成立しても は保証されません。逆も同様で、一方の成立からもう一方を導くことはできません。詳細は深掘り節で数値例とともに確認します。
- 複数事象への拡張: 3 事象以上にも定義できます。 は「 のもとで 、、 の同時確率がそれぞれの条件付き確率の積で書ける」ことを要求します。ナイーブベイズ分類器はこの多事象への拡張を直接利用しています。
視覚的に見る
雨・傘・コートの例で見てみましょう。 = 「雨が降る」(確率 30%)、 = 「傘を持つ」、 = 「コートを着る」と置きます。雨が降れば傘もコートも持ち出す人が多くなるため、傘とコートは無条件では強く相関します。しかし「雨が降った」という条件のもとで見ると、傘を持つかどうかとコートを着るかどうかは独立になります。各条件付き確率の設定: 、、、。
各「世界」の中では、 のセル面積がちょうど の積になっています。これが条件付き独立性の構造です。しかし 2 つの世界を合体( の有無を問わない世界)させると話が変わります。
無条件では となり、傘とコートは非独立です。(雨)が両者を引き上げる共通の要因になっているため、 を考慮せずに見ると見かけの相関が現れます。
実世界での使われ方
条件付き独立性は「隠れた共通要因を取り除けば、見かけの相関が消える」場面で広く現れます。
-
疫学・公衆衛生(交絡変数の除去): 夏にアイスクリームの販売量が増え、同時に溺死件数も増えます。無条件で見れば両者は正の相関を示しますが、 = 「気温・季節」で条件付けると独立に近づきます。気温が傘(アイスクリーム)とコート(溺死)の両方を引き上げる交絡変数として機能しているためです。厚生労働省「国民健康・栄養調査」の解析でも、年齢・性別という交絡で層別したうえで関係を見るのが基本手順です。
-
機械学習のナイーブベイズ分類器: テキスト分類では、文書中の各単語の出現は、クラス (スパム / 非スパム)が与えられた条件のもとで互いに条件付き独立と仮定します。実際には単語間に相関がありますが、この仮定によって計算が大幅に単純化され、スパムフィルタや感情分析の足がかりとして広く使われています。scikit-learn の「Naive Bayes」ドキュメントが標準的なリファレンスです。
-
因果推論のグラフィカルモデル: Pearl の因果ダイアグラムでは、変数間の独立構造を有向グラフで表現し、「条件付け集合 を選べばどのペアが独立になるか」を d-separation(有向分離)という基準で判定します。観察データから因果関係を推定するための理論的基盤として、医療・経済学・社会科学で参照されています。
深掘り
Simpson のパラドックス
条件付き独立性の対比として理解できるのが Simpson のパラドックスです。「治療 A が全患者で治療 B より治癒率が高いが、軽症・重症それぞれで分けると治療 B の方が高い」という現象で、これはデータの矛盾ではなく、重症度 が交絡として働いた結果です。重症患者ほど治療 A を受ける傾向があり、かつ重症患者全体の治癒率が低い。この 2 つが重なると、全体での集計が逆転します。(重症度)で条件付けて初めて正しい関係が見えます。これは、無条件で見た集計結果( の効果の方向)が、 で条件付けた後の結果と符号さえ逆になりうることを示しています。条件付けなしの集計が条件付き後の構造と根本的に食い違いうる。これが、無条件の関係と条件付きの関係が別物であることの最も極端な実例です。
ナイーブベイズ分類の仮定としての条件付き独立性
ナイーブベイズ分類器は、クラスラベル が与えられたもとで、特徴量 が条件付き独立と仮定します。記号 は積を表します。
この仮定が「ナイーブ(素朴)」と呼ばれるのは、実際には特徴量間に相関が残ることが多いためです。しかし分類性能が依然として高いことが経験的に示されており、計算コストと精度のバランスから第一候補として選ばれます。先述の「クラス のもとで各単語の出現は独立」という仮定が、まさにこの式の 特徴量版です。単語数が数万になっても、 の形を保てば計算量が爆発しません。
グラフィカルモデルと d-separation
因果ダイアグラム(有向非巡回グラフ)で表現された変数間の関係から、どのペアが条件付き独立になるかを判定する基準が d-separation(有向分離)です。3 種類のパス構造で挙動が異なります。chain と fork は で条件付けると と が独立になります(fork が今節の「雨・傘・コート」の例です)。一方、collider は で条件付けると逆に と が独立でなくなります。collider の に条件付けることで、 と の情報が を通じて流れ込む経路が開くためです。条件付き独立性は因果推論の構造を読み解く核となる概念で、「どの変数で条件付ければ因果効果を識別できるか」という問いはすべてここから始まります。
関連する用語
- 条件付き確率: 条件付き独立性の定義に使う基本概念。 の意味を先に確認する
- ベイズの定理: ナイーブベイズ分類で条件付き独立性と組み合わせて使われる定理
- 同時確率: の左辺に現れる。条件付き前後での変化を追うときに参照
- 周辺確率: 条件付け前後で変化する周辺的視点。条件付けの前後比較に必要
- スキューネス: 分布の非対称性。交絡変数が分布を歪めるとき Simpson のパラドックスが起きやすい
詳しくは
- stats-07: 条件付き確率とベイズの定理: 独立性 の基礎と排反性との対比を扱う本編記事。本エントリはその深掘り