バナナでもわかる話

開設当初は計量経済学・統計学が専門の大学院生でした。今はデータを扱うお仕事をしています。統計学・経済学・投資理論・マーケティング等々に関する勉強・解説ブログ。ときどき趣味も。極力数式は使わずイメージで説明出来るよう心掛けていますが、時々暴走します。

トップ > MCMC > カップリング

カップリング

MCMC 統計

難しい記事が続いていますが、前回は分布の差に関する概念として全変動ノルム、マルコフ連鎖の収束に関わる混合時間について、込み入った話は回避しつつ説明しました。
bananarian.hatenablog.com

今回はカップリングという概念を導入します。



スポンサーリンク

カップリングとは

カップリングは二種類の確率変数 X,Yと二種類の確率分布 \mu_x,\mu_yについて、次のような状況になることを指します。

同じ可測空間上の二種類の確率分布\mu_x,\mu_yについて(X,Y)が\mu_x,\mu_yのカップリングであるとは、
Xの周辺分布が\mu_xであり、Yの周辺分布が\mu_yであるような状況を指す。

この条件を満たしさえすればカップリングですので、カップリングという概念はそこそこ広い概念となります。

マルコフ連鎖におけるカップリング

あくまで一例であって、マルコフ連鎖であれば必ずこれを使えというわけではないですが、マルコフ連鎖の収束の数理で使われるカップリングに次のようなカップリングがあります。

同一の可測空間 (E,ε)上の二種類のマルコフ連鎖 X_n,Y_nを考える。この時、カップリングとして (X_n,Y_n)を考える。この時次のような条件を加えたカップリングが便利である。

条件： (X_n,Y_n)はE^2上のマルコフ連鎖となる。

カップリング時間

更に導入します。今二つのマルコフ連鎖の組 (X_n,Y_n)を考えているわけですが、XとYが初めて出会った時間をカップリング時刻 \tauとおくことにします。

そして、これは利便性の観点からの仮定ですが、一旦であったマルコフ連鎖 X_n,Y_nは以降同じ動きをするものとします。このような仮定をおいても依然マルコフ連鎖です。

カップリング時間は何に使うのか

で、このカップリング時間は何に使うのかというと、前回導入した混合時間の仮定において全変動距離を0から1の小さなεによっておさえていましたが、このカップリング時間を用いて全変動距離を上からおさえて、混合時間を評価することが出来ます。具体的な証明は回避しますが、次のような関係になります。<前回の仮定確認>
全ての x \in Eのうち、ある n＞0において d(n)=max_x ||P^n(x,・)-Π(x,・)||_{TV}とおく。
この時 \epsilon \in (0, 1 ] なるεを用意してやると、

この時混合時間 t_{mix}は次のようになる。

t_{mix}( \epsilon )=inf\{ n>0: d(n)≦\epsilon \}


この d(n)ですが、離散のばあいであれば簡単に評価してやって混合時間を求めることが出来ますが、これが連続となると簡単に評価することが難しくなります。そこで次の関係を利用してやります。

d(n)＜max_{x,y}(先ほどのマルコフ連鎖のカップリング時間がnより大きくなる確率)

以上カップリングについての簡単な概要でした。