Asymptotic Analysis of the Piecewise Deterministic Monte Carlo on Spiked Densities
ドラフト
A Blog Entry on Bayesian Computation by an Applied Mathematician
$$
$$
1 導入
どんどん事後分布が singular (特に一点に mass が集中)していく場合を考える.
MH 法では mass を取り逃がしてしまうために,提案分布のスケールも同様に小さくしていく必要があるが,すると大域的なスケールに対してはとんでもなく遅くなってしまい,大変非効率的(メタ安定).
しかし PDMP では mass が集中する領域をうまく見つけられさえすれば,性能は悪化しない.
1.1 例
- ベイズの事前分布で spike-and-slab を用いた場合.
- クラスタリングで1つのラベルが狭まっていった場合.
1.2 設定
\(\mathbb{R}^d\) 上で \[ (1-\gamma)\mathrm{N}(\mu,\Sigma) + \gamma\mathrm{N}(0,\Sigma'(\epsilon)) \] を考える.