生成作用素の収束の証明
Spike-and-Slab prior からの効率的なサンプリング
A Blog Entry on Bayesian Computation by an Applied Mathematician
$$
$$
1 示したいこと
密度 \[ p_\epsilon(x)=(1-\gamma)p(x)+\frac{\gamma}{\epsilon}p\left(\frac{x}{\epsilon}\right) \] を対象にした Zig-Zag 過程 \((Z^\epsilon_t)_{t\in\mathbb{N}}\) の遷移核 \(P_\epsilon^t\) は次のようにかける:
\[ \begin{align*} P^t_\epsilon((0,1),dx)&=S_\epsilon(t)\delta_t(dx)+\biggr(\operatorname{P}[N_\epsilon(t)=1]\frac{1}{2}f_\epsilon\left(\frac{t+x}{2}\right)\\ &\qquad+\operatorname{P}[N_\epsilon(t)=2]\frac{1}{2}f^{*2}_\epsilon\left(\frac{t-x}{2}\right)\\ &\qquad+\operatorname{P}[N_\epsilon(t)=3]\frac{1}{2}f^{*3}_\epsilon\left(\frac{t+x}{2}\right)+\cdots\biggl)dx& x\in[-t,t]. \end{align*} \tag{1}\]
ただし,\(S_\epsilon\) は \((0,1)\) からスタートした場合のイベント時刻の生存関数, \[ S_\epsilon(t)=\frac{p_\epsilon(t)}{p_\epsilon(0)}=\frac{1-\gamma}{1-\gamma+\gamma/\epsilon}\frac{p(t)}{p(0)}+\frac{\gamma}{\epsilon(1-\gamma)+\gamma}\frac{p\left(\frac{t}{\epsilon}\right)}{p(0)} \] \(f_\epsilon\) はその密度 \[ f_\epsilon(t)=-S_\epsilon'(t)=\frac{1-\gamma}{1-\gamma+\gamma/\epsilon}\frac{p'(t)}{p(0)}+\frac{\gamma}{\epsilon(1-\gamma)+\gamma}\frac{1}{\epsilon}\frac{p'\left(\frac{t}{\epsilon}\right)}{p(0)} \] \(N_\epsilon\) は \((0,1)\) からスタートした場合のイベント発生回数の過程 \[ N_\epsilon(t):=\max\left\{n\ge 1\,\middle|\,\sum_{i=1}^{n-1}2T_\epsilon^{(i)}+T_\epsilon^{(n)}\le t\right\}. \] とする.
式 (1) の右辺の無限和が収束することは,\(f_\epsilon\) が有界であることから判る.
式 (1) を認めると,\(P^t_\epsilon\) は \((-t,t)\) 上では絶対連続である.
2 式のモチベーション
以上を式にすると,\(P^t_\epsilon\) の \((-t,t)\) 上の密度 \(p_\epsilon^t\) は, \[\begin{align*} p^t_\epsilon(x)&\,\propto\,\operatorname{P}[N_\epsilon(t)=1]f_\epsilon\left(\frac{t+x}{2}\right)+\operatorname{P}[N_\epsilon(t)=2]f^{*2}_\epsilon\left(\frac{t-x}{2}\right)\\ &\qquad +\operatorname{P}[N_\epsilon(t)=3]f^{*3}_\epsilon\left(\frac{t+x}{2}\right)+\cdots,\qquad x\in(-t,t), \end{align*}\] と表せる.