Gambar sampel dari subjek distribusi normal multivariat dengan kendala kuadratik

Saya ingin secara efisien menggambar sampel dari tunduk pada batasan bahwa .$x \in \mathbb{R}^d$$\mathcal{N}(\mu, \Sigma)$$||x||_2 = 1$

Penyelesaian formal dari masalah ini pertama-tama membutuhkan definisi a

" $\mathcal{N}_d(μ,Σ)$ distribusi tunduk pada batasan bahwa $||x||^2=1$ "

Cara alami adalah dengan menentukan distribusi bersyarat pada . Dan untuk menerapkan persyaratan ini pada case . Jika kita menggunakan koordinat kutub , Jacobian dari transformasi adalah Oleh karena itu kepadatan bersyarat dari distribusi| | X | | = ϱ ϱ = 1 x 1 = ϱ cos ( θ 1$X\sim\mathcal{N}_d(μ,Σ)$$||X||=\varrho$$\varrho=1$ ϱd-1 d - 2 ∏ i=1dosa(θi)d-1-iθ=(θ1,…,θd-1

$$\eqalign{ x_1&=\varrho\cos(\theta_1)\qquad&\theta_1\in[0,\pi]\\ x_2&=\varrho\sin(\theta_1)\cos(\theta_2)\qquad&\theta_2\in[0,\pi]\\ &\vdots\\ x_{d-1}&=\varrho \left( \prod_{i=1}^{d-2}\sin(\theta_i) \right) \cos(\theta_{d-1})\qquad&\theta_{d-1}\in[0,2\pi]\\ x_{d}&=\varrho\prod_{i=1}^{d-1}\sin(\theta_i) }$$ $$\varrho^{d-1}\prod_{i=1}^{d-2}\sin(\theta_i)^{d-1-i}$$ $\mathbf{\theta}=(\theta_1,\ldots,\theta_{d-1})$ diberikan is f ( θ | ϱ ) ∝ exp - $\varrho$ $$f(\mathbf{\theta}|\varrho) \propto \exp\frac{-1}{2}\left\{(x(\theta,\varrho)-\mu)^T\Sigma^{-1}(x(\theta,\varrho)-\mu) \right\} \prod_{i=1}^{d-2}\sin(\theta_i)^{d-1-i}$$

Kesimpulan: Kerapatan ini berbeda dari hanya menerapkan kerapatan Normal ke titik pada unit sphere karena Jacobian.

Langkah kedua adalah mempertimbangkan kerapatan target dan rancang algoritma rantai Monte Carlo Markov untuk menjelajahi ruang parameter . Upaya pertama saya adalah pada sampler Gibbs, diinisialisasi pada titik di bola terdekat dengan , yaitu,, dan melanjutkan satu sudut pada satu waktu dengan cara Metropolis-dalam-Gibbs:[0,π]d-2×[0,2π]μ

$$f(\mathbf{\theta}|\varrho=1) \propto \exp\frac{-1}{2}\left\{(x(\theta,1)-\mu)^T\Sigma^{-1}(x(\theta,1)-\mu) \right\} \prod_{i=1}^{d-2}\sin(\theta_i)^{d-1-i}$$ $[0,\pi]^{d-2}\times[0,2\pi]$$\mu$$\mu/||\mu||$

1. Hasilkan (dengan jumlah yang dihitung modulo ) dan terima nilai baru ini dengan probabilitas else$\theta_1^{(t+1)}\sim\mathcal{U}([\theta_1^{(t)}-\delta_1,\theta_1^{(t)}+\delta_1])$$\pi$ $$\dfrac{f(\theta_1^{(t+1)},\theta_2^{(t)},...|\varrho=1)}{f(\theta_1^{(t)},\theta_2^{(t)},...|\varrho=1)}\wedge 1$$ $\theta_1^{(t+1)}=\theta_1^{(t)}$
2. Hasilkan (dengan jumlah yang dihitung modulo ) dan terima nilai baru ini dengan probabilitas lagi$\theta_2^{(t+1)}\sim\mathcal{U}([\theta_2^{(t)}-\delta_2,\theta_2^{(t)}+\delta_2])$$\pi$ $$\dfrac{f(\theta_1^{(t+1)},\theta_2^{(t+1)},\theta_3^{(t)},...|\varrho=1)}{f(\theta_1^{(t+1)},\theta_2^{(t)},\theta_3^{(t)},...|\varrho=1)}\wedge 1$$ $\theta_2^{(t+1)}=\theta_2^{(t)}$
3. $\ldots$
4. Hasilkan (di mana jumlah dihitung modulo ) dan menerima nilai baru ini dengan probabilitas lain$\theta_{d-1}^{(t+1)}\sim\mathcal{U}([\theta_{d-1}^{(t)}-\delta_{d-1},\theta_{d-1}^{(t)}+\delta_{d-1}])$$2\pi$ $$\dfrac{f(\theta_1^{(t+1)},\theta_2^{(t+1)},...,\theta_{d-1}^{(t+1)}|\varrho=1)}{f(\theta_1^{(t+1)},\theta_2^{(t+1)},...,\theta_{d-1}^{(t)}| \varrho=1)}\wedge 1$$ $\theta_{d-1}^{(t+1)}=\theta_{d-1}^{(t)}$

Timbangan , , , dapat diskalakan dengan tingkat penerimaan langkah-langkah tersebut, menuju sasaran ideal .$\delta_1$$\delta_2$$\ldots$$\delta_{d-1}$$50\%$

Berikut ini adalah kode R untuk menggambarkan hal di atas, dengan nilai default untuk dan :$\mu$$\Sigma$

library(mvtnorm)
d=4
target=function(the,mu=1:d,sigma=diag(1/(1:d))){
 carte=cos(the[1])
 for (i in 2:(d-1))
  carte=c(carte,prod(sin(the[1:(i-1)]))*cos(the[i]))
 carte=c(carte,prod(sin(the[1:(d-1)])))
 prod(sin(the)^((d-2):0))*dmvnorm(carte,mean=mu,sigma=sigma)}
#Gibbs
T=1e4
#starting point
mu=(1:d)
mup=mu/sqrt(sum(mu^2))
mut=acos(mup[1])
for (i in 2:(d-1))
  mut=c(mut,acos(mup[i]/prod(sin(mut))))
thes=matrix(mut,nrow=T,ncol=d-1,byrow=TRUE)
delta=rep(pi/2,d-1)     #scale
past=target(thes[1,])   #current target
for (t in 2:T){
 thes[t,]=thes[t-1,]
 for (j in 1:(d-1)){
   prop=thes[t,]
   prop[j]=prop[j]+runif(1,-delta[j],delta[j])
   prop[j]=prop[j]%%(2*pi-(j<d-1)*pi)
   prof=target(prop)
   if (runif(1)<prof/past){
     past=prof;thes[t,]=prop}
   }
}

x E [ ( x - μ ) 2 ] ˜ =$||x||_2^2=1$ tidak sepenuhnya dimungkinkan karena adalah variabel acak (kontinu). Jika Anda ingin memiliki varian 1, yaitu (di mana tilde berarti kita memperkirakan variansnya), maka Anda perlu meminta variansnya menjadi . Namun, permintaan ini dapat bertentangan dengan . Artinya, untuk mendapatkan sampel dengan varian ini, Anda memerlukan diagonal agar sama dengan .$x$$E[(x-\mu)^2]\tilde{=} \frac{1}{n}\sum (x-\mu)^2=\frac{1}{n} ||x-n||_2^2=\frac{1}{n}$ ΣΣ$\frac{1}{n}$$\Sigma$$\Sigma$$\frac{1}{n}$

Untuk sampel bentuk distribusi ini secara umum, Anda dapat menghasilkan norm norm standar, dan kemudian kalikan dengan , akar kuadrat dari , dan kemudian tambahkan berarti . Σ $\Sigma^{0.5}$$\Sigma$$\mu$