Terbatas

Jika $X \sim F$ dimana dukungan dari $X$ adalah $\mathbb{R}^p$. Begitu,$X = (X_1, X_2, \dots, X_p)$. Lalu katakan saya berasumsi$X$ telah $k$momen yang terbatas. Kapan$p = 1$, Saya tahu itu artinya

$$\int_{\mathbb{R}} x^k\, f(x)\, dx < \infty,$$ dimana $f(x)$ adalah kepadatan terkait $F$. Apa yang setara dengan asumsi matematika$X$ telah $k$ saat-saat yang terbatas ketika $p > 1$?

---

Di tautan ini , di halaman 2, penulis mendefinisikan$k$saat seperti

$$E\|X\|^k = \int \|X\|^k f(x) \, dx,$$ dimanaadalah norma Euclidean.$\| \cdot\|$

Jawaban Glen_b di sini menunjukkan bahwa momen adalah $k$

$$\int x_1^kx_2^k \dots x_p^k \, f(x) dx.$$

Apakah dengan asumsi satu menjadi terbatas berarti yang lain terbatas?

Jawabannya ada di negatif, tetapi masalahnya bisa diperbaiki.

Untuk melihat apa yang salah, misalkan memiliki distribusi t Student dengan dua derajat kebebasan. Properti yang menonjol adalah terbatas tetapi . Pertimbangkan distribusi bivariat . Misalkan menjadi elemen distribusinya (yang singular: ia didukung hanya pada diagonal ). Sepanjang diagonal, , dari mana$X$$\mathbb{E}(|X|)$$\mathbb{E}(|X|^2)=\infty$$(X,X)$$f(x,y)dxdy$$x=y$$||(x,y)||=|x|\sqrt{2}$

$$\mathbb{E}\left(||(X,X)||^1\right) = \mathbb{E}\left(\sqrt{2}|X|\right) \lt \infty$$

sedangkan

$$\iint x^1 y^1 f(x,y) dx dy = \int x^2 f(x,x) dx = \infty.$$

Perhitungan analog dalam dimensi harus menjelaskan bahwa$p$

$$\int\cdots\int |x_1|^k|x_2|^k\cdots |x_p|^k f(x_1,\ldots, x_p)dx_1\cdots dx_p$$

benar-benar momen pesanan , bukan . Untuk lebih lanjut tentang momen multivarian, silakan lihat Biarkan menjadi vektor acak. Apakah th saat-saat dianggap? .$pk$$k$$\mathbf{Y}$$k$$\mathbf{Y}$

---

Untuk mengetahui apa hubungan seharusnya antara momen multivariat dan momen norma, kita akan membutuhkan dua ketidaksetaraan. Misalkan menjadi vektor -dimensi apa pun dan biarkan menjadi angka positif. Tulis untuk jumlah mereka (menyiratkan untuk semua ). Misalkan adalah bilangan positif (dalam aplikasi, untuk norma Euclidean, tetapi ternyata tidak ada yang istimewa tentang nilai ). Seperti biasa, tulis$x=(x_1, \ldots, x_p)$$p$$k_1, k_2, \ldots, k_p$$k=k_1+k_2+\cdots k_p$$k_i/k \le 1$$i$$q \gt 0$$q=2$$2$

$$||x||_q = \left(\sum_i |x_i|^q\right)^{1/q}.$$

Pertama, mari kita terapkan ketimpangan AM-GM ke angka non-negatif dengan bobot . Ini menegaskan bahwa rata-rata geometri tertimbang tidak dapat melebihi rata-rata aritmatika tertimbang:$|x_i|^q$$k_i$

$$\left(\prod_i (|x_i|^q)^{k_i}\right)^{1/k} \le \frac{1}{k}\sum_i k_i|x_i|^q.$$

Menaksir terlalu tinggi sisi kanan dengan mengganti setiap dengan dan mengambil kekuatan dari kedua sisi:$k_i/k$$1$$k/q$

$$\prod_i |x_i|^{k_i} = \left(\left(\prod_i (|x_i|^q)^{k_i}\right)^{1/k}\right)^{k/q} \le \left(\sum_i |x_i|^q\right)^{k/q} = ||x||_q^k.\tag{1}$$

Sekarang mari kita melebih-lebihkan dengan mengganti setiap istilah dengan yang terbesar di antara mereka, :$||x||_q$$|x_i|^q$$\max(|x_i|^q) = \max(|x_i|)^q$

$$||x||_q \le \left(\sum_i \max(|x_i|^q)\right)^{1/q} = \left(p \max(|x_i|)^q\right)^{1/q} = p^{1/q} \max(|x_i|).$$

Mengambil menghasilkan hasil$k^\text{th}$

$$||x||_q^k \le p^{k/q} \max(|x_i|^k) \le p^{k/q} \sum_i |x_i|^k.\tag{2}$$

Sebagai notasi, tulis

$$\mu(k_1,k_2,\ldots,k_p) = \int\cdots \int |x_1|^{k_1}|x_2|^{k_2}\cdots|x_p|^{k_p} f(x)\,dx.$$

Ini adalah momen pesanan$(k_1,k_2,\ldots,k_p)$ (dan total pesanan ). Dengan mengintegrasikan lebih jauh , ketimpangan terbentuk$k$$f$$(1)$

$$\mu(k_1,\ldots,k_p) \le \int\cdots\int ||x||_q^k f(x)\,dx = \mathbb{E}(||X||_q^{k})\tag{3}$$

dan ketidaksetaraan memberikan$(2)$

$$\mathbb{E}(||X||_q^{k})\le p^{k/q}\left(\mu(k,0,\ldots,0) + \mu(0,k,0,\ldots,0) + \cdots + \mu(0,\ldots,0,k)\right).\tag{4}$$

Sisi kanannya adalah, hingga kelipatan konstan, jumlah momen univariat . Bersama-sama, dan ditampilkan$k^\text{th}$$(3)$$(4)$

• Finiteness dari semua momen kv univariat menyiratkan finiteness dari .$k^\text{th}$$\mathbb{E}(||X||_q^{k})$

• Finiteness of menyiratkan finiteness dari semua mana .$\mathbb{E}(||X||_q^{k})$$\mu(k_1,\ldots,k_p)$$k_1+\cdots +k_p=k$

Memang, dua kesimpulan ini digabungkan sebagai silogisme untuk menunjukkan bahwa ketepatan momen univariat orde menyiratkan finiteness semua momen multivariat orde total .$k$$k$

Jadi,

Untuk semua , momen dari norma terbatas jika dan hanya jika semua momen dari total pesanan adalah terbatas.$q \gt 0$$k^\text{th}$$L_q$$\mathbb{E}(||X||_q^{k})$$k$

Jawaban @whuber benar dan tersusun dengan baik.

Saya menulis utas ini hanya untuk menguraikan mengapa masalah seperti itu dapat diatasi dengan lebih baik dalam bahasa tensor. Saya sebelumnya berpikir bahwa sudut pandang tensor diterima secara luas di komunitas statistik, sekarang saya tahu ini bukan masalahnya.

Dalam pp.46-47 dari [McCullagh], dia menyatakan bagaimana kita dapat melihat momen sebagai tensor. Saya menjelaskannya pada dasarnya mengikuti kata-katanya. Biarkan menjadi vektor acak, dan kita dapat mendiskusikan momen (pusat) nya . Dan jika kita mengambil transformasi affine (dengan kata lain kita dapat menuliskannya dalam notasi matriks di ruang probabilitas, maka momen (pusat) adalah$\boldsymbol{X}=(X_{1},\cdots X_{p})$$\kappa^{i,j}=E(X_{i}-EX_{i})(X_{j}-EX_{j})$$Y_{r}=\boldsymbol{A}_{r}\boldsymbol{X}+b_{r}$$\boldsymbol{Y=AX+b})$$Y_{r},Y_{s}$

$$\kappa^{r,s}=\frac{\partial Y_{r}}{\partial X_{i}}\frac{\partial Y_{s}}{\partial X_{j}}\kappa^{i,j}$$ dengan rumus transformasi. Jadi saat ini berperilaku seperti tensor contravarian (0,1). Jika kita menerima pandangan tensor seperti itu, maka norma / momen dari variabel acak dapat diperlakukan sebagai norma tensor. Jadi faktanya, norma tensor multi-indeks dari orde tertinggi tidak selalu mengikat norma tensor multi-indeks ordo lebih rendah. Sekarang karena tensor diberikan oleh operator diferensial orde pertama, norma tensor Sobolev mulai berlaku secara alami, misalnya dalam wavelet. Dan ada banyak contoh tandingan bahwa norma orde tertinggi tidak mengikat norma orde rendah di ruang Sobolev-Besov. ( Pos MO )$L^{p}$

Adapun alasan mengapa kita harus mengadopsi pandangan seperti itu, ceritanya jauh lebih lama, tetapi komentar singkat berikut.

Referensi klasik dalam membangun pandangan ini adalah [McCullagh] dan karya-karya yang kemudian tersebar dalam literatur "pembelajaran mesin". Tapi asal usul pandangan seperti itu sebenarnya dikejar jauh lebih awal dalam karya Bayesian [Jeffereys]. Pandangan seperti itu jelas membantu visualisasi dan mungkin memotivasi beberapa penelitian dalam analisis bentuk statistik seperti karya-karya awal Mardia.

$\blacksquare$ Referensi

[McCullagh] http://www.stat.uchicago.edu/~pmcc/tensorbook/ch1.pdf

[Jeffreys] Jeffreys, Harold. Tensor kartesius. Cambridge University Press, 1931.