Jika adalah fungsi cembung maka ketidaksetaraan Jensen menyatakan bahwa , dan saling mutatis ketika adalah cekung. Jelas dalam kasus terburuk Anda tidak bisa menggunakan batas atas dalam hal untuk cembung , tetapi apakah ada batas yang mengarah ke arah ini jika adalah cembung tetapi "tidak terlalu cembung"? Apakah ada beberapa batasan standar yang memberikan kondisi pada fungsi cembung (dan mungkin distribusi juga, jika perlu) yang akan memungkinkan Anda untuk menyimpulkan bahwa , di manaf E [ f ( x ) ] f ( E [ x ] ) f f f E [ f ( x ) ] ≤ φ ( f ) f ( E [ x ] ) φ ( f ) fApakah beberapa fungsi dari kelengkungan / tingkat konveksitas ? Sesuatu yang mirip dengan kondisi Lipschitz, mungkin?
21
Jawaban:
EDIT: versi asli melewatkan nilai absolut. Maaf!!
Hai Ian. Saya akan secara singkat menguraikan dua ketidaksetaraan sampel, satu menggunakan ikatan Lipschitz, yang lain menggunakan ikatan pada turunan kedua, dan kemudian membahas beberapa kesulitan dalam masalah ini. Meskipun saya berlebihan, karena pendekatan yang menggunakan satu turunan menjelaskan apa yang terjadi dengan lebih banyak turunan (melalui Taylor), ternyata versi turunan kedua cukup bagus.
Pertama, dengan ikatan Lipschitz: cukup kerjakan kembali ketimpangan Jensen standar. Trik yang sama berlaku: hitung ekspansi Taylor pada nilai yang diharapkan.
Secara khusus, Misalkan memiliki ukuran yang sesuai , dan atur . Jika memiliki konstanta Lipschitz , maka dengan teorema Taylorμ m : = E ( x ) f LX μ m:=E(x) f L
di mana (perhatikan bahwa dan adalah mungkin). Menggunakan ini dan bekerja kembali bukti Jensen (saya paranoid dan memeriksa bahwa yang standar memang ada di wikipedia),x ≤ m x > mz∈[m,x] x≤m x>m
Sekarang, misalkan . Pada kasus ini,|f′′(x)|≤λ
dan sebagainya
Saya ingin menyebutkan secara singkat beberapa hal. Maaf jika sudah jelas.
Pertama, Anda tidak bisa hanya mengatakan "wlog " dengan menggeser distribusi, karena Anda mengubah hubungan antara dan .f μE(X)=0 f μ
Berikutnya adalah bahwa terikat harus bergantung pada distribusi dalam beberapa cara. Untuk melihat ini, bayangkan dan . Apa pun nilai , Anda masih mendapatkan . Di sisi lain, . Dengan demikian, dengan mengubah , Anda dapat membuat jarak antara dua kuantitas secara sewenang-wenang! Secara intuitif, lebih banyak massa didorong menjauh dari rata-rata, dan dengan demikian, untuk fungsi cembung apa pun, akan meningkat.f ( x ) = x 2 σ f ( E ( X ) ) = f ( 0 ) = 0X∼Gaussian(0,σ2) f(x)=x2 σ f(E(X))=f(0)=0 σ E ( f ( X ) )E(f(X))=E(X2)=σ2 σ E(f(X))
Terakhir, saya tidak melihat cara mendapatkan ikatan multiplikasi seperti yang Anda sarankan. Semua yang saya gunakan dalam posting ini adalah standar: Teorema dan batas turunan Taylor adalah roti & mentega dalam batas statistik, dan mereka secara otomatis memberikan aditif, bukan kesalahan multiplikasi.
Saya akan memikirkannya, dan memposting sesuatu. Intuisi yang kabur adalah akan membutuhkan kondisi yang sangat berat pada fungsi dan distribusi, dan bahwa batas aditif sebenarnya di jantungnya.
sumber
Untuk wawasan, pertimbangkan distribusi yang terkonsentrasi pada dua nilai; katakanlah, dengan probabilitas yang sama dengan 1/2 bahwa itu sama dengan 1 atau 3, di mana . Ambil dan . Pertimbangkan fungsi yang dan . Dengan membuat cukup kecil dan menghubungkan terus menerus di antara ketiga titik ini, kita dapat membuat lengkungan sekecil yang diinginkan. KemudianE[x]=2 N>>0 ϵ>0 f f(1)=f(3)=Nϵ f(E[x])=f(2)=ϵ ϵ f f
Ini menunjukkan harus besar secara sewenang-wenang.φ(f)
sumber