Apakah menolak hipotesis menggunakan nilai-p setara dengan hipotesis tidak termasuk dalam interval kepercayaan?

29

Sementara secara formal menurunkan interval kepercayaan dari estimasi, saya berakhir dengan formula yang sangat mirip dengan cara p -value dihitung.

Jadi pertanyaannya: apakah mereka secara formal setara? Yaitu menolak hipotesis H0=0 dengan nilai kritis α setara dengan 0 tidak termasuk dalam interval kepercayaan dengan nilai kritis α ?

Jorge Leitao
sumber
2
@ f coppens: ya, jika dua tes digunakan, dengan statistik berbeda, Anda berakhir dengan dua interval kepercayaan yang berbeda. Tapi saya pikir OP menemukan fakta dasar: baik interval kepercayaan dan nilai-p diperoleh dari distribusi statistik yang sama, sehingga keduanya dapat digunakan untuk memutuskan menolak hipotesis nol atau tidak.
StijnDeVuyst
1
@StijnDeVuyst: Interval Clopper / Pearon untuk proporsi dan interval Sterne untuk proporsi keduanya berasal dari distribusi Binomial dengan ukuran yang sama (p tidak diketahui karena mereka menemukan interval kepercayaan untuk p). Perbedaan antara Clopper / Pearson dan Sterne adalah karena asimetri dari kepadatan Binomial. Interval Sterne mencoba untuk meminimalkan lebar interval dan Clopper_pearson mencoba menjaga simetri (tetapi karena kemiringan Binomial ini hanya dapat ditemukan sekitar).
6
Tidak secara umum, tidak. Pertimbangkan kasus di mana lebar interval adalah fungsi dari nilai parameter yang diestimasikan, sedangkan untuk pengujian lebar interval adalah fungsi dari yang dihipotesiskan. Contoh yang jelas akan menguji p binomial. Mari kita gunakan kira-kira normal. untuk kesederhanaan (meskipun bentuk argumen tidak bergantung padanya). Pertimbangkan n = 10, dan nol dari p = 0,5. Bayangkan mengamati 2 kepala; null tidak ditolak (karena "2" berada di dalam interval 95% sekitar 0,5) tetapi CI untuk p tidak termasuk 0,5 (karena CI lebih sempit daripada lebar interval di bawah nol.
Glen_b -Reinstate Monica
4
Atau jika Anda membutuhkannya cukup besar sehingga perkiraan normal baik, coba 469 head dalam 1000 kali lemparan, untuk H0 p = 0,5; lagi, 95% CI untuk p tidak termasuk 0,5 tetapi tes 5% tidak menolak, karena lebar interval yang sesuai di bawah H0 lebih lebar daripada di bawah alternatif (yang merupakan asal Anda melakukan CI).
Glen_b -Reinstate Monica
4
@Glen_b: Sepertinya stats.stackexchange.com/questions/173005 pertanyaan yang lebih baru ini memberikan contoh persis situasi yang Anda gambarkan di sini.
Amuba kata Reinstate Monica

Jawaban:

32

Iya dan tidak.

Pertama "ya"

Apa yang Anda amati adalah bahwa ketika tes dan interval kepercayaan didasarkan pada statistik yang sama, ada kesetaraan di antara mereka: kita dapat menafsirkan nilai- sebagai nilai terkecil dari α yang nilai nol parameter akan dimasukkan dalam interval kepercayaan 1 - α .pα1α

Biarkan menjadi parameter yang tidak diketahui dalam ruang parameter Θ R , dan biarkan sampel x = ( x 1 , ... , x n ) X nR n menjadi realisasi dari variabel acak X = ( X 1 , ... , X n ) . Untuk kesederhanaan, menentukan interval kepercayaan saya α ( X ) sebagai random selang sehingga yang cakupan probabilitas P θθΘRx=(x1,,xn)XnRnX=(X1,,Xn)Iα(X) (Anda juga bisa mempertimbangkan interval yang lebih umum, di mana probabilitas cakupan dibatasi oleh atau kira-kira sama dengan 1 - α . Alasannya analog.)

Pθ(θIα(X))=1αfor all α(0,1).
1α

Pertimbangkan uji dua sisi dari hipotesis titik-nol terhadap alternatif H 1 ( θ 0 ) : θ θ 0 . Misalkan λ ( θ 0 , x ) menunjukkan nilai p dari tes. Untuk α ( 0 , 1 ) , H 0 ( θ 0 ) ditolak pada level α jikaH0(θ0):θ=θ0H1(θ0):θθ0λ(θ0,x)α(0,1)H0(θ0)α . Level α rejection regionadalah himpunan x yang mengarah pada penolakan H 0 ( θ 0 ) : R α ( θ 0 ) = { xR n : λ ( θ 0 , x ) α } .λ(θ0,x)αα xH0(θ0)

Rα(θ0)={xRn:λ(θ0,x)α}.

Sekarang, pertimbangkan keluarga tes dua sisi dengan nilai-p , untuk θ Θ . Untuk keluarga seperti itu, kita dapat mendefinisikan daerah penolakan terbalik Q α ( x ) = { θ Θ : λ ( θ , x ) α } .λ(θ,x)θΘ

Qα(x)={θΘ:λ(θ,x)α}.

Untuk sembarang , H 0 ( θ 0 ) ditolak jika xR α ( θ 0 ) , yang terjadi jika dan hanya jika θ 0Q α ( x ) , yaitu, xR α ( θ 0 ) θ 0Q α ( x ) . Jika tes didasarkan pada statistik uji dengan distribusi nol mutlak benar-benar benar-benar ditentukan, makaθ0H0(θ0)xRα(θ0)θ0Qα(x)

xRα(θ0)θ0Qα(x).
bawah H 0 ( θ 0 ) . Kemudian P θ 0 ( XR α ( θ 0 ) ) = P θ 0 ( λ ( θ 0 , X ) α ) = α . Karena persamaan ini berlaku untuk θ 0Θλ(θ0,X)U(0,1)H0(θ0)
Pθ0(XRα(θ0))=Pθ0(λ(θ0,X)α)=α.
θ0Θ dan karena persamaan di atas menunjukkan bahwa maka set acak Q α ( x ) selalu mencakup parameter benar θ 0 dengan probabilitas α . Akibatnya, membiarkan Q C α ( x ) menunjukkan komplemen dari Q
Pθ0(XRα(θ0))=Pθ0(θ0Qα(X)),
Qα(x)θ0αQαC(x) , untuk semua θ 0Θ kita memiliki P θ 0 ( θ 0Q C α ( X ) ) = 1 - α , yang berarti bahwa komplemen dari daerah penolakan terbalik adalahinterval kepercayaan 1 - α untuk θ .Qα(x)θ0Θ
Pθ0(θ0QαC(X))=1α,
1αθ

zθx¯σ=1H0(θ)(x¯,θ)R0.05(0.9)=(,1.52)(0.281,)I0.05(1/2)=Q0.05C(1/2)=(0.120,1.120)masukkan deskripsi gambar di sini

(Banyak dari ini diambil dari tesis PhD saya .)

Sekarang untuk "tidak"

θX

Fenomena ini berkaitan dengan masalah yang terkait dengan interval seperti itu yang tidak disarangkan, yang berarti bahwa interval 94% bisa lebih pendek dari interval 95%. Untuk lebih lanjut tentang ini, lihat Bagian 2.5 dari makalah saya terbaru ini (untuk muncul di Bernoulli).

Dan yang kedua "tidak"

θ0=0

Dan terkadang "ya" bukanlah hal yang baik

Seperti yang ditunjukkan oleh f coppens dalam komentar, terkadang interval dan tes memiliki tujuan yang agak bertentangan. Kami ingin interval pendek dan tes dengan daya tinggi, tetapi interval terpendek tidak selalu sesuai dengan tes dengan daya tertinggi. Untuk beberapa contohnya, lihat makalah ini (distribusi normal multivariat), atau ini (distribusi eksponensial), atau Bagian 4 dari tesis saya .

Bayesians juga bisa mengatakan ya dan tidak

Beberapa tahun yang lalu, saya memposting pertanyaan di sini tentang apakah uji-interval-kesetaraan ada juga dalam statistik Bayesian. Jawaban singkatnya adalah bahwa dengan menggunakan pengujian hipotesis Bayesian standar, jawabannya adalah "tidak". Dengan sedikit merumuskan ulang masalah pengujian, jawabannya bisa "ya". (Upaya saya menjawab pertanyaan saya sendiri akhirnya berubah menjadi kertas !)

MånsT
sumber
2
Jawaban yang bagus (+1) dan (Anda sebagian melakukannya) mungkin baik untuk menunjukkan fakta bahwa kadang-kadang interval kepercayaan dan tes hipotesis memiliki (kemungkinan) tujuan yang saling bertentangan: seseorang mencoba untuk menemukan interval kepercayaan 'sekecil mungkin' sementara untuk pengujian hipotesis, seseorang mencoba menemukan wilayah kritis 'sekuat mungkin'.
@ fcoppens: Terima kasih atas sarannya! Saya telah memperbarui jawaban saya dengan beberapa baris tentang ini.
MånsT
Tesis Bagus! Apakah Anda bekerja pada interval Sterne juga?
@ fcoppens: Ya, saya telah melakukan beberapa pekerjaan pada interval Sterne, terutama dalam makalah ini
MånsT
7
T1=(hal^-hal)/hal^(1-hal^)/nT2=(hal^-hal)/hal(1-hal)/n. Perhatikan perbedaan dalam penyebutnya. Anda dapat membuat tes dan interval menggunakan statistik mana pun, dan selama Anda menggunakan statistik yang sama untuk keduanya, tidak akan ada perbedaan.
MånsT
2

Ketika melihat parameter tunggal, ada kemungkinan bahwa tes tentang nilai parameter dan interval kepercayaan "ketidakcocokan" tergantung pada bagaimana mereka dibangun. Secara khusus, tes hipotesis adalah levelα-test, jika menolak hipotesis nol proporsi αsaat hipotesis nol itu benar. Untuk alasan itu seseorang dapat mis menggunakan estimasi parameter model (misalnya varians) yang hanya valid di bawah hipotesis nol. Jika seseorang kemudian mencoba untuk membangun CI dengan membalikkan tes ini, cakupan mungkin tidak tepat di bawah hipotesis alternatif. Karena alasan itu, orang biasanya membuat interval kepercayaan secara berbeda sehingga cakupannya juga tepat di bawah alternatif, yang kemudian dapat menyebabkan ketidakcocokan (biasanya sangat kecil).

Björn
sumber