Saya berasumsi bahwa Anda merasa nyaman dengan menganggap segitiga siku-siku sebagai makna bahwa dan Y - E [ Y ∣ X ] adalah variabel acak yang tidak berkorelasi . Untuk variabel acak tidak berkorelasi A dan B ,
var ( A + B ) = var ( A ) + var ( B ) ,
dan jadi jika kita menetapkan A = Y - E [E[Y∣X]Y−E[Y∣X]AB
var(A+B)=var(A)+var(B),(1)
dan
B = E [ Y ∣ X ] sehingga
A + B = Y , kita mendapatkan
var ( Y ) = var ( Y - E [ Y ∣ X ] ) + var ( E [ Y ∣ X ] ) .
Masih menunjukkan bahwa
var ( Y - E [ Y ∣ XA=Y−E[Y∣X]B=E[Y∣X]A+B=Yvar(Y)=var(Y−E[Y∣X])+var(E[Y∣X]).(2)
sama dengan
E [ var ( Y ∣ X ) ] sehingga kita dapat menyatakan kembali
( 2 ) sebagai
var ( Y ) = E [ var ( Y ∣ X ) ] + var ( E [ Y ∣ X ] )
yang merupakan rumus total varian.
var(Y−E[Y∣X])E[var(Y∣X)]( 2 )var( Y) = E[ var( Y∣ X) ] + var( E[ Y∣ X] )(3)
Sudah diketahui bahwa nilai yang diharapkan dari variabel acak adalah E [ Y ] , yaitu, E [ E [ E [ Y ∣ X ] ] = E [ Y ] . Jadi kita melihat bahwa
E [ A ] = E [ Y - E [ Y ∣ X ] ] = E [ Y ] - E [ E [E[ Y∣ X]E[ Y]E[ E[ Y∣ X] ] = E[ Y]
dari mana var ( A ) = E [ A 2 ] , yaitu
var ( Y - E [ Y ∣ X ] ) = E [ ( Y - E [ Y ∣ X ] ) 2 ] .
Misalkan C menunjukkan variabel acak ( Y - E [ Y
E[ A ] = E[ Y- E[ Y∣ X] ] = E[ Y] - E[ E[ Y∣ X] ] = 0 ,
var( A ) = E[ A2]var( Y- E[ Y∣ X] ) = E[ ( Y- E[ Y∣ X] )2] .(4)
C sehingga kita dapat menulis
var itu ( Y - E [ Y ∣ X ] ) = E [ C ] .
Tetapi,
E [ C ] = E [ E [ C ∣ X ] ] di mana
E [ C ∣ X ] = E [ ( Y - E [ Y ∣ X ] )( Y- E[ Y∣ X] )2var( Y- E[ Y∣ X] ) = E[ C] .(5)
E[C] = E[ E[C∣X] ]
Sekarang,
mengingatbahwa
X = x , distribusi bersyarat dari
Y memiliki rata-rata
E [ Y ∣ X = x ]
dan juga
E [ ( Y - E [ Y ∣ X = x ] ) 2 | X = x ] = var ( Y ∣ X = x ) .
Dengan kata lain,
EE[ C∣ X] = E[ (Y- E[ Y∣ X] )2∣∣X] .X= xYE[ Y∣ X= x ]E[ (Y- E[ Y∣ X= x ] )2∣∣X= x ] = var( Y∣ X= x ) .
sehingga
variabel acak E [ C ∣ X ] hanya
var ( Y ∣ X ) . Karenanya,
E [ C ] = E [ E [ C ∣ X ] ] = E [ var ( Y ∣ X ) ] ,E[ C∣ X= x ] = var( Y∣ X= x ) E[ C∣ X]var( Y∣ X)E[ C] = E[ E[ C∣ X] ] = E[ var( Y∣ X) ] ,(6)
( 5 )var( Y- E[ Y∣ X] ) = E[ var( Y∣ X) ] .
( 2 )( 3 )
Pernyataan:
Teorema Pythagoras mengatakan, untuk elemen apa punT1 dan T2 dari ruang produk dalam dengan norma-norma yang terbatas sehingga ⟨ T1, T2⟩ = 0 ,
Kasus Kami:
Dalam kasus kamiT1= E( Y| X) dan T2= Y- E[ Y| X] adalah variabel acak, norma kuadrat adalah | | Tsaya| |2= E[ T2saya] dan produk dalam ⟨ T1, T2⟩ = E[ T1T2] . Menerjemahkan ( 1 ) ke dalam bahasa statistik memberi kita:
Mengurangi( E[ Y] )2 dari kedua sisi, membuat sisi kiri Var[ Y] ,
Memperhatikan di sisi kanan ituE[ { E( Y| X) }2] - ( E[ Y] )2= Var( E[ Y| X] ) ,
Memperhatikan ituE[ ( Y- E[ Y| X] )2] = E[ E{ ( Y- E[ Y| X] )2} | X] = E[ Var( Y| X) ] .
Untuk detail tentang tiga poin ini, lihat posting @ DilipSarwate. Dia menjelaskan semua ini dengan lebih detail daripada saya.
sumber