Interval prediksi regresi linier

Jika perkiraan linier terbaik (menggunakan kuadrat terkecil) dari titik data saya adalah garis , bagaimana saya bisa menghitung kesalahan aproksimasi? Jika saya menghitung standar deviasi perbedaan antara pengamatan dan prediksi e i = r e a l ( x i ) - ( m x i + b ) , dapatkah saya nanti mengatakan bahwa nilai riil (tetapi tidak diamati) nilai y r = r e a l ( x 0 ) termasuk dalam interval$y=mx+b$$e_i=real(x_i)-(mx_i+b)$$y_r=real(x_0)$ ( y p = m x 0 + b ) dengan probabilitas ~ 68%, dengan asumsi distribusi normal?$[y_p-\sigma, y_p+\sigma]$$y_p=mx_0+b$

Untuk memperjelas:

Saya membuat pengamatan tentang fungsi dengan mengevaluasi beberapa poin x i . Saya mencocokkan pengamatan ini dengan garis l ( x ) = m x + b . Untuk x 0 yang tidak saya amati, saya ingin tahu seberapa besar f ( x 0 ) - l ( x 0 ) . Menggunakan metode di atas, apakah benar mengatakan bahwa f ( x 0 ) ∈ [ l ( x $f(x)$$x_i$$l(x)=mx+b$$x_0$$f(x_0)-l(x_0)$ dengan prob. ~ 68%?$f(x_0) \in [l(x_0)-\sigma, l(x_0)+\sigma]$

@whuber telah mengarahkan Anda ke tiga jawaban yang bagus, tapi mungkin saya masih bisa menulis sesuatu yang bernilai. Pertanyaan eksplisit Anda, seperti yang saya pahami, adalah:

Mengingat model pas $\hat y_i=\hat mx_i + \hat b$ (pemberitahuan saya menambahkan 'topi') , dan asumsi residual saya biasanya didistribusikan, , saya bisa memprediksi bahwa belum respon tidak teramati, y n e w , dengan diketahui nilai prediksi, x n e w , akan jatuh dalam interval ( y - σ e , y + $\mathcal N(0, \hat\sigma^2_e)$$y_{new}$$x_{new}$ , dengan probabilitas 68%?$(\hat y -\sigma_e, \hat y +\sigma_e)$

Secara intuitif, jawabannya sepertinya harus 'ya', tetapi jawaban yang sebenarnya mungkin . Ini akan menjadi kasus ketika parameter (yaitu, & σ ) diketahui dan tanpa kesalahan. Karena Anda memperkirakan parameter ini, kami harus memperhitungkan ketidakpastiannya. $m, b,$$\sigma$

Pertama-tama mari kita pikirkan tentang standar deviasi residu Anda. Karena ini diperkirakan dari data Anda, mungkin ada beberapa kesalahan dalam estimasi. Akibatnya, distribusi harus Anda gunakan untuk membentuk interval prediksi Anda harus , tidak normal. Namun, karena t konvergen dengan cepat ke normal, ini cenderung menjadi masalah dalam praktik. $t_\text{df error}$$t$

Jadi, bisa kita hanya menggunakan y baru ± t ( 1 - α / 2 , error df ) s , bukan y baru ± z ( 1 - α / 2 ) s , dan pergi jalan gembira kami? Sayangnya tidak ada. Masalah yang lebih besar adalah bahwa ada ketidakpastian tentang perkiraan Anda dari mean bersyarat dari respon di lokasi itu karena ketidakpastian dalam perkiraan Anda m & b . Demikian,$\hat y_\text{new}\pm t_{(1-\alpha/2,\ \text{df error})}s$$\hat y_\text{new}\pm z_{(1-\alpha/2)}s$$\hat m$$\hat b$standar deviasi dari prediksi Anda perlu untuk menggabungkan lebih dari sekedar $s_\text{error}$ . Karena varians menambahkan , perkiraan varians dari prediksi akan menjadi: Perhatikan bahwa " x " adalah subscript untuk mewakili nilai tertentu untuk baru pengamatan, dan bahwa " s 2 " adalah sesuai subscript. Artinya, interval prediksi Anda bergantung pada lokasi pengamatan baru di sepanjang

$$s^2_\text{predictions(new)}=s^2_\text{error}+\text{Var}(\hat mx_\text{new}+\hat b)$$ $x$$s^2$$x$sumbu. Deviasi standar prediksi Anda dapat lebih mudah diperkirakan dengan rumus berikut: Sebagai catatan samping yang menarik, kita dapat menyimpulkan beberapa fakta tentang interval prediksi dari persamaan ini. Pertama, interval prediksi akan sempit semakin banyak data yang kita miliki ketika kita membangun model prediksi (ini karena ada kurang ketidakpastian dalamm&b). Kedua, prediksi akan paling tepat jika dibuat dengan nilai rata-ratax yangAnda gunakan untuk mengembangkan model Anda, karena pembilang untuk suku ketiga adalah0. Alasannya adalah bahwa dalam keadaan normal, tidak ada ketidakpastian tentang perkiraan kemiringan pada rata-rata $$s_\text{predictions(new)}=\sqrt{s^2_\text{error}\left(1+\frac{1}{N}+\frac{(x_\text{new}-\bar x)^2}{\sum(x_i-\bar x)^2}\right)}$$ $\hat m$$\hat b$$x$$0$$x$, hanya beberapa ketidakpastian tentang posisi vertikal sebenarnya dari garis regresi. Dengan demikian, beberapa pelajaran yang bisa dipetik untuk membangun model prediksi adalah: bahwa lebih banyak data bermanfaat, bukan dengan menemukan 'signifikansi', tetapi dengan meningkatkan ketepatan prediksi masa depan; dan bahwa Anda harus memusatkan upaya pengumpulan data Anda pada interval di mana Anda perlu membuat prediksi di masa mendatang (untuk meminimalkan pembilang itu), tetapi sebarkan pengamatan seluas mungkin dari pusat itu (untuk memaksimalkan penyebut itu).

Setelah menghitung nilai yang benar dengan cara ini, kita dapat menggunakannya dengan distribusi sesuai seperti yang disebutkan di atas. $t$