Bagaimana cara menghitung pita prediksi untuk regresi non-linear?

15

The halaman bantuan untuk Prism memberikan penjelasan berikut untuk bagaimana menghitung band prediksi untuk regresi non-linear. Maafkan kutipan panjang, tapi saya tidak mengikuti paragraf kedua (yang menjelaskan bagaimana didefinisikan dan dihitung). Bantuan apa pun akan sangat dihargai.d Y / d PG|xdY/dP

Perhitungan band kepercayaan dan prediksi cukup standar. Baca terus untuk perincian tentang bagaimana Prism menghitung prediksi dan pita kepercayaan dari regresi nonlinear.

Pertama, mari kita tentukan G | x, yang merupakan gradien dari parameter pada nilai X tertentu dan menggunakan semua nilai parameter yang paling cocok. Hasilnya adalah vektor, dengan satu elemen per parameter. Untuk setiap parameter, ini didefinisikan sebagai dY / dP, di mana Y adalah nilai Y dari kurva yang diberi nilai X tertentu dan semua nilai parameter paling cocok, dan P adalah salah satu parameter.)

G '| x adalah vektor gradien yang ditransposisikan, jadi itu adalah kolom daripada deretan nilai.

Cov adalah matriks kovarians (terbalik Hessian dari iterasi terakhir). Ini adalah matriks persegi dengan jumlah baris dan kolom sama dengan jumlah parameter. Setiap item dalam matriks adalah kovarians antara dua parameter.

Sekarang hitung c = G '| x * Cov * G | x. Hasilnya adalah angka tunggal untuk nilai X.

Pita keyakinan dan prediksi berpusat pada kurva paling cocok, dan meluas di atas dan di bawah kurva dalam jumlah yang sama.

Pita kepercayaan meluas di atas dan di bawah kurva dengan: = sqrt (c) * sqrt (SS / DF) * CriticalT (Confidence%, DF)

Pita prediksi memperpanjang jarak lebih jauh di atas dan di bawah kurva, sama dengan: = sqrt (c + 1) * sqrt (SS / DF) * CriticalT (Confidence%, DF)

Joe Listerr
sumber
Semoga ini bisa membantu: stats.stackexchange.com/questions/74334/…
Bipi
Semoga ini bisa membantu: stats.stackexchange.com/questions/74334/…
Bipi
Ini memang dikenal sebagai metode delta dan menggunakan pendekatan Taylor orde pertama. Lebih baik menggunakan pendekatan orde 2 Taylor untuk ini - fungsi predictNLS dalam paket propagate melakukan itu jika Anda tertarik!
Tom Wenseleers

Jawaban:

18

Ini disebut Metode Delta.

Misalkan Anda memiliki beberapa fungsi ; perhatikan bahwa G ( ) adalah fungsi dari parameter yang Anda perkirakan, β , dan nilai prediktor Anda, x . Pertama, temukan turunan dari fungsi ini sehubungan dengan vektor parameter Anda, β : G ( β , x )y=G(β,x)+ϵG()βxβG(β,x). Ini mengatakan, jika Anda mengubah sedikit parameter, seberapa banyak fungsi Anda berubah? Perhatikan bahwa turunan ini mungkin merupakan fungsi dari parameter Anda sendiri serta prediktornya. Misalnya, jika , maka turunannya adalah x exp ( β x ) , yang tergantung pada nilai β dan nilai x . Untuk mengevaluasi ini, Anda pasang di estimasi β bahwa prosedur Anda memberikan, β , dan nilai prediktor xG(β,x)=exp(βx)xexp(βx)βxββ^x di mana Anda ingin prediksi.

Delta Method, yang berasal dari prosedur kemungkinan maksimum, menyatakan bahwa varians dari akan menjadi G ' ( β , x ) T Var ( β ) G ' ( β , x ) , di mana var ( β )G(β^,x)

G(β^,x)TVar(β^)G(β^,x),
Var(β^)adalah matriks varians-kovarian estimasi Anda (ini sama dengan kebalikan dari Hessian --- turunan kedua dari fungsi kemungkinan pada estimasi Anda). Fungsi yang digunakan paket statistik Anda menghitung nilai ini untuk setiap nilai prediktor yang berbeda . Ini hanya angka, bukan vektor, untuk setiap nilai x .xx

G() pada titik tersebut.

xVar(yx)σ2ϵσ^2yyσ^2SSDF

cσ2σ2σc*SS/DF

c(xx)1Var(β^)=σ2(xx)1

Charlie
sumber
Bisakah Anda menjelaskan perhitungan ci? Tidak terlihat seperti titik kritis t * sqrt (var)
B_Miner
Saya pikir saya mengerti perhitungan mereka; Saya memperbarui respons saya.
Charlie
Charlie, terima kasih banyak atas tanggapan terperinci. Saya bermaksud menulis kode untuk dapat menghitung band prediksi 95%. Saya akan memberi tahu Anda bagaimana hasilnya.
Joe Listerr
@Charlie - sangat sangat menyenangkan!
B_Miner
2
@Charlie. Terima kasih. Saya telah menambahkan kalimat ke FAQ GraphPad Prism kami yang menjelaskan bahwa kami menggunakan cov untuk mengartikan matriks kovarians yang dinormalisasi (setiap nilai berkisar dari -1 hingga 1). Saya juga menambahkan tautan ke halaman ini, yang bagus untuk siapa saja yang mencari perincian matematis.
Harvey Motulsky