Regresi linier dengan noise tembakan

Saya mencari terminologi statistik yang tepat untuk menggambarkan masalah berikut.

Saya ingin menandai perangkat elektronik yang memiliki respons linier

$Y = \beta_0 + \beta_1 X + \epsilon$

di mana adalah sebuah istilah karena derau pembacaan perangkat. Untuk menentukan Saya akan mengukur serangkaian respons dan menerapkan kotak alat regresi linier standar. Tapi saya tidak tahu apa sebenarnya , karena saya menggunakan sumber yang dipengaruhi oleh suara tembakan. Itu saya tahu bahwa jika saya mengatur tombol pada sumber ke nilai tertentu maka (Gaussian dengan rata-rata dan varians ). $\epsilon \sim N(0,\sigma^2_{ro})$ $\beta_0, \beta_1, \sigma^2_{ro}$ $\{X_i,Y_i\}$ $X_i$ $J_i$ $X_i \sim N(\mu, \mu)$ $\mu$ $\mu$

Ini terlihat seperti model kesalahan-dalam-variabel dari regresi linier ( http://en.wikipedia.org/wiki/Errors-in-variables_models ), di mana bukan karena fakta bahwa untuk mengkarakterisasi perangkat saya pada seluruh rentang inputnya , selama pengukuran saya harus mengubah nilai , dan sekarang varian tidak diperbaiki, tetapi itu tergantung pada (melalui J_i), meskipun karena suara tembakan jika ini tidak berarti bahwa varians sama dengan varians . $J_i$ $X_i$ $X_i$ $X_i=X_j$ $X_i$ $X_j$

Apa yang disebut model ini, dan adakah artikel di mana saya bisa mengetahui masalah seperti itu didekati? Atau apakah saya merumuskan dengan cara yang salah?

regression maximum-likelihood heteroscedasticity errors-in-variables GVstats
sumber

Var (Xi) = μ = E (Xi)> 0. Jika ini diperbaiki maka ini akan menjadi kesalahan dalam model variabel dengan rasio varians σ / μ. Itu bukan karena μ berubah dengan Xi. Saya telah melihat model dengan varians tidak konstan dalam Y dan model dengan kesalahan dalam variabel tetapi tidak jenis model ini yang memiliki kesalahan dalam variabel dengan varians tidak konstan. Ketika varians dalam Y tidak konstan kadang-kadang dimungkinkan untuk memodelkan varians sebagai fungsi dari nilai kovariat x. Mungkin sesuatu seperti itu bisa dilakukan untuk kesalahan dalam X.

^{2}

$^2$

_{r} o

$_ro$

Michael R. Chernick

Jawaban:

Model probabilitas untuk noise tembakan tersebut adalah

X \sim Poisson (μ), Y | X \sim Normal (β_{0} + β_{1} X, σ^{2}) .

$X \sim \text{Poisson}(\mu),\quad Y|X \sim \text{Normal}(\beta_0+\beta_1 X, \sigma^2).$

Perkiraan adalah rata-rata dan perkiraan yang baik diberikan oleh kuadrat terkecil biasa, karena nilai diasumsikan independen, terdistribusi secara identik, dan normal. $\mu$ $X$ $(\beta_0, \beta_1)$ $Y$

Estimasi diberikan oleh OLS adalah tidak pantas di sini, meskipun, karena keacakan . Estimasi kemungkinan maksimum adalah $\sigma^2$ $X$

s^{2} = \frac{S_{x y}^{2} - 2 S_{x} S_{y} S_{x y} + S_{x x} (S_{y}^{2} - S_{y y}) + S_{x}^{2} S_{y y}}{S_{x}^{2} - S_{x x}} .

$s^2 = \frac{S_{xy}^2 - 2 S_x S_y S_{xy} + S_{xx}\left(S_y^2 - S_{yy}\right) + S_x^2 S_{yy}}{S_x^2 - S_{xx}}.$

Dalam notasi ini, adalah nilai rata-rata , adalah rata-rata produk dari nilai dan , dll. $S_x$ $X$ $S_{xy}$ $X$ $Y$

Kita dapat mengharapkan kesalahan estimasi standar dalam dua pendekatan (OLS, yang tidak cukup benar, dan MLE seperti yang dijelaskan di sini) berbeda . Ada berbagai cara untuk mendapatkan kesalahan standar ML: lihat referensi. Karena kemungkinan log relatif sederhana (terutama ketika distribusi Poisson didekati oleh distribusi Normal untuk besar ), kesalahan standar ini dapat dihitung dalam bentuk tertutup jika diinginkan. $(\mu)$ $(\mu,\mu)$ $\mu$

Sebagai contoh yang berhasil, saya menghasilkan nilai dari distribusi Poisson : $12$ $X$ $(100)$

94,99,106,87,91,101,90,102,93,110,97,123

Kemudian, pengaturan , , dan , saya menghasilkan nilai sesuai : $\beta_0=3$ $\beta_1=1/2$ $\sigma=1$ $12$ $Y$

47.4662,53.5622,54.6656,45.3592,49.0347,53.8803,48.3437,54.2255,48.4506,58.6761,50.7423,63.9922

Nilai rata-rata sama dengan , estimasi . Hasil OLS (yang identik dengan MLE dari koefisien) memperkirakan sebagai dan sebagai . Tidak mengherankan estimasi intersep, , berangkat dari nilai sebenarnya , karena nilai - nilai ini masih jauh dari aslinya. Perkiraan kemiringan, , mendekati nilai sebenarnya dari . $X$ $99.4167$ $\mu$ $\beta_0$ $1.24$ $\beta_1$ $0.514271$ $\beta_0$ $3$ $X$ $\beta_1$ $0.5$

Perkiraan OLS untuk , bagaimanapun, adalah , kurang dari nilai sebenarnya dari . MLE dari berhasil hingga . (Ini adalah kebetulan bahwa kedua perkiraan rendah dan bahwa MLE lebih besar dari perkiraan OLS.) $\sigma^2$ $0.715$ $1$ $\sigma^2$ $0.999351$

Angka

Garisnya adalah kesesuaian OLS dan estimasi kemungkinan maksimum untuk model probabilitas gabungan Poisson-Normal.

whuber
sumber