Perbedaan antara pemfilteran dan pemulusan regresi polinomial?

Baik penyaringan lulus rendah dan perataan regresi polinom dapat dilihat sebagai perkiraan suatu fungsi. Namun, cara melakukan ini berbeda. Pertanyaan kunci untuk ditanyakan di sini adalah "Bisakah Anda melakukan yang satu dengan yang lain?" dan jawaban singkatnya adalah "tidak selalu", untuk alasan yang dijelaskan di bawah ini.

Ketika menghaluskan dengan menyaring operasi kunci adalah konvolusi di mana , yang dalam domain frekuensi diterjemahkan menjadi mana menunjukkan Discrete Fourier Transform (dan kebalikannya). Discrete Fourier Transform (misal ) menawarkan perkiraan $y(n)=x(n)*h(n)$ $y=F^{-1}(F(x)F(h))$ $F$ $F^{-1}$ $F(x)$ $x$ sebagai jumlah dari fungsi trigonometri. Ketika adalah filter low pass, sejumlah kecil komponen frekuensi rendah dipertahankan dan perubahan mendadak dalam dihaluskan. Ini menetapkan penyaringan jalur-rendah dalam konteks perkiraan fungsi dengan menggunakan fungsi trigonometri sebagai fungsi dasar , tetapi perlu meninjau kembali rumus konvolusi untuk mencatat bahwa ketika penyaringan, y (n) (output dari filter) tergantung pada serta jumlah tertimbang sampel masa lalu (bobot di sini ditentukan oleh "bentuk" ). (Pertimbangan serupa berlaku untuk filter IIR tentu saja dengan penambahan nilai masa lalu $h$ $x$ $x(n)$ $x$ $h$ juga) $y(n)$

Ketika dihaluskan oleh beberapa polinomial n-degree , output dari interpolant hanya bergantung pada dan campuran fungsi-fungsi dasar (berbeda) (juga disebut monomial ). Apa fungsi dasar yang berbeda ini? Ini adalah konstan ( ), garis ( ), parabola ( ) dan seterusnya (lihat hal ini untuk menyenangkan ilustrasi). Namun biasanya, ketika berhadapan dengan sampel yang sama jauh dalam waktu dan karena alasan untuk melakukan dengan akurasi, apa yang digunakan adalah bentuk polinomial Newton. $x(n)$ $a_0x^0$ $a_1x$ $a_2x^2$ . Alasan saya mengutip ini adalah karena melalui itu mudah untuk melihat bahwa ketika melakukan interpolasi linier Anda dapat membangun kernel filter yang mengembalikan jumlah tertimbang linear dari sampel yang tersedia, sama seperti polinomial interpolasi pesanan rendah akan menggunakan "baris" untuk interpolasi antara dua sampel. Tetapi pada derajat yang lebih tinggi, kedua metode pendekatan akan mengembalikan hasil yang berbeda (karena perbedaan dalam fungsi dasar).

$x(n)$ $x$ -Catat poin tentang normalisasi-)

Alasan untuk menggunakan pemfilteran sebagai interpolasi beberapa kali, misalnya misalnya dalam kasus "Sinc Interpolasi", adalah karena itu juga masuk akal dari sudut pandang fisik. Representasi ideal dari sistem terbatas-band (mis. Penguat (linier) atau lensa dalam sistem optik ) dalam domain waktu adalah pulsa tulus. Representasi domain frekuensi dari pulsa sinc adalah "pulsa" persegi panjang $x^3$ sebagai contoh). Saya benar-benar berbicara tentang kendala yang dipaksakan oleh interpolasi ketika seseorang mencoba untuk "menebak" nilai-nilai yang secara objektif hilang.

Tidak ada "metode terbaik" universal, itu sangat tergantung pada masalah interpolasi yang Anda hadapi.

Saya harap ini membantu.

PS (Artefak yang dihasilkan oleh masing-masing dari dua metode pendekatan berbeda juga, lihat misalnya Fenomena Gibbs dan overfitting , meskipun overfitting adalah "di sisi lain" dari pertanyaan Anda.)

A A
sumber

+1 Jawaban luar biasa. Beberapa tindak lanjut: 1) Anda menyebutkan tidak memperhitungkan nilai-nilai masa lalu x [n] dalam pemasangan polinom, namun, bukankah ini titik diperdebatkan berdasarkan apa yang Anda katakan tentang x [n] menjadi penjumlahan dari sinus / cosinus? (Nilai masa lalu diperhitungkan atau tidak, ini masih berlaku). 2) Saya agak bingung dengan interpretasi fisik dari sesuatu yang 'terbatas band' dalam kasus ini. Bukankah semuanya terbatas band? Artinya, apakah akan melewati frekuensi tertentu dan dan melemahkan orang lain? Apa contoh fisik dari sistem non-bandlimited? Terima kasih.

Spacey

1) Tidak yakin bahwa saya mengerti sepenuhnya apa yang Anda maksud tetapi saya mengacu pada perbedaan antara mendapatkan output dari konvolusi dan dari pemasangan polinomial. 2) Dalam beberapa kasus, sinyal dan sistem diperlakukan di bawah kerangka kerja yang sama. Secara teoritis ada sinyal yang tidak terbatas band ( en.wikipedia.org/wiki/… ) seperti white noise ( en.wikipedia.org/wiki/White_noise ). Perawatan yang sangat baik tersedia di Sinyal & Sistem oleh Oppenheim dan Willsky. Saya menggunakan istilah di sini untuk membuat hubungan antara bandlimit-> sinc

A_A

Ok, saya telah menulis ulang pertanyaan saya - hanya untuk memastikan: 1) Semakin banyak polinomial yang kita gunakan, semakin 'bias' kita dalam memaksa hubungan antar titik, yang mungkin tidak sesuai dengan kenyataan fisik, ya? (Lebih banyak tidak selalu lebih baik dalam kasus ini.) 2) Mengenai pembatasan-band - Saya hanya ingin tahu mengapa kami mengatakan ini, karena TIDAK SETIAP band sistem terbatas, dalam hal itu, hanya diperlukan frekuensi tertentu dan melemahkan yang lain? Terima kasih.

Spacey

Aku menyesal ini luput dari perhatianku. Untuk pertanyaan spesifik ini: 1) Tidak perlu. Dalam contoh yang diberikan saya mengacu pada pembatasan yang diberlakukan oleh "bentuk" dari monomial. 2) Sinyal & Sistem akan banyak membantu. Hal-hal tertentu dikatakan tepat karena aplikasi teknik menggunakan subset matematika yang di bidang lain mungkin sangat baik digunakan untuk sinyal terbatas non-band (seperti proses acak yang benar-benar seragam (white noise) terkait dengan di atas).

A_A

Pertanyaan yang bagus dan jawaban yang mencerahkan. Saya ingin berbagi beberapa wawasan sebagai berikut. Ada juga basis polinom ortogonal juga seperti basis polinom Legendre (berbeda dengan basis monomial) yang lebih stabil dalam pemasangan polinomial tingkat tinggi. Karena basis tulus yang digunakan dalam rumus interpolasi Shannon (yang memang juga dapat dilihat sebagai operasi konvolusi dan karenanya operasi penyaringan) adalah basis ortogonal untuk ruang Hilbert bandlimited, basis polinomial ortogonal dapat berfungsi untuk memperkirakan kelas fungsi yang lebih besar, bukan dalam bandlimited. ruang bersama dengan memiliki kekuatan ortogonalitas dengan mereka.

Penyaringan polinomial (bukan interpolasi) juga telah ada dalam literatur Kimia sejak 1960. Catatan kuliah yang baik tentang meninjau kembali topik ini telah ditulis oleh R. Schafer berjudul, Apa itu Savitzky-Golay Filter, tautan: http: // www-inst. eecs.berkeley.edu/~ee123/fa12/docs/SGFilter.pdf

Neeks
sumber

Perbedaan antara pemfilteran dan pemulusan regresi polinomial?

Jawaban: