Apa statistik transformasi Fourier diskrit dari noise Gaussian putih?

10

Pertimbangkan sinyal noise Gaussian putih x(t).
Jika kita mengambil sampel sinyal ini dan menghitung transformasi Fourier diskrit, apa statistik dari amplitudo Fourier yang dihasilkan?

DanielSank
sumber
1
Anda harus mulai dengan sinyal Gaussian putih waktu diskrit . Pengambilan sampel proses putih kontinu-waktu secara matematis tidak jelas, karena fungsi autokorelasi dari proses itu dijelaskan oleh distribusi delta Dirac. Karena autokorelasi dari proses sampel adalah versi sampel dari autokorelasi dari proses kontinu asli, Anda perlu mempertimbangkan versi sampel dari distribusi Dirac delta, yang tidak ditentukan.
Matt L.
@MattL. "Autokorelasi [dari] proses sampel adalah versi sampel dari autokorelasi dari proses kontinu asli ...". Sebenarnya ini tidak jelas bagi saya. Menjelaskan bahwa itu akan menjadi tanya jawab diri yang bermanfaat.
DanielSank
Perhatikan bahwa jawaban akan berlaku untuk setiap transformasi kesatuan White Gaussian Noise.
Royi
@Royi Saya tidak setuju dengan hasil edit Anda. Bisakah Anda memberikan tautan yang menunjukkan bahwa huruf besar yang Anda gunakan dalam judul konsisten dengan kebijakan situs?
DanielSank
Pulihkan gaya Anda. Hal utama dalam pengeditan adalah menambahkan tag yang relevan.
Royi

Jawaban:

15

Alat matematika

Kita dapat melakukan perhitungan menggunakan beberapa elemen dasar teori probabilitas dan analisis Fourier. Ada tiga elemen (kami menunjukkan kepadatan probabilitas dari variabel acakX pada nilai x sebagai PX(x)):

  1. Diberikan variabel acak X dengan distribusi PX(x), distribusi variabel yang diskalakan Y=aX adalah PY(y)=(1/a)PX(y/a).

  2. Distribusi probabilitas dari jumlah dua variabel acak sama dengan konvolusi distribusi probabilitas dari puncak. Dengan kata lain, jikaZ=X+Y kemudian PZ(z)=(PXPY)(z) dimana menunjukkan konvolusi.

  3. Transformasi Fourier dari belitan dua fungsi sama dengan produk transformasi Fourier dari kedua fungsi tersebut. Dengan kata lain:

dx(fg)(x)eikx=(dxf(x)eikx)(dxg(x)eikx).

Perhitungan

Nyatakan proses acak sebagai x(t). Pengambilan sampel diskrit menghasilkan urutan nilaixnyang kami anggap tidak berkorelasi secara statistik. Kami juga menganggap itu untuk masing-masingn xn adalah Gaussian didistribusikan dengan standar deviasi σ. Kami menunjukkan fungsi Gaussian dengan standar deviasiσ oleh simbol Gσ jadi kami akan mengatakan itu Pxn(x)=Gσ(x).

Amplitudo transformasi Fourier diskrit didefinisikan sebagai

Xkn=0N-1xne-saya2πnk/N.
Fokus untuk saat ini hanya pada bagian nyata yang kita miliki
Xk=n=0N-1xncos(2πnk/N).
Ini hanya jumlah, jadi dengan aturan # 2 distribusi probabilitas Xksama dengan konvolusi berganda dari distribusi probabilitas dari istilah yang dijumlahkan. Kami menulis ulang jumlahnya sebagai
Xk=n=0N-1yn
dimana
ynxncos(2πnk/N).
Faktor kosinus adalah faktor skala deterministik. Kita tahu bahwa distribusixn adalah Gσ jadi kita bisa menggunakan aturan # 1 dari atas untuk menulis distribusi yn:
Pyn(y)=1cos(2πnk/N)Gσ(ycos(2πnk/N))=Gσcn,k(y)
di mana untuk singkatnya notasi yang telah kami tetapkan cn,kcos(2πnk/N).

Oleh karena itu, distribusi Xk adalah konvolusi berganda atas fungsi Gσcn,k:

PXk(x)=(Gσc0,kGσc1,k)(x).

Tidak jelas bagaimana melakukan konvolusi berganda, tetapi menggunakan aturan # 3 itu mudah. Mendenotasikan transformasi Fourier dari suatu fungsi olehF kita punya

F(PXk)=n=0N-1F(Gσcn,k).

Transformasi Fourier dari Gaussian dengan lebar σ adalah Gaussian lain dengan lebar 1/σ, jadi kita dapatkan

F(PXk)(ν)=n=0N-1G1/σcn,k=n=0N-1σ2cn,k22πexp[-ν22(1/σ2cn,k2)]=(σ22π)N/2(n=0N-1cn,k)exp[-ν22σ2n=0N-1cos(2πnk/N)2].
Semua hal sebelum eksponensial tidak tergantung νdan karena itu merupakan faktor normalisasi, jadi kami mengabaikannya. Jumlahnya adilN/2 jadi kita dapatkan
F(PXk)exp[-ν22σ2N2]=G2/σ2N
dan oleh karena itu
PXk=GσN/2.

Karena itu kami telah menghitung distribusi probabilitas dari bagian nyata dari koefisien Fourier Xk. Ini adalah Gaussian didistribusikan dengan standar deviasiσN/2. Perhatikan bahwa distribusi tidak tergantung pada indeks frekuensik, yang masuk akal untuk kebisingan tidak berkorelasi. Dengan simetri, bagian imajiner harus didistribusikan persis sama.

Secara intuitif kami berharap penambahan lebih banyak integrasi akan mengurangi lebar distribusi noise yang dihasilkan. Namun, kami menemukan bahwa standar deviasi dari distribusiXk tumbuh sebagaiN. Ini hanya karena pilihan kami untuk normalisasi transformasi Fourier diskrit. Jika kita malah menormalkannya seperti ini

Xk=1Nn=0N-1xne-saya2πnk/N
maka kita akan menemukan
PXk=Gσ/2N
yang setuju dengan intuisi bahwa distribusi kebisingan menjadi lebih kecil saat kami menambahkan lebih banyak data. Dengan normalisasi ini, sinyal yang koheren akan didemodulasi ke fasor amplitudo tetap, jadi kami memulihkan hubungan biasa bahwa rasio sinyal terhadap noise yang diamplasikan berskala sebagaiN.
DanielSank
sumber
Semua ini baik dan keren tetapi ketika berhadapan dengan banyak variabel acak, dan terutama variabel acak Gaussian, kovarian adalah beberapa hal penting seperti halnya pertanyaan tentang variabel acak mana yang independen . Bisakah Anda mengatasi masalah ini dalam jawaban Anda? (Variabel acak Marginal Gaussian tidak perlu bersama - sama Gaussian juga;2Nvariabel acak bersama-sama Gaussian? apakah mereka independen?
Dilip Sarwate
1
@DilipSarwate ini pertanyaan yang bagus. Sayangnya saya belum tahu jawabannya. Saya akan melalui apa yang Anda sebut "belajar sendiri" dari pemrosesan sinyal stokastik dan saya belum mengerti mengapa nilai-nilai proses fisik pada waktu yang berbeda sering dimodelkan sebagai Gaussian bersama (atau bahkan apa yang sebenarnya berarti). Saya menduga itu ada hubungannya dengan persamaan diferensial yang mengatur proses yang mendasarinya, tapi sekali lagi saya hanya belum tahu. Jika Anda ingin membuat Q&A mandiri, itu akan sangat berguna. Kalau tidak, saya akhirnya akan mengajukan pertanyaan yang relevan di situs ini.
DanielSank
@DilipSarwate Saya perhatikan Anda menggunakan asumsi proses Gaussian dalam jawaban Anda untuk pertanyaan lain ini . Anda bahkan mencatat bahwa "proses Gaussian" tidak sama dengan hanya mengatakan bahwa distribusi proses pada suatu perbaikantGaussian didistribusikan. Ini menunjukkan bahwa proses Gaussian adalah umum di Alam / teknik. Apakah ini benar? Jika demikian, dapatkah Anda memberi saya petunjuk tentang di mana saya bisa belajar mengapa?
DanielSank
1
@DanielSank Menurut teorema limit pusat, kombinasi dari sejumlah besar variabel acak independen akan selalu menghasilkan distribusi normal, tidak peduli distribusi asli masing-masing variabel acak. Karena distribusi normal dipelajari dengan sangat baik, sering diasumsikan bahwa proses yang diamati sesuai dengan teorema limit pusat. Ini tidak selalu terjadi, (misalnya foton pada CCD, misalnya), tetapi cenderung menjadi perkiraan yang aman untuk banyak masalah fisika makroskopik.
PhilMacKay
1
@ anishtain4 Berikut satu baris (panjang!) dari Python yang mensimulasikan proses thr: import numpy as np; np.std(np.real(np.sum(np.random.normal(0, 1, (10000, 10000)) * np.exp(1.0j * 2 * np.pi * np.linspace(0, 1, 10000) * 50), axis=1))). Ketika saya melakukan ini, saya mendapatkan output 70, yang sama dengan10,000/2seperti seharusnya. Mungkin Anda dapat membandingkan simulasi Anda dengan garis itu.
DanielSank
2

Saya ingin mencoba lagi jawaban @ DanielSank. Kami pertama kali mengira ituvnCN(0,σ2) dan iid Its Discrete Fourier Transform kemudian:

Vk=1Nn=0N-1vne-j2πnNk
.

Kami ingin menghitung distribusi Vk Untuk memulai, kami mencatatnya sejak itu vnadalah white Gaussian noise, itu simetris sirkular, sehingga bagian nyata dan imajiner dari Fourier Transform-nya akan didistribusikan sama. Karena itu, kita hanya perlu menghitung distribusi bagian yang asli dan kemudian menggabungkannya dengan bagian imajiner.

Jadi kami berpisah Vkmenjadi bagian yang nyata dan imajiner. Kita punya:

Vk=1Nn=0N-1vne-j2πnNk
Vk=1Nn=0N-1(R{vn}+jsaya{vn})(cHais(2πnNk)+jssayan(2πnNk))
Vk=R{Vk}1+R{Vk}2+jsaya{Vk}1+jsaya{Vk}2
Vk=R{Vk}+jsaya{Vk}

Dimana:

R{Vk}=R{Vk}1+R{Vk}2
saya{Vk}=saya{Vk}1+saya{Vk}2

Dan:

R{Vk}1=1Nn=0N-1R{vn}cHais(2πnNk)

R{Vk}2=-1Nn=0N-1saya{vn}ssayan(2πnNk)

saya{Vk}1=1Nn=0N-1R{vn}ssayan(2πnNk)

saya{Vk}2=1Nn=0N-1saya{vn}cHais(2πnNk)

Sekarang kami berupaya menurunkan distribusi R{Vk}1 dan R{Vk}2. Seperti dalam jawaban @ DanielSank, kami mendefinisikan:

xn,k=1NcHais(2πnNk)R{vn}=1Ncn,kR{vn}

Jadi kita bisa menulis:

R{Vk}1=n=0N-1xn,k

Ini memungkinkan kita untuk dengan mudah menerapkan fakta berikut tentang kombinasi linear dari variabel acak Gaussian. Yaitu, kita tahu bahwa:

  1. Kapan xCN(0,σ2) kemudian R{x}N(0,12σ2)
  2. Kapan xN(μ,σ2) kemudian cxN(cμ,c2σ2)

Bersama-sama, ini menyiratkan hal itu xn,kN(0,cn,k22N2σ2). Sekarang kita bekerja pada penjumlahan. Kita tahu itu:

  1. Kapan xnN(μn,σn2) kemudian y=n=0N-1xnN(n=0N-1μn,n=0N-1σn2)
  2. n=0N-1cn,k2=N2

Ini menyiratkan bahwa:

R{Vk}1N(0,n=0N-1cn,k22N2σ2)=N(0,N22N2σ2=N(0,σ24N)

Jadi kami telah menunjukkan bahwa:

R{Vk}1N(0,σ24N)

Sekarang kami menerapkan argumen yang sama R{Vk}2. Menyalahgunakan notasi kami, kami menulis ulang:

xn,k=1Nssayan(2πnNk)saya{vn}=1Nsn,ksaya{vn}

Mengulangi argumen yang sama, dan mencatat bahwa Gaussian adalah distribusi simetris (sehingga kita dapat mengabaikan perbedaan tanda), memberi kita:

R{Vk}2N(0,σ24N)

Sejak n=0N-1sn,k2=N2demikian juga. Karena itu sejak ituR{Vk}=R{Vk}1+R{Vk}2, kita mendapatkan:

R{Vk}N(0,σ24N+σ24N)=N(0,σ22N)

Jadi kami telah menunjukkan bahwa:

R{Vk}N(0,σ22N)

Dengan simetri lingkaran, kita juga tahu bahwa:

saya{Vk}N(0,σ22N)

Jadi sejak itu Vk=R{Vk}+jsaya{Vk}, akhirnya kami tiba di:

VkCN(0,σ2N)

Oleh karena itu mengambil DFT membagi varians dengan panjang jendela DFT - dengan asumsi jendela adalah persegi panjang tentu saja - yang merupakan hasil yang sama seperti pada jawaban @ DanielSank.

Pria itu
sumber
Mengapa jumlah C(n,k)^2=N/2?
Hoi Ngô Thanh