Apa ukuran yang tepat dari sparsity?

Saat ini saya sedang mengerjakan penginderaan terkompresi dan representasi sinyal yang jarang, khususnya gambar.

Saya sering ditanya "apa definisi sparsity?". Saya menjawab "jika sebagian besar elemen dari sinyal adalah nol atau mendekati nol, dalam beberapa domain seperti Fourier atau Wavelet, maka sinyal ini jarang dalam dasar itu." tetapi selalu ada masalah dalam definisi ini, "apa arti sebagian besar unsur? Apakah 90 persen? 80 persen? 92,86 persen ?!" Di sinilah pertanyaan saya muncul, apakah ada yang tepat, yaitu numerik, definisi untuk sparsity?

" Apakah ada yang tepat, yaitu numerik, definisi untuk sparsity? " Dan secara numerik , saya mengerti baik yang dapat dihitung , dan secara praktis "dapat digunakan". Menurut saya adalah: belum, setidaknya, tidak ada konsensus, namun ada beberapa pesaing yang layak. Pilihan pertama " hitung hanya bukan nol istilah " adalah tepat, tetapi tidak efisien (sensitif terhadap perkiraan numerik dan kebisingan, dan sangat kompleks untuk dioptimalkan). Pilihan kedua " sebagian besar elemen sinyal adalah nol atau mendekati nol " agak tidak tepat, baik pada "sebagian besar" dan "dekat dengan".

Jadi " ukuran yang tepat dari sparsity " tetap sulit dipahami, tanpa aspek yang lebih formal. Satu upaya baru-baru ini untuk mendefinisikan sparsity dilakukan di Hurley dan Rickard, 2009 Membandingkan Ukuran Sparsity , Transaksi IEEE pada Teori Informasi.

Gagasan mereka adalah menyediakan seperangkat aksioma yang harus dipenuhi oleh tindakan sparsity yang baik ; misalnya, sinyal $x$ dikalikan dengan konstanta bukan nol, $\alpha x$ , harus memiliki sparsitas yang sama. Dengan kata lain, ukuran sparsity harus $0$ homogen. Lucunya, proxy $\ell_1$ dalam penginderaan tekan, atau dalam regresi laso adalah $1$ homogen. Ini memang kasus untuk setiap norma atau quasi-norm $\ell_p$ , bahkan jika mereka cenderung ke ukuran penghitungan (tidak kuat) $\ell_0$ sebagai $p\to 0$ .

Jadi mereka merinci enam aksioma mereka, melakukan perhitungan, meminjam dari analisis kekayaan:

• Robin Hood (ambil dari yang kaya, berikan kepada yang miskin mengurangi kekurangan),
• Penskalaan (perkalian konstan menjaga sparsity),
• Rising Tide (menambahkan akun bukan nol yang sama mengurangi sparsity),
• Kloning (duplikasi data menjaga sparsity),
• Bill Gates (Seorang pria yang semakin kaya meningkatkan kesederhanaan),
• Bayi (menambahkan nilai nol meningkatkan kesederhanaan)

$\ell_1/\ell_2$$p$$q$ $\ell_p/\ell_q$$x$$0< p\le q$

$1$$x$

$c_{(k)}$$C_\alpha .(k)^{-\alpha}$$\alpha$