Metrik untuk matriks kovarians: kelemahan dan kekuatan

11

Apa metrik "terbaik" untuk matriks kovarian, dan mengapa? Jelas bagi saya bahwa Frobenius & c tidak tepat, dan sudut pandang memiliki masalah mereka juga. Secara intuitif seseorang mungkin menginginkan kompromi antara keduanya, tetapi saya juga ingin tahu apakah ada aspek lain yang perlu diingat dan mungkin standar yang sudah mapan.

Metrik umum memiliki berbagai kelemahan karena tidak alami untuk matriks kovarian, misalnya mereka sering tidak menghukum matriks non PSD atau tidak berperilaku peringkat pangkat baik (pertimbangkan dua ellipsoid kovarians peringkat rendah yang diputar: Saya ingin hal yang sama - rotasi menengah langsung memiliki jarak yang lebih rendah dari rata-rata komponen-komponen, yang tidak terjadi pada dan mungkin Frobenius, perbaiki saya di sini). Cembung juga tidak selalu dijamin. Akan lebih baik melihat ini dan masalah lain yang ditangani oleh metrik "baik".L1

Berikut ini adalah diskusi yang bagus tentang beberapa masalah, satu contoh dari optimasi jaringan dan satu dari visi komputer . Dan inilah pertanyaan serupa yang mendapatkan metrik lain tetapi tanpa diskusi.

covariance metric Kuarsa
sumber
2
Apa tujuan metrik yang Anda cari? Untuk apa metrik Frobenius tidak pantas?
whuber
1
@whuber: Saya ingin mendapat gambaran umum sebelum memaksakan terlalu banyak kendala. Bidang saya adalah keuangan kuantitatif di mana kebanyakan orang tetap berpegang pada Frobenius untuk kesederhanaan. Metrik umum memiliki berbagai kelemahan karena tidak alami untuk matriks kovarian, misalnya mereka tidak menghukum matriks non PSD dan tidak berperilaku peringkat baik (pikirkan dua ellipsoid kovarians peringkat rendah yang diputar: Saya ingin rotasi menengah dengan peringkat yang sama memiliki jarak yang lebih rendah daripada rata-rata komponen, yang tidak terjadi pada dan mungkin Frobenius jika saya tidak salah). Menambahkan beberapa tautan. L1
Kuarsa
Bagaimana pertanyaan terakhir yang Anda rujuk "lebih dibatasi"? Bagaimanapun, semua matriks kovarians simetris. Tampaknya merupakan duplikat yang sempurna.
whuber
1
Itu kritik yang bagus untuk pertanyaan lainnya. Bolehkah saya menyarankan Anda mengedit pertanyaan (dan judul) Anda untuk mencerminkan konten komentar terakhir Anda? Itu akan dengan jelas membedakannya dari duplikat yang terlihat dan membantu responden memberi Anda balasan yang lebih tepat. (Dan jangan khawatir tentang pengeditan untuk pertanyaan Anda sendiri: itu yang diharapkan; utas utamanya adalah tentang pengeditan komunitas .)
whuber
1
@kjetilbhalvorsen Itu kalimat yang provokatif! Bisakah Anda mengembangkan jawaban? Atau berikan referensi artikel?
Sycorax berkata Reinstate Monica

Jawaban:

2

Yah, saya tidak berpikir ada metrik yang baik atau 'cara terbaik' untuk menganalisis matriks Kovarian. Analisis harus selalu selaras dengan tujuan Anda. Katakanlah C adalah matriks kovarians saya. Diagonal berisi varian untuk setiap parameter yang dihitung. Jadi, jika Anda tertarik pada signifikansi parameter, maka penelusuran (C) adalah awal yang baik karena ini adalah keseluruhan kinerja Anda.

Jika Anda memplot parameter Anda dan signifikansinya, Anda dapat melihat sesuatu seperti ini:

x1 =  1.0 ±  0.1 
x2 = 10.0 ±  5.0
x3 =  5.0 ± 15.0 <-- non-significant parameter

Jika Anda tertarik pada korelasi timbal balik mereka maka tabel seperti itu mungkin menghasilkan sesuatu yang menarik:

x1  1.0
x2  0.9  1.0
x3 -0.3 -0.1  1.0
    x1    x2   x3

Setiap elemen adalah koefisien korelasi antara parameter xi dan xj. Dari contoh terlihat bahwa parameter x1 dan x2 sangat berkorelasi.

nali
sumber
1

Pertanyaan menarik, saya bergulat dengan masalah yang sama saat ini! Itu tergantung pada bagaimana Anda mendefinisikan 'terbaik', yaitu, apakah Anda mencari beberapa nilai tunggal rata-rata untuk penyebaran, atau untuk korelasi antara data, dll. Saya temukan di Press, SJ (1972): Applied Multivariate Analysis, hal. 108 bahwa varians umum, didefinisikan sebagai penentu matriks kovarians, berguna sebagai ukuran tunggal untuk penyebaran. Tetapi jika itu adalah korelasi yang Anda cari, saya perlu berpikir lebih jauh. Biarkan aku tahu.

Lucozade
sumber
3
Tolong referensi.
Nick Cox