Null-space dari matriks padat persegi panjang

Diberi matriks padat apa cara terbaik untuk menemukan basis ruang-nol dalam beberapa toleransi ?

A \in R^{m \times n}, m >> n; m a x (m) \approx 100000

$A \in R^{m \times n}, m >> n; max(m) \approx 100000$

ϵ

$\epsilon$

Berdasarkan pada dasar itu dapatkah saya mengatakan bahwa col tertentu tergantung linear dalam ? Dengan kata lain, memiliki basis ruang nol dihitung, kolom apa yang harus dihilangkan untuk mendapatkan matriks nonsingular? $\epsilon$ $A$

Referensi dihargai.

linear-algebra Alexander
sumber

Jawaban:

Metode standar untuk menentukan ruang nol dari sebuah matriks adalah dengan menggunakan dekomposisi QR atau SVD. Jika akurasi adalah yang terpenting, SVD lebih disukai; dekomposisi QR lebih cepat.

$A = U\Sigma V^{H}$ $V$ $\Sigma$ $\max(m,n) \cdot \varepsilon$ $\varepsilon$

Menggunakan dekomposisi QR, jika , dan pangkat adalah , maka kolom terakhir dari membentuk ruang nol dari , dengan asumsi bahwa dekomposisi QR adalah peringkat yang terbuka. Untuk menentukan , hitung jumlah entri pada diagonal utama yang besarnya melebihi toleransi (mirip dengan yang digunakan dalam pendekatan SVD). $A^{T} = QR$ $A$ $r$ $n-r$ $Q$ $A$ $r$ $R$

Jangan gunakan dekomposisi LU. Dalam aritmatika yang tepat, ini adalah pendekatan yang layak, tetapi dengan aritmatika titik apung, akumulasi kesalahan numerik membuatnya tidak akurat.

Wikipedia membahas topik-topik ini di sini .

Geoff Oxberry
sumber

Geoff, berbicara dalam hal QR, seandainya saya memiliki dekomposisi, bagaimana saya kemudian menghubungkan basis ruang nol dan kolom dalam matriks asli? Dengan kata lain, kolom apa yang harus saya hapus dari untuk menghilangkan ruang kosong? Intinya di sini adalah bekerja dengan sendiri dan bukan dengan dekomposisi.

A

$A$

A

$A$

Alexander

Rutinitas yang menghitung dekomposisi QR biasanya menyertakan opsi untuk mengembalikan vektor permutasi yang menunjukkan bagaimana kolom diijinkan untuk mendapatkan faktorisasi QR. Entri terakhir dari vektor permutasi akan sesuai dengan baris (kolom ) yang ada di ruang nol. Entri pertama dari vektor tersebut berhubungan dengan kolom yang bebas linear. Saya tidak yakin apa yang Anda maksud dengan "singkirkan ruang kosong". Maksud Anda ingin menghapus kolom untuk mendapatkan matriks nonsingular?

n - r

$n-r$

A

$A$

A^{T}

$A^{T}$

r

$r$

A^{T}

$A^{T}$

A

$A$

Geoff Oxberry

Ya, maksud saya itu. Saya akan melihat permutasi, terima kasih.

Alexander

Itu pertanyaan yang berbeda. Apa yang Anda kemudian akan lakukan malah menghitung QR dekomposisi (atau SVD) dari

. Jika Anda menghitung dekomposisi QR dari

, Anda dapat menghitung peringkat

seperti pada jawaban di atas (tidak perlu mengubah urutan matriks), dan kemudian

entri pertama (di mana

adalah pangkat

) dari vektor permutasi yang sesuai ke kolom independen

. Algoritma yang sama berlaku untuk SVD; jika Anda dapat mengembalikan vektor permutasi bersama dengan dekomposisi, itu akan memberikan informasi yang diperlukan.

A

$A$

A

$A$

A

$A$

r

$r$

r

$r$

A

$A$

A

$A$

Geoff Oxberry

Jika , sebagai pertanyaan Anda menunjukkan, Anda dapat menyimpan beberapa pekerjaan dengan terlebih dahulu memilih indeks set dari (katakanlah) baris acak dan menggunakan faktorisasi ortogonal . (The QR-faktorisasi adalah satu di mana adalah sqare dan adalah persegi panjang dari peringkat , dan sisanya kolom adalah nol Menggunakan permutasi QR faktorisasi akan meningkatkan stabilitas; permutasi kemudian harus diperhitungkan dalam. resep lebih detail.) $m\gg n$ $I$ $p\approx 5n$ $A_{I:}^T=QR$ $Q$ $R$ $r$ $n-r$ $R$

Biasanya, ini akan memberi Anda ruang bagian yang jauh lebih rendah dimensi direntang oleh kolom , yang terakhir kolom . Subspace ini berisi ruang nol dari . Sekarang memilih lain, menguraikan acak indeks set dan menghitung QR faktorisasi . Lipat gandakan ruang nol yang dihasilkan di sebelah kiri oleh untuk mendapatkan lebih baik dari dimensi yang mungkin lebih rendah. Ulangi sampai dimensi tidak lagi berkurang. Maka Anda mungkin memiliki ruang nol yang benar dan dapat memeriksa dengan menghitung $N$ $n-r$ $Q$ $A$ $(A_{I:}N)^T$ $N$ $N$ $N$ $AN$ . Jika ini belum dapat diabaikan, lakukan iterasi lebih lanjut dengan baris paling signifikan.

Edit: Setelah Anda memiliki , Anda dapat menemukan satu set maksimal kolom bebas linear dari oleh faktorisasi ortogonal dengan berputar. Memang, himpunan indeks tidak dipilih sebagai pivot akan memiliki properti ini. $N$ $J$ $A$ $N^T=QR$ $J$

Arnold Neumaier
sumber

+1 untuk cara yang efisien untuk menentukan ruang nol dari matriks besar. Saya harus ingat untuk berkonsultasi jawaban ini nanti ketika saya membutuhkannya.

Geoff Oxberry

Memang, kedengarannya masuk akal, namun matriks saya masuk ke dalam 16 GB RAM, jadi saya akan tetap dengan qr matlab standar.

Alexander

Neumaier, saya telah memutuskan untuk menguji algoritma itu, tetapi saya tidak mengerti persis apa itu

dan apa artinya "menghitung faktorisasi QR dari

"? Bisakah Anda jelaskan sedikit lebih banyak.

N

$N$

(A_{I :} N)^{T}

$(A_{I:}N)^T$

Alexander,

Saya mengedit jawaban saya sedikit.

dihitung dengan resep Geoff Oxberry.

N

$N$

Arnold Neumaier

Terima kasih. Saya menerapkannya. Namun, sejauh yang saya lihat, algoritma ini tidak memungkinkan untuk mendefinisikan saya satu set kolom bebas linear

(karena kita membusuk

bukan

), tetapi hanya membantu untuk memperkirakan nul dasar itu sendiri?

A

$A$

A_{I :}^{T}

$A_{I:}^T$

A_{I :}

$A_{I:}$

Alexander