Biarkan , simetris dan pasti positif. Misalkan dibutuhkan unit kerja untuk memperbanyak vektor oleh . Diketahui bahwa melakukan algoritma CG pada dengan kondisi nomor membutuhkan , unit kerja.
Sekarang, tentu saja, sebagai pernyataan ini adalah batas atas. Dan algoritma CG selalu dapat berakhir dalam nol langkah dengan tebakan awal yang beruntung.
Apakah kita tahu jika ada RHS dan tebakan awal (sial) yang membutuhkan langkah? Dengan kata lain, apakah kompleksitas kerja kasus terburuk dari CG benar-benar?
Pertanyaan ini muncul ketika saya mencoba menentukan apakah manfaat dari prekondisi ( lebih rendah ) melebihi biayanya (lebih tinggi ). Saat ini, saya bekerja dengan masalah mainan dan ingin memiliki ide yang lebih baik sebelum saya menerapkan apa pun dalam bahasa yang dikompilasi.
sumber
Jawaban:
Jawabannya adalah ya. Batas laju konvergensi tajam pada himpunan matriks pasti positif simetris dengan nomor kondisiκ. Dengan kata lain, mengetahui apa-apa tentangAdaripada jumlah kondisinya, CG benar-benar dapat mengambil∼ √(κ−−√−1)/(κ−−√+1) κ A iterasi untuk konvergen. Secara longgar, batas atas diperoleh jika nilai eigen dariAterdistribusi secara seragam (yaitu "dibumbui") dalam interval angka kondisiκ.∼κ−−√ A κ
Ini pernyataan yang lebih keras. Versi deterministik lebih banyak terlibat tetapi bekerja menggunakan prinsip yang sama.
Teorema (Pilihan kasus terburuk dari ). Pilih salah satu matriks ortogonal acak U , misalkan λ 1 , … , λ n menjadi bilangan real yang diambil secara sampel dari interval nyata [ 1 , κ ] , dan misalkan b = [ b 1 ; ... ; b n ] menjadi n bilangan real yang diambil sampel dari Gaussian standar. Tentukan A = U d i a g ( λ 1 ,A U λ1,…,λn n [1,κ] b=[b1;…;bn] n Kemudian pada batas n → ∞ , gradien konjugat akan bertemu dengan probabilitas satu ke ϵ solusi akurat A x = b dalam tidak kurang dari Ω ( √
Bukti. Bukti standar didasarkan pada perkiraan polinomial Chebyshev yang optimal, menggunakan teknik yang ditemukan di sejumlah tempat, seperti buku Greenbaum atau buku Saad .
sumber
Mengambil ini sebagai pertanyaan awal saya: Apakah kita tahu jika ada RHS dan tebakan awal (tidak beruntung) yang memerlukan langkah-langkah ?Θ(κ−−√)
Jawaban atas pertanyaannya adalah "tidak". Ide jawaban ini berasal dari komentar dari Guido Kanschat.
Klaim: Untuk setiap nomor kondisi diberikan , terdapat matriks , dengan nomor kondisi yang akan diakhiri algoritma CG paling banyak dalam dua langkah (untuk RHS dan tebakan awal yang diberikan).k A
Pertimbangkan mana . Maka nomor kondisi adalah . Biarkan menjadi RHS, dan tunjukkan nilai eigen dari sebagai manaA∈Rn×n A=diag(1,κ,κ,…,κ) A κ b∈Rn A λi
Kami pertama-tama mempertimbangkan kasus di mana , tebakan awal, adalah nol. Nyatakan sebagai estimasi kedua dari algoritma CG. Kami menunjukkan bahwa dengan menunjukkan . Memang sudahx(0)∈Rn x(2)∈Rn A−1b x(2)=A−1b ⟨x(2)−A−1b,A(x(2)−A−1b)⟩=0
Di mana kami menggunakan polinomial orde pertama didefinisikan sebagai . Jadi kami membuktikan kasus untuk .pˆ pˆ(x)=(1+κ−x)/κ x(0)=0
Jika , maka mana adalah estimasi kedua dari algoritma CG dengan diganti dengan . Jadi kami telah mengurangi kasus ini ke yang sebelumnya.x(0)≠0 x(2)=x(2)¯¯¯¯¯¯¯¯+x(0) x(2)¯¯¯¯¯¯¯¯ b b¯¯=b−Ax(0)
sumber