Pernyataan yang dapat dibuktikan tentang algoritma genetika

56

Algoritma genetika tidak mendapatkan banyak daya tarik dalam dunia teori, tetapi mereka adalah metode metaheuristik yang cukup baik digunakan (oleh metaheuristik maksud saya teknik yang berlaku secara umum di banyak masalah, seperti anil, keturunan gradien, dan sejenisnya). Faktanya, teknik mirip GA cukup efektif untuk Euclidean TSP dalam praktiknya.

Beberapa metaheuristik dipelajari dengan cukup baik secara teoritis: ada pekerjaan pada pencarian lokal , dan anil. Kami memiliki pemahaman yang cukup baik tentang bagaimana pengoptimalan bolak-balik ( seperti k-means ) bekerja. Tapi sejauh yang saya tahu, tidak ada yang benar-benar berguna yang diketahui tentang algoritma genetika.

Adakah teori algoritma / kompleksitas yang solid tentang perilaku algoritma genetika, dengan cara apa pun, bentuk atau bentuk? Sementara saya pernah mendengar hal-hal seperti teori skema , saya mengecualikannya dari diskusi berdasarkan pemahaman saya saat ini tentang area karena tidak terlalu algoritmik (tapi saya mungkin salah di sini).

Suresh Venkat
sumber
5
Untuk beberapa inspirasi, lihat juga hal. 25–29 slide FCRC 2007 milik Papadimitriou .
Jukka Suomela
1
@ Suresh: Saya lebih suka melihatnya sebagai pertanyaan daripada jawaban ; Saya akan senang jika ada orang lain yang kesulitan menjelaskan secara lebih spesifik apa hasil yang Papadimitriou maksudkan dalam slide. :)
Jukka Suomela
1
inilah rendering pop-sci dari karya tersebut: tinyurl.com/2f39jrb
Suresh Venkat
1
Baru-baru ini saya mengikuti kursus di GA dan hype saya tentang GA telah berkurang ketika saya mempelajari Teorema Tanpa Makan Siang Gratis: en.wikipedia.org/wiki/No_free_lunch_in_search_and_optimization
Alexandru
1
Alexandru, mengapa begitu? Seharusnya cukup jelas bahwa hampir semua teknik akan lebih baik daripada yang lain dalam beberapa kasus dan lebih buruk pada yang lain. Apakah Anda benar-benar yakin GA akan lebih unggul secara seragam?
Raphael

Jawaban:

29

Y. Rabinovich, A. Wigderson. Teknik untuk membatasi laju konvergensi algoritma genetika. Algoritma Struktur Acak, vol. 14, tidak. 2, 111-138, 1999. (Juga tersedia dari beranda Avi Wigderson )

Joshua Grochow
sumber
Sepertinya tautan pertama tidak berfungsi.
Jeremy Kun
@JeremyKun: Saya baru saja mencobanya dan itu bekerja dengan baik ... (Ini akan membuat saya sedih jika tautan doi tidak berfungsi, mengalahkan salah satu tujuan utama sistem doi ...)
Joshua Grochow
Saya masih mendapatkan kesalahan "Halaman Tidak Ditemukan" dari Perpustakaan Wiley. Mungkinkah itu masalah pemformatan / browser?
Jeremy Kun
@JeremyKun: Bisa jadi. Jika Anda memiliki akses ke MathSciNet, coba tautan ini sebagai gantinya: ams.org/mathscinet-getitem?mr=1667317
Joshua Grochow
Itu tidak masalah karena tautan ke beranda berfungsi. Saya hanya berusaha membantu membuat jawaban ini lebih baik :)
Jeremy Kun
13

Lihatlah karya Benjamin Doerr dari kelompok Algoritma di Max Planck (MPI). Ini semua tentang mencoba membuat kontribusi yang dapat dibuktikan untuk algoritma evolusioner.

Secara khusus, Doerr telah menyunting bersama buku terbaru yang relevan, Theory of Randomized Search Heuristics

Alex Lopez-Ortiz
sumber
1
Menambahkan tautan akan meningkatkan jawaban ini.
Dave Clarke
10

Serta bekerja pada anil simulasi, Ingo Wegener memiliki beberapa hasil teoritis pada algoritma evolusioner. The tesis dari mahasiswa PhD Dirk Sudholt juga layak lihat.

Rahul Savani
sumber
10

Selama dekade terakhir, telah ada kemajuan yang signifikan dalam analisis runtime dari algoritma evolusioner, optimisasi koloni semut, dan metaheuristik lainnya. Untuk survei, silakan merujuk ke Oliveto et al. (2007) .

Per Kristian Lehre
sumber
Per Kristian Lehre, saya baru saja melihat Anda dan melihat bidang minat Anda, jadi saya ingin bertanya: apakah menurut Anda alat serupa dapat digunakan untuk menganalisis runtime dari algoritma pengoptimalan koloni semut, dan pertanyaan-pertanyaan jenis "Natural Algorithm" dari Chazelle ( tingkat konvergensi berkelompok burung)? Saat ini, teknik Chazelle tampak seperti pulau bagi mereka sendiri, dan aku bertanya-tanya apakah ada gambar yang lebih besar.
Aaron Sterling
2
Ya, teknik ini dapat diadaptasi untuk menganalisis runtime ACO. Baru-baru ini saya ikut menulis makalah tentang ACO untuk masalah MinCut. Juga, silakan lihat survei oleh Witt (2009): springerlink.com/content/3727x3255r1816g4 Saya tidak mengetahui adanya tautan penelitian ini saat ini dengan karya Chazelle, tetapi tentu saja layak untuk ditelusuri.
Per Kristian Lehre
7

O(n4)

Joshua Grochow
sumber
1
hei, dia kembali :)
Suresh Venkat
6

Periksa referensi ini:

Lothar Schmitt, Teori algoritma genetika II: model untuk operator genetik atas representasi string-tensor populasi dan konvergensi ke optima global untuk fungsi kebugaran sewenang-wenang di bawah penskalaan

Shiu Yin Yuen; BKS Cheung, Batas untuk kemungkinan keberhasilan algoritma genetika klasik berdasarkan jarak tempuh

Chang CY Dorea; Judinor A. Guerra Jr .; Rafael Morgado; Andre GC Pereira, Pemodelan Rantai Multistage Markov dari Algoritma Genetika dan Hasil Konvergensi

C. Dombry, Model jalan acak tertimbang. Aplikasi untuk algoritma genetika

Mohammad Al-Turkistany
sumber
6

Ada juga makalah dari D. BHANDARI, CA MURTHY dan SK PAL (sayangnya tidak tersedia online) yang menyediakan bukti konvergensi dengan dua asumsi:

  • tt+1
  • Operator mutasi memungkinkan untuk beralih dari solusi apa pun ke yang lain dalam sejumlah langkah terbatas

Bukti konvergensi menggunakan model rantai Markov.

Berikut rujukannya: Dinabandhu Bhandari, CA Murthy: Algoritma Genetika dengan Model Elitist dan Konvergensinya. IJPRAI 10 (6): 731-747 (1996)

Lamin
sumber
6

Model matematika dari algoritma genetika dengan populasi terbatas tetapi non-unitary sulit, dan sejauh ini terbukti tidak dapat dianalisis untuk semua fungsi kebugaran yang paling sepele. Menariknya, jika Anda bersedia menerima argumen simetri , argumen, dengan kata lain, tidak dibuat dalam batas-batas sistem aksiomatik formal, maka ada hasil yang menarik dan indah yang bisa didapat tentang kekuatan komputasi dari algoritma genetika.

Secara khusus, suatu algoritma genetika dengan crossover yang seragam mampu mengevaluasi sejumlah besar partisi skema kasar secara implisit dan paralel, dan dapat secara efisien mengidentifikasi partisi yang memiliki skema yang memiliki nilai kebugaran rata-rata yang berbeda. Bentuk paralelisme implisit ini sebenarnya lebih kuat daripada jenis yang dijelaskan oleh John Holland dan murid-muridnya, dan tidak seperti paralelisme implisit yang dijelaskan oleh Holland, dapat diverifikasi secara eksperimental. (Lihat posting blog ini .)

Makalah berikut ini menjelaskan bagaimana algoritma genetika dengan parlay crossover seragam paralelisme implisit menjadi tujuan umum, heuristik optimisasi global yang disebut hyperclimbing :

Menjelaskan optimasi dalam algoritma genetika dengan crossover yang seragam . Untuk muncul dalam prosiding konferensi Yayasan Genetika Algoritma 2013.

(Penafian: Saya penulis makalah ini)

kburjorj
sumber
ini pintar / inovatif untuk menggunakan SAT acak sebagai patokan untuk GA dan menunjukkan ide yang tampaknya beberapa makalah telah dieksplorasi. misalkan GA dapat bekerja pada kelas kompleksitas sembarang dan mungkin benar-benar cara membangun algoritma dalam kelas kompleksitas "lebih tinggi" berdasarkan hasil algoritma dalam kelas kompleksitas "lebih rendah" .... maka dalam beberapa hal GA tidak benar-benar masuk akal untuk menganalisis "kompleksitas" GAS karena mereka mungkin melampaui klasifikasi kelas kompleksitas ....
vzn
5

Raphael Cerf melakukan tesis PhD- nya tentang Algoritma Genetika di Montpellier di bawah pengawasan Alain Berlinet, dari sudut pandang matematika. Ini sudah cukup tua, tetapi mungkin termasuk bibliografi tentang algoritma genetika.

Jeremy
sumber