Saya baru-baru ini mendapat posisi postdoc 18 bulan di departemen matematika. Ini adalah posisi dengan tugas mengajar yang relatif ringan dan banyak kebebasan tentang jenis penelitian apa yang ingin saya lakukan.
Sebelumnya saya banyak melakukan penelitian dalam probabilitas dan kombinatorik. Tetapi saya berpikir untuk melakukan pekerjaan yang lebih berorientasi pada aplikasi, misalnya AI. (Ada juga pertimbangan bahwa ada peluang bagus bahwa saya tidak akan mendapatkan posisi tenurial di akhir posisi saya saat ini. Mempelajari sedikit AI mungkin dapat membantu untuk kemungkinan karir lainnya.)
Masalah matematika macam apa yang ada di AI yang sedang dikerjakan orang? Dari apa yang saya dengar, ada orang yang belajar
- Deterministic Finite Automaton
- Masalah bandit multi-bersenjata
- Pencarian pohon Monte Carlo
- Deteksi komunitas
Ada contoh lain?
Jawaban:
Dalam kecerdasan buatan (kadang-kadang disebut kecerdasan mesin atau kecerdasan komputasi ), ada beberapa masalah yang didasarkan pada topik matematika, terutama optimasi, statistik, teori probabilitas, kalkulus dan aljabar linier.
Marcus Hutter telah bekerja pada teori matematika untuk kecerdasan umum buatan , yang disebut AIXI , yang didasarkan pada beberapa konsep ilmu matematika dan komputasi, seperti pembelajaran penguatan, teori probabilitas (misalnya teorema Bayes dan topik terkait) mengukur teori , teori informasi algoritmik (misalnya teori Kompleksitas Kolmogorov), optimisasi, induksi Solomonoff , pencarian Levin universal dan teori komputasi (misalnya mesin universal Turing). Bukunya Universal Artificial Intelligence: Keputusan Berurutan berdasarkan Probabilitas Algoritma, yang merupakan buku yang sangat teknis dan matematis, menjelaskan teorinya tentang agen pembelajaran penguatan non-Markov Bayesian yang optimal.
Ada juga bidang penelitian yang disebut teori pembelajaran komputasi , yang dikhususkan untuk mempelajari desain dan analisis algoritma pembelajaran mesin. Lebih tepatnya, bidang ini berfokus pada studi yang ketat dan analisis matematika dari algoritma pembelajaran mesin menggunakan teknik dari bidang-bidang seperti teori probabilitas, statistik, optimasi, teori informasi dan geometri. Beberapa orang telah bekerja pada teori pembelajaran komputasi, termasuk Michael Kearns dan Vladimir Vapnik . Ada juga bidang terkait yang disebut teori pembelajaran statistik .
Ada juga banyak upaya penelitian yang didedikasikan untuk perkiraan (heuristik) optimasi kombinatorial dan masalah NP-lengkap , seperti optimasi koloni semut .
Ada juga beberapa pekerjaan tentang kelengkapan AI , tetapi ini belum mendapat banyak perhatian (dibandingkan dengan daerah penelitian lain yang disebutkan di atas).
sumber
Sebagian besar pekerjaan matematika yang dilakukan dalam AI yang saya kenal sudah tercakup dalam jawaban nbro. Satu hal yang saya tidak percaya tercakup dalam jawaban itu adalah membuktikan kesetaraan algoritmik dan / atau menurunkan algoritme yang setara . Salah satu makalah favorit saya tentang ini adalah Learning to Predict Independent of Span oleh Hado van Hasselt dan Richard Sutton.
Ide dasarnya adalah bahwa kita pertama-tama dapat merumuskan algoritma (dalam bentuk matematika, misalnya beberapa aturan pembaruan / persamaan untuk parameter yang kita latih) dengan satu cara, dan kemudian menemukan aturan / persamaan pembaruan yang berbeda (yaitu algoritma yang berbeda) untuk yang dapat kita buktikan bahwa itu setara dengan yang pertama (yaitu selalu menghasilkan output yang sama).
Kasus khas di mana ini berguna adalah jika algoritma pertama mudah dipahami / menarik intuisi kita / lebih nyaman untuk bukti konvergensi atau analisis teoritis lainnya, dan algoritma kedua lebih efisien (dalam hal perhitungan, persyaratan memori, dll. .).
sumber
Khusus untuk peralatan matematika dari Neural Networks - teori matriks acak . Teori matriks acak non-asimtotik digunakan dalam beberapa bukti konvergensi keturunan gradien untuk Neural Networks , lanskap acak dimensi tinggi dalam kaitannya dengan spektrum Hessian memiliki kaitan dengan hilangnya permukaan Neural Networks .
Analisis data topologi adalah bidang lain dari penelitian intensif terkait dengan ML, AI dan diterapkan pada Jaringan Saraf .
Ada beberapa karya tentang Geometri Tropis Neural Networks
Teori Tipe Homotopy juga memiliki koneksi ke AI
sumber