Jika umat manusia dapat menciptakan kehidupan buatan dalam sebuah mesin, kapan kita akan menentukan kematian itu?

Bisakah seseorang benar-benar membunuh mesin? Kita tidak hanya memiliki masalah dalam mendefinisikan kehidupan, kita juga memiliki masalah dalam mendefinisikan kematian. Apakah ini juga berlaku dalam kehidupan buatan dan kecerdasan buatan?

Kematian seperti yang kita kenal sebagai kehidupan alami adalah terminal. Itu sekali mati, kehidupan alami tidak dapat kembali (setidaknya dalam pemahaman saat ini dan dengan teknologi saat ini --- beberapa orang percaya sebaliknya).

Kematian untuk AI lebih rumit. Mungkin hanya ada satu skenario: Penghancuran global: Skenario ekstrem di mana segala sesuatu yang mendukung keberadaan AI menghilang. Ini setara dengan kematian dalam kehidupan alami, dan probabilitas rendah. Ini berarti semua AI mati sekaligus (juga kita).

Kami juga tidak tahu derajat dan bentuk perwujudan yang diperlukan untuk AGI. Kita dapat mengasumsikan sekarang bahwa perangkat keras dapat diganti tanpa batas waktu, sehingga "membatasi" kematian pada skenario ekstrem di atas. Tetapi "tubuh" AGI mungkin tidak dapat diganti tanpa batas waktu. Maka definisi yang lebih dekat dengan kematian kehidupan alami mungkin diperlukan.

Kami melihat argumen untuk dua skenario lain, yang saya bantah di bawah:

"Static Death": AI masih "didefinisikan" atau "diselamatkan" di suatu tempat (apa pun artinya sebenarnya), tetapi tidak diizinkan atau tidak dapat menggunakan sumber daya. Dengan asumsi AI terbuat dari perangkat keras dan perangkat lunak, itu seperti sebuah program yang disimpan pada disk, tetapi tanpa izin untuk dijalankan.

"Dynamic Death": Dengan karakterisasi AI yang sama dengan perangkat keras dan perangkat lunak, kematian dinamis adalah pembatalan kemajuan yang serupa dengan sifat liveness yang kuat , di mana AI terperangkap dalam loop tak terbatas (atau loop kosong), dalam bentuk " kematian aktif ", seperti yang terjadi pada Sisyphus dalam mitologi Yunani. Ini berbeda dari kematian statis, karena AI masih menggunakan sumber daya yang dinamis, meskipun tidak dapat membuat kemajuan. Melanjutkan dengan asumsi yang sama, AI tersebut dapat "dimuat" dalam memori utama, atau dikunci menunggu input atau output selesai.

Perhatikan bahwa dalam dua skenario ini, kelahiran kembali adalah mungkin, dan mereka juga menyimpulkan bahwa ada entitas yang dapat memutuskan kondisi untuk kelahiran kembali, atau mencegahnya sepenuhnya. Apakah entitas ini menjadi "admin", dewa, AI lain, atau manusia adalah pertanyaan lain, sungguh.

Istilah "kematian" dan "kelahiran kembali" di sini hanya dapat diubah untuk "memenjarakan", di mana versi dinamis akan menjadi seperti penjara manusia, dan versi statis akan seperti cryogeny SciFi. Ini sedikit sulit, tetapi kita bisa melihat kesetaraan, dan tidak ada alasan yang baik untuk memenuhi syarat dua skenario ini sebagai kematian.

Kesimpulannya, kematian untuk AI tampaknya merupakan skenario luar biasa, jadi AI tidak bisa mati dalam praktik , kecuali jika kita salah tentang bagaimana kita berpikir kita bisa membuat AGI. Namun AI dapat dipenjara selamanya .

Catatan: Terminologi di atas sepenuhnya dibuat untuk posting. Saya tidak memiliki kutipan untuk mendukung beberapa klaim, tetapi didasarkan pada bacaan dan pekerjaan pribadi (termasuk dalam verifikasi perangkat lunak).

Jika AI muncul dari proses pembuatan yang dapat direplikasi (mis. Seperti dengan komputer modern), maka mungkin akan dimungkinkan untuk mengambil snapshot dari keadaan AI dan menggandakannya tanpa kesalahan pada beberapa mekanisme lain.

Untuk konstruksi seperti itu, 'kematian' tidak berarti sama seperti saat ini bagi kita organik organik: banyak klon AI mungkin bisa dipakai kapan saja.

Oleh karena itu, analog kematian yang diperlukan adalah sesuatu yang lebih dekat dengan 'kematian panas termodinamika', di mana AI tidak melakukan 'pekerjaan bermanfaat' lebih lanjut.

Dengan menggunakan karakterisasi persepsi / tindakan standar AI, maka (seperti yang ditunjukkan dalam komentar di bawah pertanyaan) pertanyaan AI SE ini memberikan definisi kematian untuk AI: yaitu ketika memasuki kondisi yang tidak menerima persepsi lebih lanjut dan tidak mengambil tindakan.

EDIT: Perhatikan bahwa konsepsi kematian ini adalah gagasan yang lebih terminal untuk AI daripada 'saat ini tidak berjalan'. Pada prinsipnya, dapat dikatakan bahwa suatu program 'hidup' walaupun hanya satu instruksi yang dilaksanakan setiap 10.000 tahun. Untuk diskusi yang menarik tentang ini, lihat Hofstadter's "A Conversation with Einstein's Brain" .

"Kematian" ada sebagai konsep tunggal karena realitas mendasar yang digambarkannya berdekatan, dan definisi kita telah berubah dengan kemampuan kita untuk mengubah realitas itu.

Tampaknya lebih masuk akal bahwa berbagai macam hal yang dapat dianggap 'mati' akan terpecah, dan kata yang berbeda akan digunakan untuk merujuk pada sistem tanpa salinan yang sedang berjalan, vs. sistem yang tidak memiliki versi tersimpan tetapi dapat diciptakan kembali (karena kode dan seed acak untuk menghasilkannya masih ada), vs. sistem yang telah benar-benar hilang. (Dan aku mungkin melewatkan beberapa kemungkinan!)

Saya tidak berpikir istilah "kematian" akan berarti apa-apa bagi AI. Alasan saya mengatakan itu adalah ini: dengan AI, yang berjalan (mungkin) pada perangkat keras digital, kita dapat mengambil snapshot keadaannya dari memori kapan saja. Dan kemudian pada waktu yang sewenang-wenang di masa depan kita dapat menciptakannya kembali dengan kesetiaan yang sempurna.

Jadi, bahkan jika Anda menghentikan suatu program yang bermaksud "mati", Anda tidak pernah tahu apakah seseorang akan datang kemudian dan membawanya lagi. Dan mungkin lebih tepatnya, Anda mungkin tidak tahu apakah ada salinan lain di tempat lain.

Saya benci menggunakan referensi sci-fi, tetapi yang ini tepat: ingat bagaimana dalam program trilogi The Matrix akan mencari pengasingan dalam The Matrix untuk menghindari penghapusan? Mungkin hal yang sama akan terjadi dengan AI kami ... mereka akan menyalin diri mereka ke tempat lain dan mencoba bersembunyi, untuk menghindari dihapus. Jadi, jika programnya cukup pintar, ia mungkin bisa menghindari segala upaya untuk menghentikannya.

Jawaban lain tampaknya berurusan dengan "kematian akhir" ... yaitu, "terminal akhir" keadaan di mana AI tidak dapat pulih. Dengan kata lain, AI tidak dapat berfungsi lebih jauh.

Tapi bukan itu cara saya mendefinisikan kematian. Saya akan mendefinisikan kematian sebagai proses yang dihentikan. Tidak masalah jika seseorang memulai kembali proses yang sama, karena proses yang ada sudah mati. AI mungkin baru saja membuat salinannya sendiri, tapi itu hanya salinan , bukan yang asli. Kematian hanyalah kematian.

Kita dapat menyebut jenis "kematian" ini sebagai "kematian sementara" ... di mana tubuh fisik mati tetapi ada "kontinuitas psikologis" (seperti kode sumber yang digunakan untuk menjalankan program) yang berlanjut di antara tubuh yang berbeda .

Jenis "kematian sementara" ini telah dieksplorasi dalam fiksi ilmiah. PARANOIA dan Eclipse Phase menampilkan manusia yang sering mati, hanya untuk kemudian dipulihkan melalui "cadangan memori". Manusia mungkin secara fungsional abadi ... tetapi aslinya masih mati, tidak peduli apa nasib yang ditemui salinan lain. CGP Grey juga membuat video tentang teleporter Star Trek , yang bekerja dengan cara membunuh Anda dan kemudian menelurkan salinan diri Anda di area lain. Sebenarnya, pengaturan fantasi juga mengeksplorasi ide "kematian sementara" juga, di mana orang bisa mati hanya untuk kemudian dihidupkan kembali oleh mantra magis.

Rekomendasi saya adalah untuk bermain melalui permainan filosofis Tetap Hidup , yang mengajarkan tiga pendekatan filosofis yang berbeda untuk hidup (dan ketika kehidupan itu berakhir):

Pada dasarnya ada tiga macam hal yang bisa diperlukan untuk kelanjutan keberadaan diri Anda. Salah satunya adalah kontinuitas tubuh, yang sebenarnya hanya mensyaratkan bahwa bagian-bagian tubuh tetap ada (yaitu, otak). Yang lainnya adalah kesinambungan psikologis, yang membutuhkan kelanjutan kesadaran Anda - yang berarti pikiran, ide, ingatan, rencana, kepercayaan, dan sebagainya. Kemungkinan ketiga adalah kelanjutan keberadaan semacam bagian immaterial dari Anda, yang mungkin disebut jiwa *. Tentu saja, mungkin diperlukan kombinasi dari satu atau lebih tipe kontinuitas ini agar Anda dapat bertahan hidup.

Jawaban lain mengasumsikan bahwa hidup didasarkan pada "kesinambungan psikologis", dan melihat apa yang mungkin mengganggu "kesinambungan" ini. Saya berasumsi bahwa hidup didasarkan pada "kontinuitas tubuh", yang jauh lebih mudah untuk mengganggu - matikan saja prosesnya ... tidak masalah jika proses baru respawns ... karena proses aslinya masih mati. Dengan bermain melalui "Tetap Hidup" , Anda akan dapat menentukan definisi hidup dan mati Anda sendiri. Setelah Anda memiliki definisi pribadi Anda sendiri, maka cukup menerapkannya pada kasus khusus ini, baik memihak "kontinuitas psikologis" (jawaban lain) atau "kontinuitas tubuh" (pendapat saya sendiri).

_{* Jika Anda berasumsi bahwa kehidupan membutuhkan jiwa, tidak jelas apakah AI akan memiliki jiwa. Jika mereka tidak (dan ini tampaknya asumsi paling masuk akal di sini), maka mereka jelas tidak akan hidup (dan Anda tidak bisa mati jika Anda tidak hidup). Jika mereka memang memiliki jiwa, maka jawaban lain yang menganggap "kesinambungan psikologis" mungkin masih berlaku, karena tampaknya keberadaan "jiwa" bergantung pada "kesinambungan psikologis".}

Perbedaan antara algoritma / robot dan manusia adalah bahwa, ketika organisme manusia berhenti berfungsi, manusia dianggap mati.

Sebaliknya, suatu algoritma masih ada, bahkan ketika tidak berjalan. (Saya akan menggunakan "bahkan ketika tidak dieksekusi", tetapi menghindari ini untuk alasan semantik;) Algoritma dapat tetap dalam "keadaan stasis" selama ada media penyimpanan untuk informasi.

• Membunuh suatu algoritma mudah - hapus dan kosongkan tempat sampah.

Pada dasarnya, untuk membunuh suatu algoritma, Anda perlu menghapus kode yang menyusunnya.

Tidak ada alasan untuk memperlakukan AI yang sulit berbeda dari manusia. Beberapa orang mengatakan bahwa Anda dapat membuat snapshot dari AI tetapi tidak ada alasan untuk tidak membuat snapshot manusia juga. Kami tidak memiliki teknologi untuk itu tetapi tidak ada penghalang magis yang akan membuatnya menjadi mustahil (simpan semua data biologis dan kemudian cetak salinan Anda di tempat lain. Mengapa tidak?).

Terlalu dini untuk membicarakan hal ini karena kita tidak memahami keberadaan kita (istilah kematian untuk makhluk biologis berevolusi sepanjang waktu).

Saya bertaruh bahwa di masa depan kita akan bergabung dengan AI dan satu-satunya pertanyaan adalah apa arti kematian bagi setiap keberadaan yang cerdas.