Haruskah saya menggunakan bahasa antropomorfik ketika membahas AI?

Bahasa Inggris tidak cocok untuk berbicara tentang kecerdasan buatan, yang menyulitkan manusia untuk berkomunikasi satu sama lain tentang apa yang sebenarnya "dilakukan" AI. Dengan demikian, mungkin lebih masuk akal untuk menggunakan istilah "mirip manusia" untuk menggambarkan tindakan mesin, bahkan ketika sifat internal mesin tidak menyerupai sifat internal manusia.

Bahasa antropomorfik telah banyak digunakan dalam teknologi (lihat definisi Hacker Kamus antropomorfisasi , yang mencoba untuk membenarkan penggunaan istilah anthromporhic ketika menggambarkan teknologi oleh programmer), tetapi karena AI terus maju, mungkin berguna untuk mempertimbangkan pengorbanan dari menggunakan bahasa antropomorfik dalam berkomunikasi dengan audiensi teknis dan audiensi non-teknis. Bagaimana kita bisa menangani AI dengan baik jika kita bahkan tidak bisa menggambarkan apa yang sedang kita lakukan?

Misalkan saya ingin mengembangkan algoritma yang menampilkan daftar artikel terkait. Ada dua cara dimana saya bisa menjelaskan bagaimana algoritma bekerja kepada orang awam:

1. Very Anthropomorphic - Algoritma membaca semua artikel di situs web, dan menampilkan artikel yang sangat mirip dengan artikel yang Anda lihat.
2. Sangat Teknis - Algoritma mengubah setiap artikel menjadi "bag-of-words", dan kemudian membandingkan "bag-of-words" dari setiap artikel untuk menentukan artikel mana yang memiliki kata-kata paling umum. Artikel yang memiliki kata terbanyak dalam tas adalah artikel yang ditampilkan kepada pengguna.

Jelas, # 2 mungkin lebih "benar secara teknis" daripada # 1. Dengan merinci implementasi algoritme, membuatnya lebih mudah bagi seseorang untuk memahami cara memperbaiki algoritme jika menghasilkan output yang sangat tidak kami setujui.

Tetapi # 1 lebih mudah dibaca, elegan, dan lebih mudah dipahami. Ini memberikan pengertian umum tentang apa yang dilakukan algoritma, alih-alih bagaimana algoritma melakukannya. Dengan mengabstraksi rincian implementasi tentang bagaimana komputer "membaca" artikel, kita kemudian dapat fokus menggunakan algoritma dalam skenario dunia nyata.

Haruskah saya, oleh karena itu, lebih suka menggunakan bahasa antropomorfis sebagaimana ditekankan oleh Pernyataan # 1? Jika tidak, mengapa tidak?

PS: Jika jawabannya tergantung pada audiens yang saya ajak bicara (audiens non-teknis mungkin lebih suka # 1, sedangkan audiens teknis mungkin lebih suka # 2), maka beri tahu saya juga.

Jika kejelasan adalah tujuan Anda, Anda harus berusaha untuk menghindari bahasa antropomorfik - melakukan hal itu bahkan membahayakan diri sendiri tentang kemampuan program.

Ini adalah jebakan berbahaya dalam penelitian AI, dengan banyak kasus di mana bahkan peneliti yang berpengalaman telah menganggap tingkat pemahaman yang lebih besar untuk suatu program daripada yang sebenarnya pantas.

Douglas Hofstadter menjelaskan masalah ini secara panjang lebar dalam bab berjudul "Efek Eliza yang Tidak Dapat Dihilangkan dan Bahaya-Bahaya" dan ada juga makalah terkenal oleh Drew McDermot, berjudul "Kecerdasan Buatan memenuhi kebodohan alami" .

Oleh karena itu, secara umum seseorang harus melakukan upaya khusus untuk menghindari antropomorfisme pada AI. Namun, ketika berbicara dengan audiens non-teknis, deskripsi 'soundbite' (seperti dalam disiplin kompleks) dapat diterima asalkan Anda membiarkan audiens tahu bahwa mereka mendapatkan versi yang disederhanakan .

Masalah yang Anda referensikan bukan hanya masalah AI tetapi masalah untuk bidang yang sangat teknis secara umum. Jika ragu, saya selalu merekomendasikan menggunakan bahasa biasa .

Namun, ada alasan lain mengapa komunitas AI sering menghindari konotasi antropomorfik untuk AI. Beberapa tokoh AI sering suka memperingatkan kita bahwa kecerdasan umum buatan mungkin berperilaku dengan cara asing yang menentang harapan manusia kita, yang berpotensi mengarah pada kiamat robot.

Namun, gagasan tentang AGI seperti alien ini berasal dari kesalahpahaman yang meluas di komunitas AI yang mengonfigurasikan dua gagasan umum yang berbeda:

• Mesin Turing secara umum, dan
• generalisasi domain manusia

Apa yang orang biasa maksudkan ketika mereka mengatakan generalitas adalah yang belakangan. Bahkan definisi resmi AGI bergantung pada konteks kontingen manusia:

... melakukan tugas intelektual yang dapat dilakukan manusia.

Tetapi dengan definisi itu, perilaku generalisasi tidak membuatnya lebih asing. Menggeneralisasi berarti antropomorfisasi. Seperti yang dikatakan Nietzche,

"Di mana kamu melihat hal-hal yang ideal, aku mengerti— manusia, sayang! Semuanya juga manusia."

Saya pikir jawaban yang benar adalah mudah tetapi tidak membantu, "Tergantung."

Bahkan ketika saya sedang berbicara dengan orang-orang teknis lainnya, saya sering menggunakan bahasa dan metafora antropomorfik. Terutama di awal pembicaraan. "Komputer harus mencari tahu .." "Bagaimana kita dapat mencegah komputer menjadi bingung tentang ..." dll. Tentu saja, kita dapat menyatakan bahwa dengan cara yang lebih benar secara teknis. "Kita perlu memodifikasi algoritme untuk mengurangi jumlah dan variasi contoh data yang tidak memadai yang menghasilkan pengaturan yang tidak akurat ..." atau semacamnya. Tetapi di antara orang-orang teknis, kita tahu apa yang kita maksud, dan hanya lebih mudah menggunakan bahasa metaforis.

Ketika mencoba memecahkan masalah komputer teknis, saya sering memulai dengan konsep antropomorfik yang kabur. "Kita harus membuat daftar semua kata dalam teks, dan memberi bobot pada setiap kata berdasarkan seberapa sering itu terjadi. Oh, tapi kita harus mengabaikan kata-kata umum yang pendek seperti 'the' dan 'it'. Lalu mari kita pilih beberapa sejumlah kata, mungkin sepuluh atau lebih, yang memiliki bobot terbesar ... "Semua itu jauh dari cara komputer sebenarnya memanipulasi data. Tetapi seringkali jauh lebih mudah untuk memikirkannya dalam istilah "manusia" terlebih dahulu, dan kemudian mencari tahu bagaimana membuat komputer melakukannya.

Ketika berbicara dengan audiens non-teknis, saya pikir masalahnya adalah, bahasa Anthropomorphic membuatnya lebih mudah untuk dipahami, tetapi juga sering memberi kesan bahwa komputer jauh lebih mirip manusia daripada yang sebenarnya. Anda hanya perlu menonton film-film fiksi ilmiah untuk melihat bahwa ternyata banyak orang berpikir bahwa komputer atau robot berpikir seperti seseorang kecuali bahwa itu sangat tepat dan tidak memiliki emosi.