Filter kata-kata kotor untuk obrolan MMO

Kami sedang mengembangkan MMO menggunakan Smartfox Server. Target audiens adalah anak-anak dari 7 -12 tahun.

Ada opsi obrolan global dalam MMO ini.
Apa pun yang diketik pengguna dalam kotak teks ditampilkan di sebelah avatar pengguna setelah ia masuk.

Kami ingin memfilter bahasa kasar / tidak senonoh dari obrolan ini.
Kami dapat menangkap obrolan dan membaca teks. Masalahnya adalah mendapatkan daftar kata-kata kotor itu sendiri.

Pertanyaan kami adalah

1. Di mana orang akan mendapatkan daftar lengkap semua senonoh?
2. Metode apa yang diadopsi dalam skenario serupa untuk menyaring ini?

Jangan.

Filter tidak berfungsi. Setidaknya, hanya saja filter yang tidak berfungsi. Daftar putih, daftar hitam, tidak masalah. Tidak satu pun dari ini akan mencegah anak dari saling melecehkan. Satu-satunya cara untuk membuat pekerjaan ini adalah dengan tidak menyaring obrolan, tetapi untuk memberikan blok bangunan besar untuk kalimat. Misalnya, seorang anak mungkin memilih "Apakah Anda ingin ..." dan opsi untuk "pergi ke ..." dan "berdagang ..." akan ditarik. Memilih "pergi ke ..." akan memunculkan daftar tempat dalam permainan.

Disney menggunakan metode ini untuk MMO "Toontown" mereka, setelah subjek uji daftar putih berusia 14 tahun memutuskan untuk "menempelkan Giraffe berleher panjang [nya] ke atas kelinci putih berbulu [mereka]." Sederhananya, Anda tidak bisa daftar hitam atau daftar putih kata-kata cukup untuk mencegah penyalahgunaan.

Itu semua dikatakan, jika saya merancang MMO anak-anak, saya benar-benar akan menerapkan filter daftar hitam yang ketat, tetapi hanya sebagai garis pertahanan kedua. Garis pertahanan pertama Anda harus selalu menjadi moderator dan kemampuan untuk melaporkan penyalahgunaan. Saya akan mempertimbangkan kata-kata yang masuk daftar hitam, dengan masing-masing pengguna mendapatkan skor rahasia seberapa profan mereka berusaha.

Kemungkinannya adalah, setiap pengguna yang akan mencoba dan menghindari filter Anda akan memicunya terlebih dahulu. Kata-kata kotor yang lebih jelas, (yang bertentangan dengan yang tidak jelas atau ketinggalan zaman,) atau lebih banyak upaya senonoh yang berulang, menempatkan mereka pada daftar pantauan untuk moderator, atau semacam daftar larangan . Dengan cara ini, moderator dapat fokus pada pengguna yang tampaknya mencoba untuk melecehkan orang lain daripada membuang-buang waktu mereka membaca komentar anak-anak yang masih polos.

Menanggapi orang-orang yang mengatakan tidak menyediakan filter, saya berpendapat bahwa Anda harus menyediakan filter, karena alasan lain selain untuk menutupi pantat Anda sendiri sehubungan dengan orang tua dari audiens yang Anda tuju. Pastikan itu bisa dinonaktifkan oleh pengguna. Dengan menerapkan filter senonoh (meskipun yang tidak sempurna dan benar-benar opsional), Anda dapat mengatakan bahwa Anda telah melakukan semua yang diharapkan dari Anda untuk melindungi kepekaan audiens muda Anda.

Dengan memungkinkan untuk menonaktifkan, Anda mencegah pengguna mencoba mengelak menggunakan tanda baca atau substitusi yang cerdas, karena orang yang menyukai bahasa semacam itu akan segera menonaktifkan filter di komputer mereka sendiri, dan sudah lama lupa bahwa filter bahkan ada .

Dengan pemahaman itu, jangan terlalu khawatir tentang implementasinya. Itu tidak harus sangat mudah (yang baik, karena itu tidak bisa sangat mudah), tetapi harus relatif lengkap dan tidak mengganggu mungkin. Artinya, Anda tidak ingin memastikan Anda tidak membuat " kesalahan clbuttic ".

Implementasinya bisa sangat sederhana - dapatkan daftar kata, dan ganti kata apa pun yang ditemukan dalam daftar dengan tanda bintang atau yang serupa. Lebih baik mencari seluruh kata saja.

Adapun daftar kata, itu mudah: http://www.google.com/search?q=profanity+word+list

Ingat, itu tidak harus mencakup semua, itu hanya harus mewakili upaya berani di pihak Anda untuk melindungi anak-anak.

Saya akan mencoba menerapkan solusi yang memungkinkan daftar hitam dan daftar putih, di mana Anda dapat menambahkan 'cunt' ke daftar hitam, dan 'scunthorpe' ke daftar putih misalnya.

Saya tidak percaya bahwa Anda bisa pernah menerapkan solusi failsafe, jadi saya akan mencoba untuk mendapatkan yang paling "populer" kata-kata dalam kamus Anda, dan membuatnya semudah mungkin untuk menambahkan kata-kata baru ke daftar.

Alasan untuk ini adalah bahwa bahasa, terutama bahasa Inggris, terus berkembang dan sesuatu yang selama bertahun-tahun tidak ofensif bisa menjadi ofensif dalam konteks yang benar.

Cobalah untuk mendapatkan kata-kata sebanyak mungkin dan pergi dari sana, memiliki waktu reaksi cepat ketika orang mengeluh dan menunjukkan bahwa ini adalah masalah umum dan saya ragu Anda akan memiliki masalah.

Akan menjadi ide yang bagus untuk mengetahui dengan pasti apa pedoman untuk penyensoran di AS: MBNL! (Aku bukan pengacara!)

Seperti yang saya berkomentar, menyaring semua kata-kata ofensif benar-benar sulit - tapi Anda bisa mengubahnya sekitar, dan menggunakan daftar putih dari diperbolehkan kata-kata. Melakukan pencarian google, tampaknya cukup umum untuk permainan anak-anak untuk membatasi apa yang dapat mereka ketik ke dalam daftar. Misalnya, Lego Universe menggunakan daftar putih.

Lihat juga: Daftar putih untuk obrolan game . Dan perhatikan bahwa daftar putih dapat dielakkan . Tidak ada solusi yang dijamin.

Mempertimbangkan bahwa ini untuk anak-anak kecil, dan kesalahan ejaan bisa menjadi masalah - tergantung pada antarmuka klien, Anda mungkin mempertimbangkan penyelesaian kata secara otomatis . Ketika para pemain mulai mengetik huruf, tawarkan daftar kata-kata yang mungkin dan biarkan mereka memilih yang benar.

Ada jawaban dari Pemrogram yang menjelaskan satu sistem untuk membangun filter kata-kata kotor. Dia tidak menjelaskan bagaimana dia benar-benar membangunnya dengan sangat rinci, tetapi itu seharusnya cukup untuk mendapatkan ide untuk implementasi.

Ini adalah masalah yang sebaiknya diselesaikan oleh manusia dan desain sosial daripada kode.

Sumber terbaik Anda untuk daftar lengkap adalah manusia hidup yang hadir dalam permainan dan memantau aliran obrolan. Tempatkan orang di gim Anda dan biarkan mereka menjadi filter utama Anda.

Luangkan waktu untuk melihat ide-ide dan filosofi Lane Merrifield di belakang Club Penguin dan tentang memberikan layanan. Berikut adalah dua Lelang dari presentasinya di Austin GDC pada tahun 2008. Saya melihatnya dan ingat sangat terkesan dengan gayanya memecahkan masalah manusia dengan manusia dan bukan kode.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

Khususnya karena gim Anda ditujukan untuk anak-anak, itu lebih dari sekadar sumpah serapah yang perlu Anda pikirkan. Anda harus khawatir tentang orang-orang yang menyamar sebagai anak-anak yang mungkin atau mungkin tidak memiliki motif buruk. Anda harus meyakinkan orang tua bahwa anak-anak mereka aman. Anda harus meyakinkan anak-anak bahwa mereka juga aman.

Kelebihan lainnya bagi manusia adalah mereka akan memahami konteks. Anda tidak ingin seorang anak berkata, "Ibuku menderita kanker payudara" dan ditendang.

Solusi sederhana untuk masalah ini:

1. Hapus semua spasi dan tanda baca dari input Anda.
2. Blacklist semua yang ada di Urban Dictionary .
3. Daftar hitam semua homofon, dll
4. Blacklist semua yang bisa digunakan sebagai euphamisme.
5. Tulis perangkat lunak Anda untuk memahami konten, maksud, dan nada dari apa yang tersisa.
6. Buang game dan pergi ke pasar dengan kreasi makhluk hidup dan mahatahu dari langkah 5.

Beberapa MMO untuk anak-anak hanya mengganti obrolan dengan daftar emotes dan frasa yang telah ditentukan dan tidak mengizinkan obrolan dalam bentuk bebas. Mungkin game bisa dirancang untuk mengakomodasi itu.