Bagaimana mencegah subtree removal (`rm -rf`) agar tidak kelaparan proses lain untuk Disk I / O?

Kami memiliki direktori cache Nginx (multi-GB) yang sangat besar untuk situs yang sibuk, yang terkadang perlu kami hapus sekaligus. Saya telah memecahkan ini di masa lalu dengan memindahkan folder cache ke jalur baru, membuat folder cache baru di jalur lama, dan kemudian rm -rfmemasukkan folder cache lama.

Namun belakangan ini, ketika saya perlu menghapus cache pada suatu pagi yang sibuk, I / O dari rm -rfmembuat server saya kelaparan proses akses disk, karena baik Nginx dan server yang dihadapinya bersifat membaca-intensif. Saya bisa menyaksikan rata-rata beban naik sementara CPU diam dan rm -rfmengambil 98-99% dari Disk IO iotop.

Saya sudah mencoba ionice -c 3ketika memohon rm, tetapi tampaknya tidak memiliki efek yang cukup pada perilaku yang diamati.

Apakah ada cara untuk menjinakkan rm -rfuntuk berbagi disk lebih banyak? Apakah saya perlu menggunakan teknik berbeda yang akan mengambil isyarat dari ionice?

Memperbarui:

Sistem file yang dimaksud adalah penyimpanan instance AWS EC2 (disk utama adalah EBS). The /etc/fstabentri terlihat seperti ini:

/dev/xvdb       /mnt    auto    defaults,nobootwait,comment=cloudconfig 0       2

Semua data dikumpulkan dari halaman ini. Di bawah ini adalah beberapa opsi untuk menghapus direktori file yang besar. Lihat langganan untuk rincian bagaimana ini diproduksi.

Waktu Sistem Perintah Berlalu% CPU cs1 * (Vol / Invol)
rsync -a –delete kosong / a 10,60 1,31 95% 106/22
temukan b / -tipe f -hapus 28.51 14.46 52% 14849/11
temukan c / -type f | xargs -L 100 rm 41,69 20.60 54% 37048/15074
temukan d / -type f | xargs -L 100 -P 100 rm 34,32 27,82 89% 929897/21720
rm -rf f 31,29 14.80 47% 15134/11

* cs1 adalah saklar konteks sukarela dan tidak sukarela

Menghapus file hanya menjalankan operasi metadata pada sistem file, yang tidak dipengaruhi oleh ionice.

Cara paling sederhana adalah, jika Anda tidak memerlukan ruang disk sekarang, untuk melakukan rmselama jam-jam di luar jam sibuk.

Cara yang lebih kompleks yang BISA bekerja adalah untuk menyebarkan penghapusan dari waktu ke waktu. Anda dapat mencoba sesuatu seperti yang berikut ini (perhatikan bahwa ini mengasumsikan jalur dan nama file Anda TIDAK mengandung spasi!):

while find dir -type f | head -n 100 | xargs rm; do sleep 2; done
while find dir -type d -depth | head -n 100 | xargs rmdir; do sleep 2; done

Perhatikan juga bahwa Anda tidak dapat menggunakan rm -fdalam perintah pertama karena loop tidak akan berhenti (itu tergantung pada kode keluar kesalahan rmketika tidak ada argumen).

Anda dapat mengubahnya dengan memodifikasi jumlah penghapusan per siklus (100 dalam contoh) dan durasi tidur. Namun itu mungkin tidak benar-benar berfungsi karena sistem file mungkin masih mengelompokkan pembaruan metadata sedemikian rupa sehingga Anda mendapat masalah dengan muatan IO Anda. Anda hanya harus mencoba.

Anda dapat memasangkannya dengan perintah "bagus". ionice -c 3 nice -19 rm -rf /some/folder

Ini mengubah prioritas proses pada mesin.