Bagaimana layanan lalu lintas tinggi melayani lebih dari 65535 koneksi TCP?

Jika ada batasan jumlah port yang dimiliki satu mesin dan satu soket hanya dapat mengikat ke nomor port yang tidak digunakan, bagaimana server mengalami jumlah yang sangat tinggi (lebih dari jumlah port maksimal) dari permintaan yang menangani ini? Apakah itu hanya dilakukan dengan membuat sistem terdistribusi, yaitu, banyak server di banyak mesin?

Anda salah memahami nomor port dengan cukup parah: server hanya mendengarkan pada satu port dan dapat memiliki banyak soket terbuka dari klien yang terhubung ke satu port tersebut.

Pada level TCP, tuple (sumber ip, port sumber, ip tujuan, port tujuan) harus unik untuk setiap koneksi simultan. Itu berarti satu klien tidak dapat membuka lebih dari 65535 koneksi simultan ke server. Tetapi server dapat (secara teoritis) server 65535 koneksi simultan per klien .

Jadi dalam prakteknya server hanya dibatasi oleh berapa banyak daya CPU, memori dll. Ia harus melayani permintaan, bukan oleh jumlah koneksi TCP ke server.

Anda salah - keunikan soket ditentukan oleh empat faktor:

1. alamat IP lokal
2. nomor port lokal
3. alamat IP jarak jauh
4. nomor port jarak jauh

Saat menawarkan layanan jaringan, 1. dan 2. biasanya statis (mis. IP 10.0.0.1, port 80) tetapi kecuali jika Anda mengharapkan ribuan koneksi dari satu klien (atau satu gateway NAT), Anda tidak akan mendorong batas untuk kemungkinan kombinasi 3. dan 4. sebelum Anda kehabisan sumber daya lokal.

Jadi, meskipun secara praktis klien tidak akan menggunakan port yang sudah digunakan untuk koneksi untuk membuka koneksi ke alamat IP tujuan yang berbeda, penipisan nomor port akan menjadi masalah terkecil Anda untuk hampir semua aplikasi - baik itu di server atau sisi klien.

Masalahnya adalah masalah yang sangat nyata dengan gateway NAT (router) yang melayani klien dengan koneksi outbound terbuka yang tinggi (mis. Torrents) - di sana Anda akan melihat penipisan nomor port setelah pool port yang tersedia untuk NAT telah dikosongkan. Dalam hal ini gateway NAT tidak dapat membuat asosiasi tambahan, sehingga secara efektif memotong klien dari internet.

Pertanyaannya adalah bagaimana menangani jumlah koneksi yang besar (> 64k). Dua metode yang paling umum adalah:

• Menambahkan lebih banyak server, yang meningkatkan jumlah alamat src / dst dan nomor port tuple. Ada beberapa cara untuk berbagi beban di beberapa server; DNS round robin adalah satu; ada yang lain

• Menyebarkan "carrier-grade NAT" (yang menurut hemat saya seorang teman dalam pandangan saya disebut sebagai "NAT yang lebih jelek"). Ini pada dasarnya adalah NAT dari NAT. Ini memiliki implikasi yang sangat buruk untuk aplikasi, tetapi itulah yang dilakukan oleh beberapa penyedia besar ketika mereka kehabisan ruang IPv4 dan / atau nomor port, dan / atau mereka tidak ingin pindah ke IPv6.