Load Balancing
Distribusi traffic ke beberapa server untuk menghindari overload pada satu server.
Load balancing adalah teknik mendistribusikan incoming traffic (requests) ke beberapa server backend agar tidak ada satu server yang menerima beban terlalu berat. Load balancer berdiri di depan server backend sebagai reverse proxy. Algoritma load balancing: Round Robin (giliran bergantian), Least Connections (ke server dengan koneksi paling sedikit), IP Hash (user dari IP yang sama selalu ke server yang sama — untuk session consistency), dan Weighted (server lebih kuat dapat lebih banyak traffic). Load balancer juga melakukan health check — kalau satu server mati, traffic dialihkan ke server lain (failover).