Bằng cách chia sẻ và kết nối mạng. Mã 'nên' giống nhau đối với một máy chủ hoặc một số.
Bạn có thể chia sẻ dữ liệu qua Cơ sở dữ liệu, bộ nhớ với những thứ như Memcache, tải với bộ cân bằng, v.v. Nếu bạn chuyên máy chủ như Google thực hiện (một số tìm nạp URL, một số dữ liệu giữ, một số làm crunching số, v.v ...) phần cứng để tay có thể được sử dụng tốt hơn.
Mã có thể sử dụng logic công văn (thường được trừu tượng hóa qua API) sao cho nó hoạt động giống nhau nếu có một máy chủ hoặc hàng triệu máy chủ.
IPC (Inter Process Communication) có thể được bật mạng và cho phép liên kết dịch vụ 'chặt chẽ hơn'. Google thậm chí còn có dự án protocol buffer để hỗ trợ điều này.
Máy chủ cơ bản phải chia sẻ để nhận được bất kỳ lợi ích thực sự nào (ngoài dự phòng/sao lưu), mã cần sử dụng mức trừu tượng để giúp chia sẻ. Chia sẻ thực tế thường sử dụng logic Round-Robin hoặc Map/Reduce.