로드밸런싱 Load Balancing

 

 

 

Load Balancing

서버에 가해지는 부하(Load)를 분산(Balancing)해주는 장치 또는 기술을 말함

클라이언트와 서버풀(Server Pool, 분산 네트워크를 구성하는 서버들의 그룹) 사이에 위치함

한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 함

 

 

---

 

 

로브밸런싱의 필요성

 

 

서비스의 규모가 커지고, 이용자 수가 늘어나게 되면

기존의 서버만으로는 원할한 서비스 동작이 불가능하기 때문에

 

 

여러 대의 서버를 두고 서비스를 제공하는 분산 처리 시스템에서 필요한 기술로

증가한 트래픽에 대처할 수 있는 방법은 크게 두 가지가 있음

 

 

1)  Scale-up   서버 자체의 성능을 확장하는 것

2)  Scale-out   여러 대의 서버를 두는 것

 

 

Scale-out의 방식으로 서버를 증설하기로 결정했다면

여러 대의 서버로 트래픽을 균등하게 분산해주는 로드밸런싱이 반드시 필요함

 

 

 

---

 

 

로드 밸런싱 알고리즘

 

 

 

✔️ 라운드로빈 방식

• 서버에 들어온 요청을 순서대로 돌아가며 배정하는 방식
• 클라리언트의 요청을 순서대로 분배하기 때문에 여러 대의 서버가 동일한 스펙을 갖고 있고,
• 서버와의 연결이 오래 지속되지 않는 경우에 활용하기 적합

 

 

✔️ 가중 라운드로빈 방식

• 각각의 서버마다 가중치를 매기고 가중치가 높은 서버에 클라이언트 요청을 우선적으로 배분함
• 주로 서버의 트래픽 처리 능력이 상이한 경우 사용되는 부하 분산 방식

 

 

✔️ IP 해시 방식

• 클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리하는 방식
• 사용자의 IP를 Hashing하여 로드를 분배하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장함

 

 

✔️ 최소 연결 방식

• 요청이 들어온 시점에 가장 적은 연결상태를 보이는 서버에 우선적으로 트래픽을 배분함
• 자주 세션이 길어지거나, 서버에 분배된 트래픽들이 일정하지 않은 경우에 적합한 방식

 

 

✔️ 최소 응답 시간 방식

• 서버의 현재 연결 상태와 응답시간을 모두 고려하여 트래픽을 배분함
• 가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 로드를 배분하는 방식

 

 

 

---

 

 

로드 밸런싱의 종류

 

 

네트워크 통신 시스템은 일곱 가지의 계층으로 나뉨

각각의 계층이 L1~L7에 해당함 

상위 계층에서 사용되는 장비는 하위 계층의 장비가 갖고 있는 기능을 모두 가지고 있으므로,

상위 계층으로 갈수록 더욱 정교한 로드 밸런싱이 가능함 

대표적인 로드밸런서는 L4와 L7임

 

 

L4

 

• 전송(Transport) 계층에서 로드를 분산
• TCP, UDP 포트 정보를 바탕으로 함
• 데이터 안을 보지 않고 패킷 레벨에서만 로드를 분산하기 때문에 속도가 빠르고 효율이 높음
• 섬세한 라우팅이 불가능하지만 L7로드 밸런서보다 저렴

 

 

L7

 

• 응용(Application) 계층에서 로드를 분산
• HTTP 헤더, 쿠키 등과 같은 사용자 요청을 기준으로 특정 서버에 트래픽을 분산하는 것이 가능하다.
  즉, 패킷 내용을 확인하고 그 내용에 따라 로드를 특정 서버에 분배하는 것이 가능
• 더 섬세한 라우팅이 가능하고, 비정상적인 트래픽을 필터링 할 수 있음
• 패킷의 내용을 복호화 해야하기 때문에 더 많은 비용이 듬

 

 

 

 

 

---

 

Reference Path

 

 

로드밸런서(Load Balancer)의 개념과 특징

 

로드 밸런싱에 대해 알아보자!

 

---