네트워크 L4, L7 로드밸런싱 (Load balancing)

# 서버가 많은 요청을 감당하기 힘들다면

서버의 성능을 향상시켜야합니다. 성능을 향상시키는 방법에는 크게 2가지가 있습니다.

• Scale-up : 기존의 서버의 하드웨어를 교체해서 성능을 향상시킨다.
• Scale-out : 서버의 개수를 추가하여 여러 대의 장치가 일을 나눠서 처리한다.

이 주제에 관해서도 이야기하면 긴데, 따로 글을 작성하도록 하겠습니다.

 

 

# 로드밸런싱이란?

로드밸런싱은 보통 운영체제의 프로세서의 작업 스케쥴링 또는 네트워크에 주로 사용되는 용어입니다.

 

여기에서 말하는 로드밸런싱은 네트워크 로드밸런싱을 의미합니다. 

즉 서버가 여러개(Scale-out)일 때 요청 트래픽을 적절하게 분산시켜주는 서비스가 Load Balancing입니다.

4계층 (TCP/IP 분석, Transport) 에서 로드밸런싱을 진행하는 경우

7계층 (사용자의 Request 분석, HTTP)에서 로드밸런싱을 진행하는 경우

참고로 이를 해주는 Load Balancer는 부하 분산말고도 아래와 같은 기능을 추가로 제공해줍니다.

• NAT (Network Address Translation, 사설IP - 공인IP 전환)
• Tunneling (인터넷상의 보이지 않는 연결을 만듦. 패킷 암호화)
• DSR (동적 소스 라우팅 - 서버에서 응답할 때 스위치를 거치지 않고 바로 찾아가도록 라우팅)

 

 

# 네트워크 로드밸런서의 종류

2021.09.08 - [기본 지식/웹 기본지식] - 네트워크 OSI 7계층, TCP/IP 4계층

 

@ L2(Data Link Layer)

브릿지, 허브등에서 사용되는 로드밸런싱입니다.

네트워크 장비의 고유한 Mac 주소(80–00–20–30–1C-47)를 이용하여 로드밸런싱합니다. MAC == Media Access Control
당연히 스위치는 Mac테이블을 가지고 있어야하며, 이를 기준으로 패킷을 전송합니다.

• 스위치 Mac Table에 정보가 있다면 해당 주소로 이동 (Forwarding) 시킵니다.
• 만약 Mac Table에 정보가 없다면, 다른 장치에 전부 전송을 해보고, 응답하는 장비를 Mac Table에 등록합니다 (Flooding)

참고로 AWS에서 제공하는 가상의 L2 Switch는 포트번호(4계층)으로 구분할 수 있습니다. 여기서 말하는 실제 스위치랑은 조금 달라요.

• 장점 : 로드밸런서의 가격이 저렴합니다. 또한 구조가 간단해서 성능과 신뢰성이 높습니다.
• 단점 : 라우팅이 불가능하여 Broadcasting(모든 IP에 전송)에 의한 전체 성능저하가 발생하기 쉽습니다.

 

 

@ L3(Network Layer)

L2에 라우팅기능을 넣은 로드밸런서입니다.

즉 라우터 기기의 자체 기능을 이용해 IP 주소(213.12.32.123)를 로드밸런싱합니다.

• 라우팅 테이블에 정보가 있다면 해당 IP로 이동 (Forwarding) 시킵니다.
• 만약 라우팅 테이블에 정보가 없다면, 라우터는 해당 요청을 버립니다. (Drop)
  즉 Public IP가 아닌 내부망에서만 사용하는 Private IP는 해당 테이블 정보가 없으면 네트워크 통신이 불가능합니다.
• 라우터는 라우팅 프로토콜을 활용하여, 어떠한 대역으로 패킷을 보내는게 오류없이 갈 수 있는 경로인지 학습합니다.

장점 : L2와 다르게 각 트래픽을 체크하여 Broadcasting에 의한 전체 성능저하를 방지할 수 있습니다.

단점 : 특정 프로토콜(ICMP)을 사용해야 스위칭이 가능합니다.

 

 

@ 주로 사용 - L4 (Transport Layer)

IP + Port 를 이용한 로드밸런싱입니다. (213.12.32.123:80, 213.12.32.123:1024)

단순 라우터만 이용하는 것이 아니라, TCP/IP 프로토콜을 사용합니다. 주로 Round Robin 방식을 이용합니다.

➡ Round Robin이란 우선순위를 두지않고, 시간 단위로 번갈아가며 요청을 할당하는 것을 말합니다.

 

Port 구분이 가능하기에 프로토콜(HTTP, FTP)마다 다른 서버로 보내도록 설정이 가능합니다.

실제 IP들을 하나의 가상IP(Virtual Ip, VIP)로 묶어서 처리할 수 있습니다. 그래서 아래와 같은 작업이 가능합니다.

• VIP를 통해 요청받은 작업을 여러개의 서버로 분산시킬 수 있음.
• VIP를 통해 연결된 서버가 다운되어도 자동으로 다른 서버가 해당역할을 하도록 전환하는 Failover 기능지원.

 

@ 주로 사용 - L7 Switch (Application Layer)

어플리케이션 영역, 즉 HTTP Request 요청 내용까지 판단하여 로드밸런싱합니다.

참고로 L5,L6는 네트워크 계층에서 별 의미가 없어서 존재하지 않습니다.

 

L4가 사용하는 IP + Port 뿐만아니라 URI정보, 쿠키등을 다 판단해 유연하게 네트워크 밸런싱을 할 수 있습니다.

• 예1) L4 Switch에서 제공하는 기능을 다 포함합니다. 프로토콜(Port)별로 다른 서버에 할당 가능합니다.
• 예2) www.naver.com/blog  와 www.naver.com/cafe  를 다른 서버가 처리하도록 설정할 수 있습니다.
• 예3) URI, 쿠키, 바이러스 패턴등을 분석해 특정 트래픽을 받지 않도록 필터링 할 수 있습니다.
• 예4) 패킷의 데이터부분, Payload를 분석하여 DDOS 같은 서비스 공격을 완화 할 수 있습니다.

회사에서 공유기(사설IP)를 사용하는 경우 ➡ 한 회사의 모든 요청 IP가 똑같다.
- L4 스위치는 모든 요청을 한 서버에 할당합니다. IP+Port가 같으니까
- L7 스위치는 IP+Port뿐만 아니라 HTTP Request를 이용해 분산시키므로, 적절하게 분산 가능합니다.

 

하지만 L4에 비해 분석해야할 정보가 많아 로드밸런싱 작업이 어렵고 무거워집니다.

그래서 성능 좋은 L7 Switch 장비의 가격이 매우 비쌉니다.

 

# 사용하는 네트워크 로드밸런서

보통은 L2,L3는 허브나 스위칭허브(라우팅 기능이 있는 허브)에 사용됩니다.

라우터를 이용하면 L4, L7를 주로 사용합니다.