Load Balancing 최신 기능 소개

최신 Load Balancing 기법과 알고리즘을 실무 중심으로 소개합니다. Nginx, HAProxy 등 주요 도구의 핵심 기능을 코드 예제와 함께 학습합니다. 초급 개발자도 쉽게 이해할 수 있도록 구성했습니다.

---

---

들어가며

이 글에서는 Load Balancing 최신 기능 소개에 대해 상세히 알아보겠습니다. 총 10가지 주요 개념을 다루며, 각각의 개념에 대한 설명과 실제 코드 예제를 함께 제공합니다.

목차

1. Round_Robin_알고리즘
2. Weighted_Round_Robin
3. Least_Connections
4. IP_Hash_기반_분배
5. Health_Check_구현
6. Nginx_기본_설정
7. Nginx_가중치_설정
8. Sticky_Session_구현
9. Circuit_Breaker_패턴
10. Rate_Limiting_구현

---

1. Round Robin 알고리즘

개요

가장 기본적인 부하 분산 방식으로, 서버들에게 순차적으로 요청을 분배합니다. 모든 서버가 동등한 성능을 가질 때 효과적입니다.

코드 예제

class RoundRobin {
  private servers: string[] = ['server1', 'server2', 'server3'];
  private current = 0;

  getNext(): string {
    const server = this.servers[this.current];
    this.current = (this.current + 1) % this.servers.length;
    return server;
  }
}

설명

현재 인덱스를 저장하고 요청마다 다음 서버로 순환합니다. 모듈로 연산으로 인덱스가 배열 끝에 도달하면 처음으로 돌아갑니다.

---

2. Weighted Round Robin

개요

서버마다 가중치를 부여하여 성능이 좋은 서버에 더 많은 요청을 분배합니다. 서버 성능이 다를 때 유용합니다.

코드 예제

class WeightedRoundRobin {
  private servers = [
    { name: 'server1', weight: 5 },
    { name: 'server2', weight: 3 },
    { name: 'server3', weight: 2 }
  ];
  private currentIndex = 0;
  private currentWeight = 0;

  getNext(): string {
    for (let i = 0; i < this.servers.length; i++) {
      this.currentIndex = (this.currentIndex + 1) % this.servers.length;
      if (this.currentIndex === 0) this.currentWeight++;

      if (this.servers[this.currentIndex].weight >= this.currentWeight) {
        return this.servers[this.currentIndex].name;
      }
    }
    this.currentWeight = 0;
    return this.servers[0].name;
  }
}

설명

가중치에 비례하여 서버를 선택합니다. 가중치가 5인 서버는 가중치가 1인 서버보다 5배 더 많은 요청을 처리합니다.

---

3. Least Connections

개요

현재 연결 수가 가장 적은 서버로 요청을 보냅니다. 세션이 길거나 처리 시간이 다를 때 효과적입니다.

코드 예제

class LeastConnections {
  private servers = new Map([
    ['server1', 0],
    ['server2', 0],
    ['server3', 0]
  ]);

  getNext(): string {
    let minConnections = Infinity;
    let selectedServer = '';

    this.servers.forEach((connections, server) => {
      if (connections < minConnections) {
        minConnections = connections;
        selectedServer = server;
      }
    });

    this.servers.set(selectedServer, minConnections + 1);
    return selectedServer;
  }
}

설명

Map으로 각 서버의 연결 수를 추적하고, 가장 적은 연결을 가진 서버를 선택합니다. 요청 후 연결 수를 증가시킵니다.

---

4. IP Hash 기반 분배

개요

클라이언트 IP를 해싱하여 항상 같은 서버로 요청을 보냅니다. 세션 유지가 필요할 때 사용합니다.

코드 예제

class IPHash {
  private servers = ['server1', 'server2', 'server3'];

  getServer(clientIP: string): string {
    let hash = 0;
    for (let i = 0; i < clientIP.length; i++) {
      hash = ((hash << 5) - hash) + clientIP.charCodeAt(i);
      hash = hash & hash;
    }
    const index = Math.abs(hash) % this.servers.length;
    return this.servers[index];
  }
}

설명

IP 문자열을 숫자 해시로 변환하고 서버 개수로 나눈 나머지로 서버를 선택합니다. 같은 IP는 항상 같은 서버로 연결됩니다.

---

5. Health Check 구현

개요

주기적으로 서버 상태를 확인하여 다운된 서버는 제외합니다. 시스템 안정성을 크게 향상시킵니다.

코드 예제

class HealthCheck {
  private healthyServers: Set<string> = new Set();

  async checkHealth(server: string): Promise<boolean> {
    try {
      const response = await fetch(`http://${server}/health`);
      return response.ok;
    } catch {
      return false;
    }
  }

  async updateHealthStatus(servers: string[]): Promise<void> {
    for (const server of servers) {
      const isHealthy = await this.checkHealth(server);
      isHealthy ? this.healthyServers.add(server) : this.healthyServers.delete(server);
    }
  }
}

설명

각 서버의 health 엔드포인트를 호출하여 응답을 확인합니다. 정상 서버만 Set에 저장하여 로드밸런싱에 사용합니다.

---

6. Nginx 기본 설정

개요

Nginx를 이용한 간단한 로드밸런싱 설정입니다. upstream 블록으로 서버 그룹을 정의합니다.

코드 예제

http {
  upstream backend {
    server backend1.example.com;
    server backend2.example.com;
    server backend3.example.com;
  }

  server {
    listen 80;
    location / {
      proxy_pass http://backend;
    }
  }
}

설명

upstream에 백엔드 서버들을 나열하고 proxy_pass로 요청을 전달합니다. 기본적으로 Round Robin 방식으로 동작합니다.

---

7. Nginx 가중치 설정

개요

Nginx에서 서버마다 다른 가중치를 설정하여 트래픽을 차등 분배합니다.

코드 예제

upstream backend {
  server backend1.example.com weight=5;
  server backend2.example.com weight=2;
  server backend3.example.com weight=1;
}

server {
  listen 80;
  location / {
    proxy_pass http://backend;
    proxy_set_header Host $host;
  }
}

설명

weight 값으로 서버 성능에 맞춰 트래픽 비율을 조정합니다. backend1은 backend3보다 5배 많은 요청을 받습니다.

---

8. Sticky Session 구현

개요

쿠키를 이용해 같은 클라이언트를 동일한 서버로 유지합니다. 로그인 상태 유지 등에 필수적입니다.

코드 예제

class StickySession {
  private sessionMap = new Map<string, string>();
  private servers = ['server1', 'server2', 'server3'];

  getServer(sessionId: string): string {
    if (this.sessionMap.has(sessionId)) {
      return this.sessionMap.get(sessionId)!;
    }

    const server = this.servers[Math.floor(Math.random() * this.servers.length)];
    this.sessionMap.set(sessionId, server);
    return server;
  }
}

설명

세션 ID로 서버를 매핑하여 저장합니다. 기존 세션은 동일 서버로, 새 세션은 랜덤으로 할당합니다.

---

9. Circuit Breaker 패턴

개요

서버 장애 시 빠르게 실패하여 연쇄 장애를 방지합니다. 마이크로서비스 환경에서 중요합니다.

코드 예제

class CircuitBreaker {
  private failureCount = 0;
  private state: 'CLOSED' | 'OPEN' = 'CLOSED';
  private threshold = 5;

  async call(server: string): Promise<any> {
    if (this.state === 'OPEN') {
      throw new Error('Circuit breaker is OPEN');
    }

    try {
      const result = await fetch(server);
      this.failureCount = 0;
      return result;
    } catch (error) {
      this.failureCount++;
      if (this.failureCount >= this.threshold) this.state = 'OPEN';
      throw error;
    }
  }
}

설명

실패 횟수를 추적하여 임계값 초과 시 회로를 열어 요청을 차단합니다. 시스템 전체를 보호하는 안전장치 역할을 합니다.

---

10. Rate Limiting 구현

개요

서버 과부하 방지를 위해 요청 속도를 제한합니다. DDoS 공격 방어에도 효과적입니다.

코드 예제

class RateLimiter {
  private requests = new Map<string, number[]>();
  private limit = 100;
  private window = 60000; // 1분

  isAllowed(clientId: string): boolean {
    const now = Date.now();
    const timestamps = this.requests.get(clientId) || [];
    const validRequests = timestamps.filter(t => now - t < this.window);

    if (validRequests.length >= this.limit) return false;

    validRequests.push(now);
    this.requests.set(clientId, validRequests);
    return true;
  }
}

설명

시간 윈도우 내의 요청 수를 추적합니다. 제한을 초과하면 false를 반환하여 요청을 거부합니다.

---

마치며

이번 글에서는 Load Balancing 최신 기능 소개에 대해 알아보았습니다. 총 10가지 개념을 다루었으며, 각각의 사용법과 예제를 살펴보았습니다.

관련 태그

#LoadBalancing #RoundRobin #HealthCheck #WebServer #Nginx