스로틀 vs. 속도 제한 | 반드시 알아야 할 차이점

APIs는 현대 웹의 필수적인 뼈대 역할을 하며 서로 다른 애플리케이션이 서로 통신하고 데이터를 교환할 수 있게 합니다. 모든 애플리케이션이 각자의 틈새 시장을 가지고 있는 만큼, 일부 악의적인 사람들이 이러한 유용한 애플리케이션을 남용하는 경향이 있어 다른 사용자들의 경험에 부정적인 영향을 미칩니다. 그러나 이를 예방할 수 있는 방법이 있다면 어떻게 될까요?

💡

대부분의 API 도구는 사용 시 제한이 있습니다 - 요청 수가 제한되고, 설정할 수 있는 테스트 케이스가 한정적입니다. 그러나 이러한 제한을 우회할 수 있는 API 도구가 있습니다.

Apidog, 모든 것이 포함된 API 개발 도구를 소개합니다. 이 도구는 API를 무제한으로 테스트할 수 있게 해 줍니다. Apidog에 유일한 제한은 타사 API의 제한입니다(타사 API가 API를 조절하는지 여부).

Apidog을 사용해 보고 싶다면 아래 버튼을 클릭하여 오늘 무료로 시작하십시오 (미래에도 가능합니다)! 👇 👇 👇

button

스로틀링과 비율 제한의 차이를 알아보기 위해, 각각을 개별적으로 정의해 보겠습니다.

스로틀링이란 무엇인가요?

API와 관련하여 스로틀링은 API 액세스를 관리하고 API가 과부하되는 것을 방지하기 위한 동적인 접근 방식을 의미합니다. 스로틀링 API는 API의 안정성 및 성능을 보장하기 위해 들어오는 요청의 흐름을 조절합니다.

API 스로틀링 주요 특징

1. 동적 조정:

비율 제한의 고정된 한계와 달리, 스로틀링은 실시간 트래픽 조건에 따라 응답 시간을 동적으로 조정합니다. 마치 가변 속도 제한이 있는 고속도로와 같습니다. 트래픽은 조정을 촉발(스로틀링)하여 원활한 흐름(API 안정성)을 유지합니다.

2. 기술 및 알고리즘:

누수 버킷: 들어오는 요청이 바닥에 작은 누수구가 있는 가상 버킷을 채웁니다. 버킷이 채워지면 응답 시간(누수가 느려짐)이 증가하고 반대의 경우도 마찬가지입니다.
토큰 버킷: 사용자마다 주어진 시간 프레임 내에서 제한된 수의 토큰(요청)을 갖습니다. 각 요청은 하나의 토큰을 소비합니다. 토큰이 없으면(버킷이 비어 있음), 토큰이 보충될 때까지 요청이 스로틀링됩니다.

3. 구성 옵션:

세분화: 스로틀링은 자원 사용에 따라 전역적으로 또는 특정 API 엔드포인트에 적용될 수 있습니다.
임계값: 사용자 정의 가능한 임계값은 스로틀링이 시작되는 시점을 결정합니다. 이들은 동시 요청이나 자원 사용과 같은 요소를 기반으로 할 수 있습니다.
시간 창: 스로틀링 동작은 특정 시간 창(예: 피크 시간)에 대해 구성할 수 있습니다.

4. 응답 메커니즘:

속도 저하: 후속 요청에 대한 응답 시간을 증가시키는 가장 일반적인 접근 방식입니다.
오류 코드: 스로틀링 및 잠재적인 재시도 옵션을 나타내기 위해 특정 HTTP 오류 코드(예: 429 Too Many Requests)를 반환합니다.
대기 큐: 자원이 이용 가능해질 때까지 요청을 큐에 임시로 보류합니다.

5. 고급 기능:

화이트리스트: 특정 사용자나 애플리케이션에 대해 중요한 작업을 위해 스로틀링을 면제합니다.
블랙리스트: 악의적인 행동을 보이는 사용자에게 더 강력한 스로틀링을 적용합니다.
모니터링 통합: 스로틀링 매개변수는 실시간 API 사용 데이터에 따라 동적으로 조정될 수 있습니다.

API 스로틀링 코드 샘플

1. 간단한 API 스로틀링을 delay와 함께 (Python):

def handle_request(user_id):
  # 공유 자원 카운터 체크 시뮬레이션
  if resource_counter > threshold:
    time.sleep(delay_time)  # 지연을 도입하여 스로틀링
  # 요청 처리 로직...

2. API 요청에 대한 토큰 버킷 스로틀링 (Python)

from threading import Lock

class TokenBucket:
  """
  비율 제한을 위한 간단한 토큰 버킷 클래스입니다.
  """
  def __init__(self, capacity, refill_rate):
    """
    특정 용량과 보충 속도로 토큰 버킷을 초기화합니다.

    Args:
      capacity (int): 버킷이 담을 수 있는 최대 토큰 수입니다.
      refill_rate (float): 토큰이 보충되는 속도(초당 토큰 수)입니다.
    """
    self.capacity = capacity
    self.refill_rate = refill_rate
    self.tokens = capacity  # 가득 찬 버킷으로 시작
    self.last_refill_time = time.time()
    self.lock = Lock()

  def consume(self, amount):
    """
    버킷에서 지정된 수의 토큰을 소비하려고 시도합니다.

    Args:
      amount (int): 소비할 토큰 수입니다.

    Returns:
      bool: 토큰이 성공적으로 소비되면 True, 그렇지 않으면 False입니다.
    """
    with self.lock:
      self._refill()
      if self.tokens >= amount:
        self.tokens -= amount
        return True
      return False

  def _refill(self):
    """
    경과된 시간과 보충 속도를 기반으로 버킷을 보충합니다.
    """
    now = time.time()
    elapsed_time = now - self.last_refill_time
    self.tokens = min(self.capacity, self.tokens + (elapsed_time * self.refill_rate))
    self.last_refill_time = now

# 예제 사용
bucket = TokenBucket(capacity=5, refill_rate=1)  # 5개의 토큰, 초당 1개 토큰 보충

def access_api():
  # API 요청 로직을 시뮬레이트합니다...
  print("API 접근 중...")

if bucket.consume(2):
  access_api()
else:
  print("요청이 스로틀링되었습니다, 토큰이 부족합니다!")

# 짧은 지연 후 다시 시도
time.sleep(1)

if bucket.consume(1):
  access_api()
else:
  print("요청이 스로틀링되었습니다, 토큰이 부족합니다!")

코드 설명(단계별):

TokenBucket 클래스를 정의하여 토큰 풀을 관리합니다.
용량(최대 토큰)과 보충 속도(초당 토큰)를 인수로 받습니다.
consume 메소드는 버킷에서 지정된 수의 토큰을 제거하려고 시도합니다.
개인 메소드 _refill을 호출하여 버킷이 경과 시간을 기반으로 업데이트되었는지 확인합니다.
토큰이 충분하면 소비되고 - 메소드는 True를 반환합니다.
그렇지 않으면, 메소드는 False를 반환하며 스로틀링을 나타냅니다.

비율 제한이란 무엇인가요?

API와 관련하여 비율 제한은 사용자나 애플리케이션이 특정 기간 내에 할 수 있는 요청의 수에 대한 설정된 제한을 의미합니다. 이는 인기 있는 명소의 매표소와 같아서, 주어진 시간 내에 제한된 수의 요청만 허용됩니다.

API 비율 제한 주요 특징

1. 제한 구성:

요청 제한: API 제공자는 특정 시간 창 내에서 사용자나 애플리케이션당 허용되는 최대 요청 수를 정의합니다(예: 시간당 100 요청). 이러한 제한은 다음 요소에 따라 기반을 둘 수 있습니다:

사용자 계층: 무료 vs. 유료 플랜은 다른 제한을 가질 수 있습니다.
API 엔드포인트: 다양한 기능은 상이한 자원 요구 사항을 가질 수 있으며, 이는 서로 다른 제한으로 이어질 수 있습니다.

시간 창: 제한은 일반적으로 초, 분 또는 시간 단위의 특정 시간 프레임 내에서 적용됩니다. 이는 지속적인 과부하를 예방하면서 통제된 활동의 폭발을 허용합니다.

2. 카운팅 메커니즘:

사용자 식별: 요청은 사용자나 애플리케이션과 연관됩니다. 이는 다음과 같이 달성할 수 있습니다:

API 키: 인증 및 사용 추적을 위해 개발자에게 제공되는 고유 식별자입니다.
IP 주소: 보안성이 떨어지지만, 기본적인 비율 제한을 위해 IP 주소를 사용할 수 있습니다.

요청 카운터: API는 현재 시간 창 내에서 각 사용자/애플리케이션에서 받은 요청 수를 추적합니다.

3. 집행 전략:

차단: 사용자가 제한에 도달하면 그 이후의 요청이 시간 창이 리셋될 때까지 완전히 차단될 수 있습니다. 이는 남용을 방지하기 위한 더 엄격한 접근 방식입니다.
스로틀링: 비율 제한과 함께 자주 사용되는 스로틀링은 요청을 완전히 차단하지 않고 후속 요청 속도를 늦추는 방식입니다. 이는 과부하를 방지하면서 어느 정도의 접근을 허용합니다. (스로틀링은 별도의 개념이지만 비율 제한과 함께 사용할 수 있습니다)

4. 고급 기능:

폭발 제한: 평균 비율 제한을 초과하는 단기 허용을 통해 활동의 폭발을 수용합니다. 이는 합법적인 사용 사례에 대한 유연성을 제공합니다.
누수 버킷: 요청을 작은 누수가 있는 버킷으로 채우는 비유적인 접근입니다. 누수는 비율 제한을 나타냅니다. 버킷이 가득 차지 않는 한 요청은 처리됩니다.
토큰 버킷: 사용자에게 시간이 지남에 따라 보충되는 일정 수의 토큰(요청)이 할당됩니다. 요청은 토큰을 소비하며, 토큰이 없을 경우 사용자는 스로틀링됩니다.

5. 통신 및 모니터링:

API 문서화: 명확한 문서는 비율 제한, 특정 제한, 시간 창 및 집행 방법을 포함합니다.
모니터링 및 알림: API 제공자는 사용 패턴을 모니터링하고 안정성을 유지하기 위해 필요에 따라 비율 제한을 조정합니다.

API 비율 제한 코드 샘플

1. 제한 및 시간 창 추적 (Python):

# API 문서에서 가져온 비율 제한 정보를 저장하는 시뮬레이션
rate_limit = 100  # 시간당 요청 수
time_window = 3600  # 1시간의 초

last_request_time = None

def make_api_request():
  global last_request_time

  # 시간 창 내에 있고 남은 요청이 충분한 경우(가상)
  if last_request_time is None or (time.time() - last_request_time) >= time_window:
    # API 요청을 수행합니다
    last_request_time = time.time()
    # ... (API 요청 로직)
  else:
    print("API 비율 제한에 도달했습니다, 리셋될 때까지 대기 중...")
    # 백오프 전략을 구현합니다 (3번 항목 참조)

# 예제 사용
make_api_request()

위의 코드 예시는 API 문서에서 가져온 비율 제한 정보(요청 및 시간 창)를 저장하고, 마지막 요청 시간을 추적하는 상황을 보여줍니다. 그 다음 코드는 남은 시간 및 허용된 요청 수에 따라 요청을 할 수 있는지 확인합니다.

2. API 응답 헤더 활용 (Python):

import requests

def make_api_request():
  response = requests.get("https://api.example.com/data")
  if response.status_code == 429:  # 비율 제한 초과 코드
    # 헤더(X-RateLimit-Remaining, X-RateLimit-Reset)에서 비율 제한 정보를 추출합니다
    # 백오프 전략을 구현합니다 (3번 항목 참조)
  else:
    # 성공적인 응답 처리
    # ...

위의 코드 예시는 일반적인 비율 제한 오류 코드 429에 대해 응답 상태 코드를 확인하고, 발생 시 응답 헤더에서 관련 정보를 추출하려고 시도하는 방법을 보여줍니다.

스로틀링과 비율 제한 간의 요약된 차이점

특징	스로틀링	비율 제한
목표	API 트래픽 흐름을 관리하여 성능 유지	남용 및 과부하 방지를 위한 API 접근 제어
메커니즘	트래픽에 따라 응답 시간을 동적으로 조정	시간 창에 따른 요청에 대한 강제 제한 설정
집행	피크 기간 동안 요청 속도를 늦춤 (더 유연한 접근)	제한을 초과하는 요청 차단 (더 엄격한 접근)
초점	안정성 및 성능 유지	공정성 및 남용 방지
구성	임계값, 시간 창, 응답 메커니즘	제한 및 시간 창
사용 사례	피크 트래픽 동안 과부하 방지 및 긴급 요청 우선 처리	DoS 공격 방어 및 사용량 제어

Apidog - 애플리케이션을 완벽하게 하기 위한 무제한 요청

최고의 API를 만드는 데 방해가 되는 유일한 요소는 도구의 제한입니다 - 현재 대부분의 API 도구는 결제 벽을 가지고 있습니다. 비용을 지불하지 않으면 API 개발에 필수적인 기능을 사용할 수 없습니다. 하지만 하나의 API 개발 도구는 개발자에게 최고의 서비스를 제공하기 위해 한 걸음 더 나아갑니다.

button

Apidog, 모든 것이 포함된 API 개발 도구를 만나보세요. 이 도구는 API 생애 주기 전반에 걸쳐 모든 API 개발 프로세스를 지원합니다. Apidog을 사용하면 새로운 API를 생성하고 기존 API를 수정하며, 테스트, 모의 및 문서화를 수행하여 API가 오류 없이 작동하도록 할 수 있습니다.

Apidog으로 API 구축하기

Apidog을 사용하면 스스로 API를 생성할 수 있습니다. 즉, API의 비율 제한을 설정하고 추가 코딩의 도움을 받는 경우 API를 스로틀링할지를 결정할 수 있습니다.

위 이미지에서 보여진 대로 New API 버튼을 눌러 시작하세요.

다음으로, API의 많은 특성을 선택할 수 있습니다. 이 페이지에서 할 수 있는 일은:

HTTP 메소드를 설정합니다 (GET, POST, PUT 또는 DELETE)
클라이언트-서버 상호작용을 위한 API URL(또는 API 엔드포인트)을 설정합니다
API URL에 전달할 하나/여러 매개변수를 포함합니다
API가 제공하려는 기능에 대한 설명을 제공합니다. 여기에서 API에 구현할 계획인 비율 제한에 대해서도 설명할 수 있습니다.

디자인 단계에 제공할 수 있는 정보가 많을수록 API 문서가 더 구체적으로 작성되며, 이는 이 문서의 다음 섹션에서 보여질 것입니다.

API에 부과된 비율 제한 여부도 반드시 포함해야 하며, 사용자가 API와 작업하기 위해 해당 정보를 요구합니다.

API를 처음 만드는 경우에 대한 도움으로 이러한 기사를 읽어보는 것을 고려할 수 있습니다.

모든 기본 필요 사항을 마무리한 후, Send를 클릭하여 요청을 시도할 수 있습니다. 그러면 위 이미지에서처럼 Apidog 창 하단에 응답이 표시됩니다.

간단하고 직관적인 사용자 인터페이스는 사용자가 요청에서 얻은 응답을 쉽게 볼 수 있도록 해 줍니다. 응답의 구조를 이해하는 것도 중요하며, 이는 클라이언트 및 서버 쪽 코드가 일치해야 합니다.

Apidog으로 상세한 API 문서 생성하기

Apidog을 사용하면 소프트웨어 개발자가 필요로 하는 모든 내용을 몇 번의 클릭만으로 빠르게 API 문서를 생성할 수 있습니다.

화살표 1 - 먼저, Apidog 앱 창 왼쪽에 있는 Share 버튼을 누릅니다. 그러면 빈 "공유 문서" 페이지를 볼 수 있습니다.

화살표 2 - No Data 아래의 + New 버튼을 눌러 첫 번째 Apidog API 문서 생성을 시작합니다.

중요한 API 문서 속성 선택 및 포함하기

Apidog은 개발자에게 누가 API 문서를 볼 수 있는지 및 파일 비밀번호 설정과 같은 API 문서 특성 선택 옵션을 제공합니다. 특정 개인이나 조직만 해당 문서를 볼 수 있도록 할 수 있습니다.

API 문서 보기 또는 공유하기

Apidog은 API 프로젝트의 세부 정보를 웹사이트 URL을 통해 볼 수 있는 API 문서로 요약합니다. 여러분이 해야 할 일은 해당 URL을 배포하여 다른 사람들이 API 문서를 볼 수 있도록 하는 것입니다!

더 많은 세부 정보가 필요하다면, Apidog을 사용하여 API 문서를 생성하는 방법에 대한 이 기사를 읽어보세요:

결론

스로틀링과 비율 제한은 API 접근 관리 및 원활한 작동을 보장하기 위한 필수 도구입니다. 이들은 과부하를 방지하는 공통의 목표를 가지고 있지만 접근 방식이 다릅니다.

비율 제한은 시간이 정해진 요청 수에 대한 강한 제한을 설정하는 엄격한 게이트키퍼와 같습니다. 이는 공정성을 우선시하고 남용을 예방합니다. 반면 스로틀링은 마치 조도 조절기처럼 작동하여 트래픽에 따라 응답 시간을 동적으로 조정합니다. 이는 요청 급증을 부드럽게 처리하여 안정성과 성능을 보장합니다.

각 접근 방식의 강점을 이해하면 API 제공자는 사용자 요구와 API의 용량을 균형 있게 조정하는 강력한 접근 제어 시스템을 생성하여 모두에게 안전하고 성능 높은 경험을 제공할 수 있습니다.

Apidog과 함께라면 제한된 요청에 대해 걱정할 필요가 없습니다. 또한 이해하고 분석하고 싶은 API를 가져올 수도 있으며, Apidog의 간단하면서도 직관적인 디자인을 통해 그들을 분석할 수 있습니다. 오늘 Apidog으로 API 개발 여행을 시작하세요!

button