도구 설정

LiteLLM에서 Claude API 사용하기

LiteLLM은 Anthropic을 네이티브로 지원하고 모델별 엔드포인트 재정의를 허용하므로, 설정 한 줄로 모든 Claude 트래픽이 할인 게이트웨이를 지나갑니다.

·

SDK 직접 호출

import litellm

response = litellm.completion(
    model="anthropic/claude-opus-4-8",
    api_base="https://api.apitoken.sale",
    api_key="sk-pool-•••",
    messages=[{"role": "user", "content": "Hello"}],
)

함께 보기: LangChain에서 Claude API 사용하기

LiteLLM 프록시 설정

# config.yaml
model_list:
  - model_name: claude-opus-4-8
    litellm_params:
      model: anthropic/claude-opus-4-8
      api_base: https://api.apitoken.sale
      api_key: sk-pool-•••

이 설정으로 프록시를 실행하면 LiteLLM 게이트웨이의 모든 클라이언트가 투명하게 할인된 Claude 엔드포인트를 사용합니다. 여러 서비스가 하나의 라우팅 계층을 공유할 때 유용합니다.

왜 LiteLLM으로 Claude를 이곳에 라우팅하나

  • 모든 서비스를 저렴한 엔드포인트로 전환하는 단일 지점.
  • 이미 쓰던 anthropic/ 모델 접두사와 파라미터 그대로.
  • apitoken.sale 대시보드에서 키별 지출을 토큰 단위로 추적.

자주 묻는 질문

LiteLLM이 커스텀 Anthropic api_base를 지원하나요?

네 — litellm.completion()이나 프록시 설정의 litellm_params에 api_base를 전달하면 LiteLLM이 Anthropic 형식 요청을 https://api.apitoken.sale로 보냅니다.

anthropic/ 모델 접두사는 유지하나요?

네. anthropic/claude-opus-4-8(또는 지원되는 모든 모델)을 사용해 LiteLLM이 Anthropic 프로토콜을 적용하게 하세요. 바뀌는 것은 엔드포인트와 키뿐입니다.

LiteLLM 기반 도구에도 적용되나요?

네 — LiteLLM을 거치는 모든 것(많은 코딩 에이전트 포함)이 같은 설정에서 할인 엔드포인트를 물려받습니다.

결제 전에 사용해 보세요: Google/GitHub 신규 계정에는 $10 상당의 Claude 사용량이 포함됩니다.