도구 설정
LiteLLM에서 Claude API 사용하기
LiteLLM은 Anthropic을 네이티브로 지원하고 모델별 엔드포인트 재정의를 허용하므로, 설정 한 줄로 모든 Claude 트래픽이 할인 게이트웨이를 지나갑니다.
·
SDK 직접 호출
import litellm
response = litellm.completion(
model="anthropic/claude-opus-4-8",
api_base="https://api.apitoken.sale",
api_key="sk-pool-•••",
messages=[{"role": "user", "content": "Hello"}],
)함께 보기: LangChain에서 Claude API 사용하기
LiteLLM 프록시 설정
# config.yaml
model_list:
- model_name: claude-opus-4-8
litellm_params:
model: anthropic/claude-opus-4-8
api_base: https://api.apitoken.sale
api_key: sk-pool-•••이 설정으로 프록시를 실행하면 LiteLLM 게이트웨이의 모든 클라이언트가 투명하게 할인된 Claude 엔드포인트를 사용합니다. 여러 서비스가 하나의 라우팅 계층을 공유할 때 유용합니다.
왜 LiteLLM으로 Claude를 이곳에 라우팅하나
- 모든 서비스를 저렴한 엔드포인트로 전환하는 단일 지점.
- 이미 쓰던 anthropic/ 모델 접두사와 파라미터 그대로.
- apitoken.sale 대시보드에서 키별 지출을 토큰 단위로 추적.
자주 묻는 질문
LiteLLM이 커스텀 Anthropic api_base를 지원하나요?
네 — litellm.completion()이나 프록시 설정의 litellm_params에 api_base를 전달하면 LiteLLM이 Anthropic 형식 요청을 https://api.apitoken.sale로 보냅니다.
anthropic/ 모델 접두사는 유지하나요?
네. anthropic/claude-opus-4-8(또는 지원되는 모든 모델)을 사용해 LiteLLM이 Anthropic 프로토콜을 적용하게 하세요. 바뀌는 것은 엔드포인트와 키뿐입니다.
LiteLLM 기반 도구에도 적용되나요?
네 — LiteLLM을 거치는 모든 것(많은 코딩 에이전트 포함)이 같은 설정에서 할인 엔드포인트를 물려받습니다.