Используйте Claude API в LiteLLM
LiteLLM говорит с Anthropic нативно и позволяет переопределить эндпоинт для каждой модели — одна строка конфига отправляет весь ваш Claude-трафик через шлюз со скидкой.
·
Прямой вызов SDK
import litellm
response = litellm.completion(
model="anthropic/claude-opus-4-8",
api_base="https://api.apitoken.sale",
api_key="sk-pool-•••",
messages=[{"role": "user", "content": "Hello"}],
)Читайте также: Используйте Claude API в LangChain
Конфиг LiteLLM-прокси
# config.yaml
model_list:
- model_name: claude-opus-4-8
litellm_params:
model: anthropic/claude-opus-4-8
api_base: https://api.apitoken.sale
api_key: sk-pool-•••Запустите прокси с этим конфигом — и каждый клиент вашего LiteLLM-шлюза прозрачно использует дисконтный эндпоинт Claude. Удобно, когда много сервисов делят один слой маршрутизации.
Зачем вести Claude через LiteLLM сюда
- Одно место, чтобы переключить все сервисы на дешёвый эндпоинт.
- Тот же префикс anthropic/ у моделей и те же параметры, что вы уже используете.
- Расход по каждому ключу виден в панели apiToken.sale с детализацией до токенов.
Частые вопросы
Поддерживает ли LiteLLM кастомный api_base для Anthropic?
Да — передайте api_base в litellm.completion() или в litellm_params конфига прокси, и LiteLLM будет слать Anthropic-запросы на https://api.apitoken.sale.
Сохраняется ли префикс anthropic/ у моделей?
Да. Используйте anthropic/claude-opus-4-8 (или любую поддерживаемую модель), чтобы LiteLLM применял протокол Anthropic; меняются только эндпоинт и ключ.
Работает ли это для инструментов поверх LiteLLM?
Да — всё, что маршрутизируется через LiteLLM (включая многие кодинг-агенты), наследует дисконтный эндпоинт из той же конфигурации.
Проверьте до оплаты: новые аккаунты через Google/GitHub получают $10 использования Claude.