apiToken.sale против LiteLLM

Короткий ответ: прокси под вашим управлением против готового эндпоинта

LiteLLM — это ПО: опенсорсный прокси, который вы разворачиваете перед аккаунтами провайдеров, пополняемыми вами. apiToken.sale — это сервис: хостируемый предоплаченный эндпоинт, где ключ и баланс и есть продукт. Если цель — доступ к Claude со скидкой без какой-либо инфраструктуры, один LiteLLM до неё не доведёт; если цель — собственный слой маршрутизации поверх множества провайдеров, apiToken.sale на это и не претендует.

Читайте также: apiToken.sale против Portkey: поставщик ключей против AI-шлюза

Что даёт LiteLLM — и чего не даст никогда

LiteLLM решает задачу интеграции, а не закупки. Он нормализует десятки API провайдеров под один вызов в стиле OpenAI, а режим прокси добавляет маршрутизацию, ретраи, фолбэки, виртуальные ключи и учёт расходов по каждому ключу — всё внутри вашего развёртывания. Это действительно полезно, когда несколько команд работают через общий шлюз.

Чего он не делает — так это не удешевляет сами токены. Каждый апстрим-ключ за прокси — это ваш аккаунт, который Anthropic, OpenAI или Google тарифицируют по прайсу. Прокси стоит между вами и счётом; уменьшить счёт он не может.

• Аккаунты провайдеров, их пополнение и управление квотами остаются на вас.
• Сам процесс прокси вы хостите, патчите и защищаете сами.
• Механизма скидок нет — стоимость проходит сквозь прокси без изменений.

Откуда на самом деле берётся скидка 50%

Скидка — не трюк маршрутизации. apiToken.sale держит общий предоплаченный баланс, тарифицирует каждый запрос по официальным прайсам провайдеров — входные, выходные и кеш-токены — и затем вычитает фиксированную B2C-скидку 50%, прежде чем списать средства с вашего баланса. LiteLLM, напротив, нейтрален к стоимости: он пересылает запрос, а апстрим берёт столько, сколько берёт.

Поэтому сравнение слегка нечестно к обоим инструментам. LiteLLM решает, куда пойдёт запрос; apiToken.sale — сколько этот запрос будет стоить. Они работают на разных слоях, а потому отлично сочетаются.

Скидка привязана к ключу, а не к клиенту. Прямые вызовы Anthropic SDK, curl, coding agent или LiteLLM-прокси перед эндпоинтом — списание одно и то же, с учётом скидки, и видно по каждому запросу в панели apiToken.sale.

Гибрид: LiteLLM перед ключом apiToken.sale

Если вы уже стандартизировались на интерфейсе LiteLLM, отказываться от него ради скидки не нужно. Объявите apiToken.sale как Anthropic-апстрим — и каждый вызов Claude через ваш прокси попадёт на эндпоинт со скидкой:

# config.yaml
model_list:
  - model_name: claude-opus-4-8
    litellm_params:
      model: anthropic/claude-opus-4-8
      api_base: https://router.apitoken.sale
      api_key: sk-pool-•••  # or os.environ/APITOKEN_KEY

1. 01Установите прокси как обычно: pip install 'litellm[proxy]'.
2. 02Сохраните конфиг выше. Оставьте префикс anthropic/ в имени модели — именно он заставляет LiteLLM говорить с эндпоинтом по Anthropic Messages API.
3. 03Запустите: litellm --config config.yaml. По умолчанию прокси слушает http://localhost:4000.
4. 04Направьте существующие клиенты LiteLLM на модель claude-opus-4-8. Запросы пойдут на router.apitoken.sale под вашим ключом sk-pool, а скидка 50% применится на стороне apiToken.sale.

Не коммитьте ключ в файлы — синтаксис os.environ/VARIABLE в LiteLLM читает его из окружения. И учтите разделение ролей: встроенный учёт расходов LiteLLM показывает, что переслал прокси, но авторитетное списание — это потокенная тарификация в панели apiToken.sale.

Счёт за эксплуатацию, который выставляет LiteLLM

Свой прокси — серьёзное обязательство, и его стоит честно оценить, прежде чем выбирать его из соображений экономии. Кто-то должен держать процесс живым, обновлять версии, ротировать мастер-ключ, хранить секреты всех апстрим-провайдеров и масштабировать развёртывание по мере роста трафика. Соло-разработчику, которому просто нужен Claude в редакторе или агентном цикле, эти накладные расходы не дают ничего.

С apiToken.sale вся интеграция — это base URL и ключ: нативный эндпоинт Anthropic Messages на https://router.apitoken.sale с заголовком x-api-key или OpenAI-совместимая линия на https://router.apitoken.sale/v1 с Authorization: Bearer для инструментов, которые знают только этот протокол. Claude Code, Cursor, SDK Anthropic и всё OpenAI-совместимое подключаются без прослойки-адаптера.

Смотрите модели, которые покрывает один ключ →

Как выбрать

• Выберите apiToken.sale, если нужен хостируемый доступ к Claude со скидкой, а единственное, что вы готовы поменять, — это base URL и ключ.
• Выберите LiteLLM, если осознанно хотите владеть единым слоем маршрутизации поверх множества провайдеров — и готовы сами пополнять и обслуживать всё это.
• Используйте оба, если уже полагаетесь на интерфейс LiteLLM: поставьте за ним ключ apiToken.sale и сохраните скидку под капотом.

Частые вопросы

Похожие гайды