apiToken.sale против LiteLLM
Когда ищут альтернативу LiteLLM, обычно нужно одно из двух: единый API-слой без собственного прокси или более дешёвые токены. apiToken.sale закрывает оба запроса — это хостируемый эндпоинт, где один предоплаченный ключ покрывает поддерживаемые модели GPT и Gemini с фиксированной B2C-скидкой 50%. LiteLLM выигрывает, когда вы осознанно хотите владеть слоем маршрутизации.
·
Короткий ответ: прокси под вашим управлением против готового эндпоинта
LiteLLM — это ПО: опенсорсный прокси, который вы разворачиваете перед аккаунтами провайдеров, пополняемыми вами. apiToken.sale — это сервис: хостируемый предоплаченный эндпоинт, где ключ и баланс и есть продукт. Если цель — доступ к GPT и Gemini со скидкой без какой-либо инфраструктуры, один LiteLLM до неё не доведёт; если цель — собственный слой маршрутизации поверх множества провайдеров, apiToken.sale на это и не претендует.
| LiteLLM | apiToken.sale | |
|---|---|---|
| Что это | Self-hosted библиотека и прокси-сервер | Хостируемый API-эндпоинт для GPT и Gemini |
| Кто обслуживает инфраструктуру | Вы: процесс, аптайм, обновления | apiToken.sale |
| Откуда берутся ключи | Вы сами открываете и пополняете аккаунт каждого провайдера | Один предоплаченный ключ покрывает поддерживаемые модели GPT и Gemini |
| Протокол | Какой настроите на апстриме | OpenAI-совместимый на https://router.apitoken.sale/v1 с Bearer; нативный Gemini на https://router.apitoken.sale с x-goog-api-key |
| Влияние на стоимость токенов | Никакого — апстрим выставляет счёт по прайсу | Фиксированная B2C-скидка 50% от официальных тарифов провайдеров |
| Кому подходит | Командам, стандартизирующим множество провайдеров за одним внутренним шлюзом | Тем, кому нужен доступ к GPT и Gemini вообще без инфраструктуры |
Читайте также: apiToken.sale против Portkey: поставщик ключей против AI-шлюза
Что даёт LiteLLM — и чего не даст никогда
LiteLLM решает задачу интеграции, а не закупки. Он нормализует десятки API провайдеров под один вызов в стиле OpenAI, а режим прокси добавляет маршрутизацию, ретраи, фолбэки, виртуальные ключи и учёт расходов по каждому ключу — всё внутри вашего развёртывания. Это действительно полезно, когда несколько команд работают через общий шлюз.
Чего он не делает — так это не удешевляет сами токены. Каждый апстрим-ключ за прокси — это ваш аккаунт, который OpenAI или Google тарифицируют по прайсу. Прокси стоит между вами и счётом; уменьшить счёт он не может.
- Аккаунты провайдеров, их пополнение и управление квотами остаются на вас.
- Сам процесс прокси вы хостите, патчите и защищаете сами.
- Механизма скидок нет — стоимость проходит сквозь прокси без изменений.
Откуда на самом деле берётся скидка 50%
Скидка — не трюк маршрутизации. apiToken.sale держит общий предоплаченный баланс, тарифицирует каждый запрос по официальным прайсам провайдеров — входные, выходные и кеш-токены — и затем вычитает фиксированную B2C-скидку 50%, прежде чем списать средства с вашего баланса. LiteLLM, напротив, нейтрален к стоимости: он пересылает запрос, а апстрим берёт столько, сколько берёт.
Поэтому сравнение слегка нечестно к обоим инструментам. LiteLLM решает, куда пойдёт запрос; apiToken.sale — сколько этот запрос будет стоить. Они работают на разных слоях, а потому отлично сочетаются.
Скидка привязана к ключу, а не к клиенту. Прямые вызовы OpenAI SDK, Google SDK, curl, coding agent или LiteLLM-прокси перед эндпоинтом — списание одно и то же, с учётом скидки, и видно по каждому запросу в панели apiToken.sale.
Гибрид: LiteLLM перед ключом apiToken.sale
Если вы уже стандартизировались на интерфейсе LiteLLM, отказываться от него ради скидки не нужно. Объявите apiToken.sale как OpenAI-совместимый апстрим — и каждый вызов GPT или Gemini через ваш прокси попадёт на эндпоинт со скидкой:
# config.yaml
model_list:
- model_name: gpt-6.1-terra
litellm_params:
model: openai/gpt-6.1-terra
api_base: https://router.apitoken.sale/v1
api_key: sk-pool-••• # or os.environ/APITOKEN_KEY
- model_name: gemini-3.8-flash
litellm_params:
model: openai/gemini-3.8-flash
api_base: https://router.apitoken.sale/v1
api_key: sk-pool-•••- 01Установите прокси как обычно: pip install 'litellm[proxy]'.
- 02Сохраните конфиг выше. Префикс openai/ в имени модели заставляет LiteLLM говорить с эндпоинтом по OpenAI-совместимому протоколу; роутер apiToken.sale сам определяет провайдера по ID модели, поэтому Gemini работает на том же api_base.
- 03Запустите: litellm --config config.yaml. По умолчанию прокси слушает http://localhost:4000.
- 04Направьте существующие клиенты LiteLLM на модель gpt-6.1-terra или gemini-3.8-flash. Запросы пойдут на router.apitoken.sale под вашим ключом sk-pool, а скидка 50% применится на стороне apiToken.sale.
Не коммитьте ключ в файлы — синтаксис os.environ/VARIABLE в LiteLLM читает его из окружения. И учтите разделение ролей: встроенный учёт расходов LiteLLM показывает, что переслал прокси, но авторитетное списание — это потокенная тарификация в панели apiToken.sale.
Счёт за эксплуатацию, который выставляет LiteLLM
Свой прокси — серьёзное обязательство, и его стоит честно оценить, прежде чем выбирать его из соображений экономии. Кто-то должен держать процесс живым, обновлять версии, ротировать мастер-ключ, хранить секреты всех апстрим-провайдеров и масштабировать развёртывание по мере роста трафика. Соло-разработчику, которому просто нужен GPT или Gemini в редакторе или агентном цикле, эти накладные расходы не дают ничего.
С apiToken.sale вся интеграция — это base URL и ключ: OpenAI-совместимая линия на https://router.apitoken.sale/v1 с Authorization: Bearer или нативный Gemini API на https://router.apitoken.sale с заголовком x-goog-api-key. Codex CLI, Cursor, официальные SDK OpenAI и Google и всё OpenAI-совместимое подключаются без прослойки-адаптера.
Как выбрать
- Выберите apiToken.sale, если нужен хостируемый доступ к GPT и Gemini со скидкой, а единственное, что вы готовы поменять, — это base URL и ключ.
- Выберите LiteLLM, если осознанно хотите владеть единым слоем маршрутизации поверх множества провайдеров — и готовы сами пополнять и обслуживать всё это.
- Используйте оба, если уже полагаетесь на интерфейс LiteLLM: поставьте за ним ключ apiToken.sale и сохраните скидку под капотом.
Частые вопросы
Даёт ли LiteLLM скидку на GPT или Gemini API?
Нет. LiteLLM маршрутизирует запросы к аккаунтам провайдеров, которые вы пополняете сами по прайсу. Скидка 50% исходит из общего предоплаченного баланса apiToken.sale и применяется к официальным тарифам провайдеров независимо от того, какой клиент отправляет запрос.
Нужно ли что-то хостить с apiToken.sale?
Нет — это хостируемый эндпоинт. Вы меняете base URL на https://router.apitoken.sale/v1 и используете свой ключ sk-pool; никакого процесса прокси, контейнера или сервера поднимать не нужно.
Можно ли использовать LiteLLM с ключом apiToken.sale?
Да. Укажите model: openai/gpt-6.1-terra с api_base: https://router.apitoken.sale/v1 и вашим ключом в litellm_params — и вызовы через ваш прокси LiteLLM будут тарифицироваться со скидкой. Gemini-модели подключаются так же, например openai/gemini-3.8-flash.
Бесплатен ли LiteLLM?
Само ПО — опенсорс, но «бесплатно» здесь обманчиво: вы по-прежнему платите каждому апстрим-провайдеру по прайсу плюс оплачиваете инфраструктуру и поддержку самого прокси. Стоимость токенов — доминирующая статья расходов — это ровно то, что apiToken.sale делит пополам.
Что лучше для Codex CLI или Cursor?
Направить инструмент напрямую на apiToken.sale проще: один base URL и ключ, протокол провайдера, без лишнего хопа. Добавлять LiteLLM между ними имеет смысл, только если он у вас уже есть для других задач — например, общих виртуальных ключей на команду.
Создайте аккаунт, пополните баланс и выпустите API-ключ для поддерживаемых моделей GPT и Gemini.