Batch pipeline генерации изображений, который не выйдет за бюджет

Очередь с одним изображением на задачу

GPT Image 2, GPT Image 2.5 Flare и GPT Image 2.5 Sunburst используют одни маршруты OpenAI Images, ключ и предоплаченный баланс. Flare подходит для быстрой повседневной работы, Sunburst — для более точного редактирования. Сравнивайте модели по результатам, которые прошли вашу проверку. У всех трёх одинаковые опубликованные ставки за токены.

Используйте n=1 для каждой задачи очереди, чтобы отслеживать изображение и его стоимость. Images принимает n=1..10 и выполняет последовательные нативные вызовы; это не асинхронный batch-сервис. Порядок очереди, параллелизм, повторы и бюджет контролирует ваше приложение.

Читайте также: Как на самом деле устроена цена API генерации изображений

Один durable job на ассет, а не на prompt

1. 01Создайте stable asset ID и immutable brief — prompt, references, protected traits — до того, как что-либо попадёт в queue.
2. 02Зафиксируйте в job payload model, protocol, output size и maximum attempts, чтобы retry воспроизводил то же решение, а не принимал новое.
3. 03Дайте каждому worker ограниченный срез queue и резервируйте один provider request на один candidate; не просите модель о внутреннем batch.
4. 04Атомарно сохраняйте request ID, terminal usage, output checksum и validation verdict вместе с версией ассета.
5. 05Завершайте job только после того, как storage и downstream publication подтвердили одну и ту же версию ассета.

Бюджет по измеренному расходу токенов

Например, редактирование с 900 свежими текстовыми входными токенами, 1 200 входными токенами изображения и 4 000 выходными токенами изображения стоит $0.1341 официально, или $0.06705 для обычного B2C. Число токенов в примере не гарантируется для каждой картинки. Для своих расчётов используйте итоговый usage и списание по соответствующему запросу.

Для каталога или пакетной обработки разделите все списания на число принятых изображений. Включайте оплаченные результаты, которые не прошли проверку. У GPT Image нет бесплатного countTokens: измерьте небольшую оплачиваемую выборку и задайте лимит расхода до запуска очереди.

Ограничьте каждый множитель, а не только цену

Lifetime spending limit ключа — последняя денежная граница, если откажут все application-level guardrails. Ставьте его равным бюджету кампании плюс измеренный запас, а не балансу аккаунта.

Правила retry, cooling и observability

• Никогда не делайте retry после доставки image bytes или complete provider response — такой retry оплачивает второй candidate, а не восстановление.
• Ambiguous timeout — это reconciliation: сверьте request ID с charge в дашборде, прежде чем решить, что billable generation не было.
• На 429 соблюдайте Retry-After, provider cooling и jitter в пределах total deadline; немедленный fan-out усиливает capacity event.
• Считайте attempts, accepted assets, settled nanoUSD и причины validation failures; не допускайте prompts и keys в metrics.
• Алертьте на cost per accepted asset и failure share, а не только на HTTP success rate — полностью зелёный batch может оказаться дорогим.

Settled cost per accepted asset — реальная unit economics batch: она складывает token price, resolution, retries и quality rejects в единственное число, которое бизнес действительно покупает.

Изолируйте batch lane отдельным ключом и бюджетом

Запускайте batch worker на dedicated key с lifetime spending limit и expiration date: тогда баг в queue потратит максимум бюджет кампании, но не аккаунт. Prepaid balance не сгорает, а подписки, которую нужно подбирать по объёму, нет.

• Один ключ на workload: batch generation никогда не делит ключ с interactive или editing трафиком.
• Сверяйте каждый settled charge с его request ID до закрытия кампании.
• Перепроверяйте lifetime spending limit перед каждой новой кампанией, а не один раз при настройке.

Prepaid-тарифы без сгорания: вносите ровно бюджет кампании →

Частые вопросы

Похожие гайды