USB, кабели, питание и передача данных

AI-модели

OpenAI снижает цену токенов до 40% для запросов с отложенным ответом

Публикация:

Редакция USB.RU

В Responses API можно выбрать окно первого ответа на два или восемь часов. Скидка действует на токены модели, в том числе в подходящих продолжениях агентной задачи.

Пример запроса Responses API с восьмичасовым окном первого ответа
Пример запроса с окном первого ответа 8h. Изображение: OpenAI.

OpenAI добавила в фоновый режим Responses API скидки для задач, которым не нужен немедленный ответ. При выборе двухчасового окна цена токенов модели на 30% ниже Standard, восьмичасового - на 40%. Это публичная бета для GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra и GPT-6 Luna.

Окно относится к первому ответу

Срок отсчитывается после того, как API примет начальный запрос. Выбранное окно задаёт целевой срок готовности именно первого ответа, а не всей цепочки действий агента. Например, можно отправить заметки вечером и попросить подготовить утреннюю сводку.

Если модель запросит результат работы инструмента, приложение выполнит этот шаг и отправит продолжение. Для повышенного приоритета таких запросов в очереди нужно сохранить те же проект, модель, окно и continuation_id. Скидка на токены распространяется и на подходящие продолжения.

Как включается скидка

В запросе задают background=true и background_options.completion_window со значением 2h или 8h. Потоковую выдачу нужно выключить. Скидочные окна требуют Standard: его можно явно выбрать через service_tier=default. При auto скидка сработает только в случае выбора Standard самим API.

Без выбора окна используется soonest: запрос выполняется в фоне, но скидки за ожидание нет. Независимые задания, которые можно отправить заранее одним набором, OpenAI по-прежнему предлагает передавать через Batch API. У окон 2h и 8h общий лимит Batch/Background с пакетными заданиями.

Хранение данных остаётся частью фонового режима

Background временно хранит данные ответа даже при store=false или Zero Data Retention. Документация указывает, что временно сохранённое содержимое запросов зашифровано при хранении для всех окон. Кеш запросов из окон 2h и 8h нельзя повторно использовать в обычных запросах Standard за пределами этих скидочных окон.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение