AI модели, агенты и вычисления
GPT-6.1 Sol получила режим Ultrafast в API OpenAI
Публикация:
OpenAI добавила Ultrafast для GPT-6.1 Sol в Responses API. Обновление от 8 октября позволяет запросить ускоренный режим через параметр `service_tier: "ultrafast"`. Компания описывает его как способ сократить интервалы между выдаваемыми токенами.
В журнале изменений доступ указан для всех пользователей API с учётом ограничений частоты запросов. Упомянуты глобальная обработка и варианты размещения данных в США и ЕС. Тарифы ускоренного режима опубликованы отдельно от обычной цены модели. Источник: журнал API OpenAI.
Для разработчика это ещё один параметр выбора между задержкой и стоимостью. Сравнивать режимы полезно на одинаковой задаче: короткий ответ для интерфейса, извлечение сведений из документа или длинный разбор. Результат такого сравнения должен включать качество ответа и фактическую стоимость запроса.
Интервал между токенами и время до готового ответа требуют отдельных измерений. Время поиска, вызовов инструментов и проверки результата тоже входит в ожидание пользователя. Поэтому один показатель скорости генерации не описывает весь процесс работы агента. Документация Ultrafast.
Разобраться в сравнении расходов поможет руководство по стоимости AI-задачи. Для подбора модели и провайдера есть практический материал об OpenRouter.