Искусственный интеллект
Anthropic открыла beta Message Threads для длинных запросов к Claude
Публикация:
В публичной beta Messages API клиенты могут передавать историю разговора один раз, а затем отправлять только новые сообщения. Anthropic сообщает о снижении медианной задержки до первого токена примерно на 35% для запросов размером 500 тыс.–1 млн токенов; расход токенов при этом не меняется.
2 ноября Anthropic открыла публичную beta-версию Message Threads для Messages API Claude. Первое обращение создаёт thread и передаёт полный контекст; последующие запросы могут содержать только новые сообщения и идентификатор предыдущего ответа. Функция доступна через Claude API, Claude Platform on AWS, Claude in Microsoft Foundry и Claude Models on Google Cloud под управлением Anthropic.
Механизм уменьшает объём повторно отправляемых данных и может сократить время до первого токена (TTFT) в длинных сессиях. Anthropic сообщает, что для запросов размером 500 тыс.–1 млн токенов медианное TTFT снизилось примерно на 35% в Claude Code, где Message Threads включена по умолчанию для большинства пользователей. Это оценка компании, а не независимый тест.
Ускорение не означает экономию на генерации: Claude по-прежнему читает всю историю диалога на каждом ходе, поэтому расход токенов остаётся прежним. Действуют стандартные тарифы и лимиты API; сокращается повторная передача контекста, а не его обработка моделью.
Anthropic держит thread в зашифрованной памяти и не записывает его на диск. Он истекает через пять минут после последнего запроса; затем клиенту нужно снова передать полный разговор. Поэтому функция рассчитана прежде всего на активные циклы агента, где к контексту постоянно добавляются ответы инструментов, а не на длительное хранение сессии на сервере.
По описанию Anthropic, Message Threads особенно полезна для длительных задач кодовых и компьютерных агентов, а также для документных и мультимодальных сценариев: запросы становятся меньше по размеру. Чтобы продолжить существующую интеграцию, разработчикам важно учитывать короткий срок жизни thread и сохранять собственную историю диалога для повторной отправки после паузы.
Это изменение относится к API, а не к обычному приложению Claude. Оно может уменьшить задержку старта ответа при длинном контексте, но не снижает стоимость токенов и не отменяет лимиты. Соседние изменения для разработчиков мы разбирали в заметках о версии Claude API и SDK и о увеличении лимита размера запроса Messages API.