AI и дата-центры
Kimi K3.1 Pro Highspeed стала доступна в Amazon Bedrock
Публикация:
AWS добавила модель Moonshot AI в Bedrock: её можно вызывать через API или тестировать в консоли, выбрав глобальный профиль либо маршрутизацию внутри США или Индии.

6 ноября AWS объявила, что Kimi K3.1 Pro Highspeed доступна в Amazon Bedrock. Это отдельный этап распространения уже выпущенной Moonshot AI модели: AWS указывает дату запуска модели 4 ноября, а на собственной платформе предлагает вызывать её через управляемый сервис.
Moonshot описывает Kimi K3.1 Pro как открытую модель класса 3 трлн параметров с контекстом в 1 млн токенов; эти характеристики приводит разработчик. В Bedrock доступен вариант Highspeed. AWS поддерживает вызов инструментов, структурированные ответы, настройку глубины рассуждений, изображения и потоковую выдачу.
Модель можно выбрать в консоли Bedrock или вызывать программно. AWS указывает идентификатор moonshotai.kimi-k3.1 и рекомендует API Chat Completions; также поддерживаются Responses, Converse и Invoke. По словам AWS, для существующего кода под Kimi K3 достаточно заменить идентификатор модели.
Запросы маршрутизируются через профили cross-Region inference. Профили US и India ограничивают обработку соответствующей географией, а global может направить её в любой поддерживаемый коммерческий регион AWS. Поэтому глобальный профиль не следует выбирать при требовании к обработке данных только в определённой стране или регионе; допустимые направления зависят от профиля и исходного региона.
AWS заявляет, что данные обрабатываются внутри её границ, не передаются Moonshot AI и не используются для обучения модели; для запросов включено хранение с нулевым сроком, а операторы AWS не могут просматривать промпты и ответы во время инференса. Это описание мер AWS, а не независимый аудит. В документации также указано, что явное кэширование запросов поддерживается в Responses, Chat Completions и InvokeModel, но не в Converse.
Для организаций, уже работающих в Bedrock, это способ попробовать Kimi без самостоятельного развёртывания весов и с настройкой маршрутизации под требования к данным. Это не новый релиз самой модели: USB.RU ранее писал о её запуске и публикации открытых весов. Перед внедрением стоит сверить профиль маршрутизации, ограничения выбранного API и условия обработки данных своей организации.