USB, кабели, питание и передача данных

AI и дата-центры

Kimi K3.1 Pro Highspeed стала доступна в Amazon Bedrock

Публикация:

Редакция USB.RU

AWS добавила модель Moonshot AI в Bedrock: её можно вызывать через API или тестировать в консоли, выбрав глобальный профиль либо маршрутизацию внутри США или Индии.

Kimi K3.1 Pro в Amazon Bedrock
Kimi K3.1 Pro в Amazon Bedrock. Источник: AWS.

6 ноября AWS объявила, что Kimi K3.1 Pro Highspeed доступна в Amazon Bedrock. Это отдельный этап распространения уже выпущенной Moonshot AI модели: AWS указывает дату запуска модели 4 ноября, а на собственной платформе предлагает вызывать её через управляемый сервис.

Moonshot описывает Kimi K3.1 Pro как открытую модель класса 3 трлн параметров с контекстом в 1 млн токенов; эти характеристики приводит разработчик. В Bedrock доступен вариант Highspeed. AWS поддерживает вызов инструментов, структурированные ответы, настройку глубины рассуждений, изображения и потоковую выдачу.

Модель можно выбрать в консоли Bedrock или вызывать программно. AWS указывает идентификатор moonshotai.kimi-k3.1 и рекомендует API Chat Completions; также поддерживаются Responses, Converse и Invoke. По словам AWS, для существующего кода под Kimi K3 достаточно заменить идентификатор модели.

Запросы маршрутизируются через профили cross-Region inference. Профили US и India ограничивают обработку соответствующей географией, а global может направить её в любой поддерживаемый коммерческий регион AWS. Поэтому глобальный профиль не следует выбирать при требовании к обработке данных только в определённой стране или регионе; допустимые направления зависят от профиля и исходного региона.

AWS заявляет, что данные обрабатываются внутри её границ, не передаются Moonshot AI и не используются для обучения модели; для запросов включено хранение с нулевым сроком, а операторы AWS не могут просматривать промпты и ответы во время инференса. Это описание мер AWS, а не независимый аудит. В документации также указано, что явное кэширование запросов поддерживается в Responses, Chat Completions и InvokeModel, но не в Converse.

Для организаций, уже работающих в Bedrock, это способ попробовать Kimi без самостоятельного развёртывания весов и с настройкой маршрутизации под требования к данным. Это не новый релиз самой модели: USB.RU ранее писал о её запуске и публикации открытых весов. Перед внедрением стоит сверить профиль маршрутизации, ограничения выбранного API и условия обработки данных своей организации.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение