USB, кабели, питание и передача данных

AI и дата-центры

NVIDIA передала OpenShell фонду CNCF: защита ИИ-агентов получила открытое управление

Публикация:

Редакция USB.RU

OpenShell стал Sandbox-проектом CNCF, а NVIDIA добавила Kubernetes Engine, Recipes и Snapshot для ИИ-фабрик. В тесте Crusoe нагрузка стала готова за 31 секунду вместо примерно восьми минут.

Схема программного стека NVIDIA DSX AI Factory Platform
Стек NVIDIA DSX AI Factory Platform. Изображение: NVIDIA.

На KubeCon + CloudNativeCon NVIDIA передала Cloud Native Computing Foundation свой проект OpenShell - открытую среду выполнения для защиты и управления автономными ИИ-агентами. В CNCF он вошёл как Sandbox-проект. Там же NVIDIA показала новые компоненты платформы DSX AI Factory для запуска ИИ на Kubernetes.

Что делает OpenShell

OpenShell задаёт детерминированные ограничения для действий агента: команды применяют политики, когда агент вызывает инструменты, обращается к сервисам вывода и запускает нагрузки. Проверки выполняются вне самого агента, прямо в инфраструктуре, где он работает. Хранилища секретов, провайдеров вывода, вычислений и мониторинга организации подключают свои.

Языком политик в OpenShell станет Cedar - ещё один проект CNCF. С самого начала в разработке участвуют инженеры NVIDIA, Red Hat, Docker и Canonical. По данным NVIDIA, проектом пользуются сотни организаций, а за неполный год после запуска он получил десятки тысяч вкладов.

Что меняется после передачи

OpenShell уходит из репозитория NVIDIA на GitHub в нейтральную организацию ai-openshell. Проект принял кодекс поведения CNCF, ведёт публичный процесс RFC и работает по модели управления с обязательствами о нейтральности к вендорам. Вокруг компонентов и сквозных тем, например наблюдаемости, появятся рабочие группы. Основную разработку NVIDIA продолжит.

Участников зовут писать реализации расширений для вычислений, секретов, вывода и журналов, делиться шаблонами политик и правил исходящего трафика, расширять поддержку Linux, macOS и Kubernetes и согласовать метрики и трассы с OpenTelemetry.

Агенты на Kubernetes и ИИ-фабрики

NVIDIA также вкладывается в Agent Substrate - проект под руководством Google, который уже принят в CNCF Sandbox. Он сохраняет окружения агентов между задачами и освобождает вычисления, пока агенты простаивают. NVIDIA настраивает его работу с Dynamo для вывода моделей и KAI Scheduler для распределения ресурсов кластера, а вместе с Google готовит интеграцию с OpenShell.

Для провайдеров ИИ-фабрик компания открыла три проекта. NVIDIA Kubernetes Engine и Kubernetes Recipes доступны в публичном превью: они автоматизируют жизненный цикл кластеров и дают подписанные образы с фиксированными версиями. Интеграцию планируют Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud и vCluster, а также Firmus и SK Telecom.

Третий проект, NVIDIA Snapshot, восстанавливает контрольные точки реплик за секунды, без повторной загрузки модели и прогрева. Crusoe проверила его на системах HGX B300 с GLM-5.3: время до готовности нагрузки сократилось примерно с восьми минут до 31 секунды.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение