USB, кабели, питание и передача данных

Искусственный интеллект

Arm показала программный стек для агентного ИИ на AGI CPU

Публикация:

Редакция USB.RU

В техническом блоге Arm описала, как на AGI CPU могут работать оркестрация агентов, вызов инструментов, поиск данных и обслуживание моделей. Компания также представила демонстрационное приложение поддержки клиентов и сослалась на собственное сравнение производительности серверных стоек.

Диаграмма Arm с уровнями программного стека агентного ИИ: приложения, оркестрация, среды выполнения и облачная инфраструктура
Программный стек агентного ИИ. Изображение: Arm.

Arm описала программный стек вокруг своего серверного процессора AGI CPU: от фреймворков оркестрации до хранения состояния агента, поиска по данным и запуска моделей. В качестве примеров компания перечисляет LangGraph и LangChain, Redis и Elasticsearch, Firecracker и vLLM. Это обзор совместимых компонентов и работ по оптимизации для процессоров Arm, а не заявление о едином готовом программном продукте.

В демонстрации Arm несколько агентов обрабатывают обращения клиентов на CPU: небольшая языковая модель классифицирует запрос и направляет его специализированному агенту, например для расписания, жалобы, вопроса о продукте или возврата. Сценарий сочетает локальный вывод модели, поиск по корпоративным данным, внешние API и выполнение инструментов. Это показанная компанией демонстрация, а не оценка независимого внедрения у заказчика.

Arm также указывает на результаты испытаний для своего AGI CPU: по данным компании, новая методика оценки, представленная на OCP Global Summit при поддержке Fujitsu, Meta и OpenAI, показала до двукратной производительности на стойку относительно ведущего x86-серверного процессора. В публикации нет полного набора условий сравнения и данных для самостоятельного воспроизведения, поэтому показатель следует считать заявленным результатом, а не универсальным преимуществом для любой нагрузки.

Материал полезен разработчикам и операторам, оценивающим программную совместимость агентных приложений с Arm64. Однако он не подтверждает, что перечисленные инструменты одинаково готовы для всех сред или что демонстрационный сценарий уже доступен как продукт; перед выбором платформы стоит проверять поддержку конкретных библиотек и измерять собственную нагрузку.

Все новости →

Ещё на USB.RU

Статьи →

Объяснения и инструкции

Справочники →

Термины и стандарты

Инструменты →

Проверки и практические материалы

Подготавливаем выбранный материал…

Продолжить чтение