AI и дата-центры
Google открыла журналирование метаданных запросов в Gemini Agent Platform
Публикация:
В Gemini Enterprise Agent Platform стала общедоступна запись метаданных поддерживаемых inference-запросов в Cloud Logging: она показывает модель, регион, расход токенов, задержку и ошибки, но не сохраняет текст запросов и ответов.
30 октября Google перевела inference request metadata logging в общий доступ (GA). После включения функции платформа может создавать запись Cloud Logging для каждого поддерживаемого запроса, обслуженного проектом. В записи указываются модель, регион, вариант потребления, счётчики токенов, использование Provisioned Throughput, задержка и код ошибки.
Журнал содержит метаданные, а не содержимое диалога: промпты и ответы в него не попадают. Функция поддерживает вызовы Gemini через `generateContent` и `streamGenerateContent`, а Claude — через `rawPredict` и `streamRawPredict`; это не журналирование любого API-вызова или любой модели в Google Cloud.
Администратор может включить сбор в консоли Google Cloud, на странице Provisioned Throughput или через REST API. При включении через консоль также активируются подробные метрики; для атрибуции нагрузки команде, приложению или арендатору можно добавить специальные заголовки запроса, а записи анализировать SQL-запросами в Observability Analytics.
Для команд, эксплуатирующих модели в Agent Platform, такие записи помогают разбирать задержки и ошибки, а также связывать потребление с конкретной моделью и внутренней командой — без сбора текста пользовательских запросов. Это инструмент наблюдаемости, а не аудит содержимого ответов. Ранее Google Cloud описала отдельную изолированную среду для агентного кода — Agent Compute Engine — и добавила потоковую передачу данных в API Gateway; эти возможности решают другие задачи и не являются условием для журналирования.