AI Platform Docs
Пользователям

Активность и потребление

Метрики LLM, обращения к агентам и журнал запросов в Control Plane: выбор данных, диагностика и ограничения учёта.

Для чего нужен раздел

Раздел «Активность и потребление» в Control Plane помогает понять, какие ключи, агенты и модели потребляют токены, когда появляются ошибки и какие запросы выполняются дольше остальных. Данные ограничены вашими текущими правами. Денежная стоимость и остаток квоты здесь не рассчитываются.

Откройте Control Plane по адресу вашей среды, войдите и выберите «Активность и потребление» в меню. Прямой путь раздела — /activity. На странице две вкладки:

ВкладкаЧто учитывается
LLM-потреблениеЛогические запросы к моделям через Gateway: количество, известные токены, исходы и время ответа
Обращения к агентамЗавершённые HTTP-обращения через Gateway к поддержанным A2A-операциям агента: количество, HTTP-ошибки, отказы и длительность

Обращение к агенту может привести к нескольким LLM-запросам или обойтись без LLM. Поэтому числа на двух вкладках не обязаны совпадать. Между отдельным обращением к агенту и его LLM-запросами связь в этой версии не строится.

Первый просмотр

  1. Оставьте вкладку «LLM-потребление» и период «24 часа» или выберите «7 дней», «30 дней». Можно указать «Начало периода» и «Окончание периода» вручную.
  2. Проверьте «Область доступа». Для общего обзора оставьте «Все доступные агрегаты».
  3. Выберите «Метрику графика и таблицы», например «Известные токены».
  4. В «Разрезе 1» выберите «Агент», а в «Разрезе 2» — «Модель», если эти значения доступны вашему пользователю.
  5. Сравните сводные карточки, график и таблицу «По разрезам». Перед выводами прочитайте сведения о свежести, пропусках и покрытии показателей.

Поля дат показывают местное время браузера; название часового пояса указано рядом. Границы минут, часов и дней для графика рассчитываются в UTC. Для кнопки «30 дней» начало округляется до доступного часа внутри срока хранения; фактические даты всегда показаны в полях.

История доступна в пределах последних 30 дней. Начало доступного периода указано над результатами; время до включения сбора не заполняется задним числом. Чтобы получить новые данные, нажмите «Обновить». Период, фильтры и разрезы сохраняются в адресе страницы, но повторное открытие ссылки заново проверяет права и читает актуально доступные данные.

Метрика, разрез и фильтр

ТерминЗначениеПример
МетрикаКакую величину считаемИзвестные токены, количество запросов, доля ошибок
РазрезПо какому признаку разделяем выбранные данные на группыОтдельная строка для каждого ключа или каждой пары «агент × модель»
ФильтрКакие записи оставляем перед расчётомТолько ключ А, модель Б или запросы с исходом «Ошибка»
Интервал графикаЗа какой отрезок времени считается одна точкаМинута, час или день
ПокрытиеДля какой части наблюдаемых записей показатель известенДлительность известна для 8 из 10 выбранных запросов

Допустим, за день ключ А израсходовал 120 известных токенов, а ключ Б — 80. Метрика «Известные токены» с разрезом «Ключ» покажет две группы и итог 200. Если добавить фильтр «Ключ: А», останутся только данные А и итог 120. Затем разрез «Модель» покажет, между какими моделями распределились эти 120 токенов. Этот пример показывает потребление, а не остаток лимита ключа.

Откройте «Фильтры ресурсов и исходов», чтобы выбрать нужные значения. Несколько значений одного фильтра объединяются по правилу «ИЛИ», разные фильтры — по правилу «И». Например, ключ А или Б вместе с моделью В оставляют запросы любого из этих ключей именно к модели В. Для поиска значений можно вводить название или идентификатор и нажимать «Следующие значения». Список содержит наблюдаемые доступные значения выбранного периода, а не весь каталог платформы.

Недоступный разрез может означать недостаточные права или несовместимую метрику. В частности, поля ключа и владельца не раскрываются через право только на агрегаты агента. Для возвращения к исходному виду нажмите «Сбросить фильтры».

Группа «Неизвестно» означает, что значение этого признака не определено. Например, запрос пользовательского ключа может не иметь связи с агентом. Это не ошибка само по себе и не означает, что расход токенов неизвестен: значения разрезов и покрытие метрик оцениваются отдельно.

Как читать показатели LLM

ПоказательКак его понимать
LLM-запросыЧисло логических запросов; повторные попытки обращения к провайдеру не создают дополнительные строки запроса
Известные токеныСумма достоверно известных значений расхода; при неполных данных это не гарантированный полный расход
Входные / выходные токеныИзвестный расход на вход и выход модели
Токены из кеша / рассужденийОтдельные показатели, когда источник их сообщает; их не нужно прибавлять к общему числу токенов
Доля ошибок / отказовЧисло соответствующих исходов, делённое на все выбранные LLM-запросы; неизвестные исходы видны в покрытии
Длительность, мсВремя до завершения ответа или потока; показаны среднее, p50 и p95
До первого токена, мсИзмеренное время до первого токена, если оно доступно источнику; отсутствие измерения остаётся «Нет данных»

p50 — медиана, p95 — значение, выше которого находится примерно 5% измеренных длительностей. График и основное значение для длительности показывают p95; подробности содержат покрытие и остальные показатели. Общий p95 рассчитывается по запросам, его нельзя получить усреднением p95 отдельных дней или групп.

По умолчанию длительность LLM считается по запросам с исходом «Успех». Явный фильтр «Исход» задаёт другой набор: например, выберите «Ошибка», чтобы изучить длительность ошибочных запросов. Под показателем указаны исходы, которые участвовали в расчёте. Неизвестный исход, в том числе при недостаточных сведениях о завершении потока, не следует считать успехом или ошибкой.

«Число групп» позволяет показать 5, 10 или 20 основных групп. Их состав выбирается по показателю за весь период, поэтому линии графика не меняют смысл от часа к часу. Остальные группы объединяются в «Остальные». Строка «Итого» включает весь выбранный набор. Итоги и показатели «Остальных» рассчитываются отдельно по исходным данным, включая длительности и покрытие.

Для просмотра точки щёлкните по графику или выберите «Интервал для просмотра и детализации» под ним. Ниже появятся значения за этот интервал в виде таблицы. Неизвестные измерения отображаются разрывами, известные пропуски доставки — выделенными участками.

Почему «Нет данных» не означает ноль

НадписьЧто произошлоКак использовать число
Полные данныеДля учтённого запроса получен согласованный расход и подтверждён охват попытокМожно использовать известный итог этого запроса
Частичные данныеИзвестна только часть расхода или попытокУчитывайте показанную часть; полный расход может быть больше
Расход неизвестен / Нет данныхИсточник не сообщил показатель либо его достоверность не подтвержденаНе заменяйте значение нулём
Противоречивые данныеПолученные значения расхода не согласуютсяПротиворечивые значения исключены из суммы известных токенов; смотрите карточку
0Нулевое значение подтверждено либо выбранный наблюдаемый набор пустДля пустого набора дополнительно проверьте доставку и доступ

Например, последняя попытка запроса могла сообщить 60 токенов, а расход предыдущей попытки остался неизвестным. Эти 60 попадут в известный расход с пометкой о частичных данных. Они не доказывают, что полный расход запроса равен 60 токенам.

Покрытие относится к полученным записям. Даже «полные данные» о токенах конкретного запроса не означают, что платформа получила абсолютно все запросы. Состояние доставки и известные пропуски показываются отдельно над результатами.

Два значения провайдера

«Итоговый провайдер запроса» используется для числа запросов, исходов и длительности. «Провайдер потребления» используется для токенов наблюдаемых попыток. Первое измерение отвечает на вопрос, кто завершил запрос, второе — какому провайдеру относится известный расход. Интерфейс не разрешает несовместимое сочетание метрики и разреза и не подменяет один смысл другим.

В поставляемом профиле наблюдается только последняя попытка обращения к провайдеру. Если перед завершением запроса через Б была попытка к провайдеру А, её расход не восстанавливается. Если последняя попытка сообщила 60 достоверно известных токенов, Б получает один запрос и 60 известных токенов. Расход запроса при этом частичный: расход предыдущей попытки к А неизвестен и не появляется как наблюдавшееся потребление А. Эти 60 токенов не означают полный расход запроса.

В журнале с фильтром «Провайдер потребления» различаются «Токены запроса» и «Токены выбранного провайдера». В данном примере запрос можно найти по наблюдаемому провайдеру Б, но не по предыдущему А. Текущая версия не восстанавливает всю цепочку провайдеров по итоговому событию. Пустой список по провайдеру не доказывает отсутствие потребления, если сведения о попытках неполны.

Какие данные доступны вам

В «Области доступа» есть два варианта:

  • «Все доступные агрегаты» — включает данные, для которых разрешён агрегированный обзор. Например, владелец агента может видеть его расход, не имея права читать журнал служебного ключа.
  • «Данные с доступной детализацией» — оставляет только данные, для которых доступен журнал. После переключения итог может уменьшиться.

Переключение области не выдаёт дополнительных прав. Просмотр агента в каталоге и возможность его вызвать сами по себе не дают доступа к Activity. Администратор с соответствующими полномочиями видит общую картину; остальные пользователи видят собственные и явно разрешённые данные.

«Владение ключами → Мои ключи» оставляет ключи, непосредственно принадлежащие вам. Служебный ключ агента принадлежит агенту. Владелец ключа, владелец агента и человек, вызвавший агента, могут быть разными субъектами. Для общего процесса агента инициатор LLM-потребления неизвестен: персонального отчёта о том, какой человек израсходовал токены служебного ключа, здесь нет.

Права проверяются при каждом чтении, переходе на следующую страницу и открытии карточки по известному идентификатору. После отзыва доступа прежняя ссылка не сохраняет разрешение. Отзыв самого ключа прекращает его использование, но не удаляет историю за срок хранения; она остаётся видимой при наличии прав.

От графика к журналу и карточке

  1. Нажмите «Открыть журнал» рядом с итогами, строкой таблицы или выбранным интервалом графика. Период и соответствующие фильтры сохранятся.
  2. Если доступна только часть детализации, ссылка называется «Открыть доступную часть журнала». Его объём может отличаться от агрегатов. Если права на журнал отсутствуют, страница объясняет это вместо перехода.
  3. В «Журнале LLM-запросов» выберите «Порядок запросов»: «Сначала новые», «Сначала старые», «Сначала долгие» или «Сначала быстрые». При необходимости задайте фильтры ресурсов, исходов, точного идентификатора запроса или Trace ID, если он известен.
  4. Нажимайте «Следующие запросы», пока не появится конец доступного списка. Число «Показано» относится к загруженным строкам, а не ко всем совпадениям.
  5. Нажмите идентификатор запроса, чтобы открыть карточку «LLM-запрос».

Одна строка журнала — один логический LLM-запрос. В карточке указаны время, исход, безопасная категория причины, ключ и его владелец, известные связи с агентом, версией, моделью и провайдером, расход и наблюдаемые попытки. При неполном наборе попыток карточка предупреждает об этом. В раскрываемом разделе числовых сведений источника могут присутствовать диагностические счётчики, которые не вошли в итог; не складывайте их повторно.

Группа «Остальные» не раскрывает перечень входящих групп, поэтому отдельного точного перехода в журнал этой группы нет. Можно открыть журнал всего периода и уточнить фильтры. Тексты запросов и ответов, секреты, произвольные заголовки и исходные ошибки провайдера в журнале не показываются.

Обращения к агентам

На этой вкладке доступны число обращений, HTTP-ошибки, отказы Gateway и длительность. Выберите агент или версию агента в фильтре либо используйте эти признаки как два разреза. Здесь нет ключей, моделей, токенов и группировки по вызывающим пользователям.

Обращение означает HTTP-вызов через Gateway, включая поддержанный потоковый ответ. Длительность измеряется до конца ответа или потока. HTTP-статус 200 не подтверждает, что агент успешно выполнил бизнес-задачу: содержимое A2A-задачи и дальнейшая асинхронная работа в этих метриках не учитываются.

HTTP-ошибка и отказ Gateway могут относиться к одному обращению. Например, отказ со статусом 403 входит в оба показателя; их сумма не является общим числом неудачных обращений. Длительность здесь считается по всем выбранным обращениям с известным измерением, без ограничения на успешные LLM-запросы.

Журнала A2A-запросов и полного жизненного цикла запусков агента в этой версии нет. Вызовы, которые не проходили через наблюдаемый Gateway, также не появляются в этом разделе.

Если результат неполон или недоступен

Сообщение или ситуацияДействие
Доставка задерживается или её свежесть неизвестнаОбновите позже; последние события могут ещё отсутствовать
Известный пропускУчитывайте обозначенный интервал при выводах; отсутствие записей в нём не означает нулевую активность
Нет наблюдаемых записейПроверьте период, фильтры и область доступа; затем состояние доставки
Часть периода вышла за срок храненияВыберите период после указанного начала доступной истории
Наблюдение устарелоНажмите «Обновить» или «Обновить данные»
Слишком большой объём чтенияСузьте период или выберите конкретный ресурс
Не удалось проверить праваПовторите позже; до успешной проверки данные скрыты
Данные недоступныОбъект может отсутствовать или права изменились; проверьте идентификатор и доступ
Не удалось получить данные активностиПовторите чтение; при повторной ошибке обратитесь в поддержку

Для обращения в поддержку подготовьте время с часовым поясом, выбранный период, безопасный код ошибки и идентификатор запроса, если он доступен. Не отправляйте токены доступа, ключи API, тексты закрытых запросов или ответов модели.

См. также общее руководство пользователя и API Control Plane.

На этой странице