7. Метрики в модулях Компонента «Витрина данных»

7.1. Метрики Сервиса генерации уникального номера

Таблица 7.1 Метки, используемые в метриках сервиса генерации уникального номера

Название метки

Описание

Возможные значения

service

Наименование модуля

counter-provider

function

Функция сервиса

  • get counter - функция получения следующего значения счетчика.

quantile

Квантиль для метрики

  • 0.5;

  • 0.75;

  • 0.95.

Таблица 7.2 Метрики сервиса генерации уникального номера

Метрика

Метки

Описание

req_count_total

service= «counter-provider»

function= «get counter»

Число запросов на получение следующего значения счетчика.

req_time_seconds_count

service= «counter-provider»

function= «get counter»

Число запросов на получение следующего значения счетчика. Аналог метрики req_count_total {service=»counter-provider», function=»get counter»}.

req_error_count_total

service= «counter-provider»

function= «get counter»

Число ошибок возникших при обработке запросов на получение следующего значения счетчика.

req_time_seconds

service= «counter-provider»

function= «get counter»

quantile= «0.95»

Время выполнения запросов на получение следующего значения счетчика для заданного квантиля.

req_time_seconds_max

service= «counter-provider»

function= «get counter»

Максимальное время выполнения запросов на получение следующего значения счетчика.

req_time_seconds_sum

service= «counter-provider»

function= «get counter»

Суммарное время выполнения запросов на получение следующего значения счетчика.

Настроенный дашборд сервиса генерации уникального номера для Grafana приложен в файле ниже:

Настроенный дашборд сервиса генерации уникального номера

7.2. Метрики сервиса формирования документов

Таблица 7.3 Метки, используемые в метриках сервиса формирования документов

Название метки

Описание

Возможные значения

service

Наименование модуля

printable-form-service

function

Функция сервиса

  • report - функция получения печатной формы;

  • delay - функция задержки выполнения pebble-скрипта;

  • sql - функция выполнения SQL-запросов к Prostore;

  • sqlReliable - функция выполнения устойчивых к сбоям SQL-запросов к Prostore.

quantile

Квантиль для метрики

  • 0.5;

  • 0.75;

  • 0.95.

Таблица 7.4 Метрики сервиса формирования документов

Метрика

Метки

Описание

req_count_total

service= «printable-form-service»

function= «report»

Число запросов на получение печатной формы.

service= «printable-form-service»

function= «delay»

Число задержек выполнения pebble-скрипта.

service= «printable-form-service»

function= «sql»

Число SQL-запросов к Prostore.

service= «printable-form-service»

function= «sqlReliable»

Число устойчивых к сбоям SQL-запросов к Prostore.

req_time_seconds_count

service= «printable-form-service»

function= «report»

Число запросов на получение печатной формы. Аналог метрики req_count_total {service=»printable-form-service», function=»report»}.

service= «printable-form-service»

function= «delay»

Число задержек выполнения pebble-скрипта. Аналог метрики req_count_total {service=»printable-form-service», function=»delay»}.

service= «printable-form-service»

function= «sql»

Число SQL-запросов к Prostore. Аналог метрики req_count_total {service=»printable-form-service», function=»sql»}.

service= «printable-form-service»

function= «sqlReliable»

Число устойчивых к сбоям SQL-запросов к Prostore. Аналог метрики req_count_total {service=»printable-form-service», function=»sqlReliable»}.

req_error_count_total

service= «printable-form-service»

function= «report»

Число ошибок при выполнении запросов на получение печатной формы.

service= «printable-form-service»

function= «delay»

Число ошибок при выполнении задержек pebble-скрипта.

service= «printable-form-service»

function= «sql»

Число ошибок при выполнении SQL-запросов к Prostore.

service= «printable-form-service»

function= «sqlReliable»

Число ошибок при выполнении устойчивых к сбоям SQL-запросов к Prostore.

req_time_seconds

service= «printable-form-service»

function= «report»

quantile= «0.95»

Время выполнения запросов на получение печатной формы для заданного квантиля.

service= «printable-form-service»

function= «delay»

quantile= «0.95»

Время выполнения задержек pebble-скрипта для заданного квантиля.

service= «printable-form-service»

function= «sql»

quantile= «0.95»

Время выполнения SQL-запросов к Prostore для заданного квантиля.

service= «printable-form-service»

function= «sqlReliable»

quantile= «0.95»

Время выполнения устойчивых к сбоям SQL-запросов к Prostore для заданного квантиля.

req_time_seconds_max

service= «printable-form-service»

function= «report»

Максимальное время выполнения запросов на получение печатной формы

service= «printable-form-service»

function= «delay»

Максимальное время задержек pebble-скрипта

service= «printable-form-service»

function= «sql»

Максимальное время выполнения SQL-запросов к Prostore

service= «printable-form-service»

function= «sqlReliable»

Максимальное время выполнения устойчивых к сбоям SQL-запросов к Prostore.

req_time_seconds_sum

service= «printable-form-service»

function= «report»

Суммарное время выполнения запросов на получение печатной формы

service= «printable-form-service»

function= «delay»

Суммарное время задержек pebble-скрипта

service= «printable-form-service»

function= «sql»

Суммарное время выполнения SQL-запросов к Prostore

service= «printable-form-service»

function= «sqlReliable»

Суммарное время выполнения устойчивых к сбоям SQL-запросов к Prostore.

Настроенный дашборд сервиса формирования документов для Grafana приложен в файле ниже:

Настроенный дашборд сервиса формирования документов

7.3. Метрики СМЭВ3-адаптера

Таблица 7.5 Метки, используемые в метриках СМЭВ3-адаптера

Название метки

Описание

Возможные значения

service

Наименование модуля

smev3-adapter

function

Функция сервиса

  • getAttachments - функция получения набора вложений из файлового хранилища СМЭВ3;

  • loadDatamartBlob - функция получения BLOB-объекта из файлового хранилища Витрины данных;

  • request process - функция обработки входящих сообщений;

  • saveDatamartBlob - функция загрузки BLOB-объекта в файловое хранилище Витрины данных;

  • delay - функция задержки выполнения pebble-скрипта;

  • sql - функция выполнения SQL-запросов к Prostore;

  • sqlReliable - функция выполнения устойчивых к сбоям SQL-запросов к Prostore;

  • uploadAttachment - функция загрузки вложения в файловое хранилище СМЭВ3;

  • fifo queue - операции с очередью fifo;

  • upload data - вызов расширения загрузки данных.

quantile

Квантиль для метрики

  • 0.5;

  • 0.75;

  • 0.95.

kind

Операция с очередью fifo

  • add - добавление

  • delete - удаление

  • drop - сброс

datamart

Датамарт в который производится загрузка

Выбирается из списка прикладных датамартов текущей Витрины данных.

table

Таблица в который производится загрузка

Выбирается из списка таблиц прикладного датамарта, указанного в метке datamart.

async

Признак асинхронной загрузки

  • true;

  • false.

Таблица 7.6 Метрики СМЭВ3-адаптера

Метрика

Метки

Описание

req_count_total

service= «smev3-adapter»

function= «getAttachments»

Число запросов получения набора вложений из файлового хранилища СМЭВ3.

service= «smev3-adapter»

function= «loadDatamartBlob»

Число запросов получения BLOB-объекта из файлового хранилища Витрины данных.

service= «smev3-adapter»

function= «request process»

Число обработанных входящих сообщений.

service= «smev3-adapter»

function= «saveDatamartBlob»

Число запросов на загрузку BLOB-объекта в файловое хранилище Витрины данных

service= «smev3-adapter»

function= «delay»

Число задержек выполнения pebble-скрипта.

service= «smev3-adapter»

function= «sql»

Число SQL-запросов к Prostore.

service= «smev3-adapter»

function= «sqlReliable»

Число устойчивых к сбоям SQL-запросов к Prostore.

service= «smev3-adapter»

function= «uploadAttachment»

Число загрузок вложений в файловое хранилище СМЭВ3.

service= «smev3-adapter»

function= «schedulerProcessMetric»

Число запусков шаблонов по расписанию

service= «smev3-adapter»

function= «attachmentGetContent»

Число запросов чтения вложений из файлового хранилища СМЭВ3

service= «smev3-adapter»

function= «fifo queue»

kind= «add/delete/drop»

Число операций с очередью fifo

service= «smev3-adapter»

function= «upload data»

datamart= «<датамарт для загрузки>»

table= «<таблица для загрузки>»

async= «true/false»

Число операций вызова расширения загрузки данных

req_time_seconds_count

service= «smev3-adapter»

function= «getAttachments»

Число запросов получения набора вложений из файлового хранилища СМЭВ3. Аналог метрики req_count_total {service= «smev3-adapter», function= «getAttachments»}.

service= «smev3-adapter»

function= «loadDatamartBlob»

Число запросов получения BLOB-объекта из файлового хранилища Витрины данных. Аналог метрики req_count_total {service= «smev3-adapter», function= «loadDatamartBlob»}.

service= «smev3-adapter»

function= «request process»

Число обработанных входящих сообщений. Аналог метрики req_count_total {service= «smev3-adapter», function= «request process»}.

service= «smev3-adapter»

function= «saveDatamartBlob»

Число запросов на загрузку BLOB-объекта в файловое хранилище Витрины данных. Аналог метрики req_count_total {service= «smev3-adapter», function= «saveDatamartBlob»}.

service= «smev3-adapter»

function= «delay»

Число задержек выполнения pebble-скрипта. Аналог метрики req_count_total {service= «smev3-adapter», function= «delay»}.

service= «smev3-adapter»

function= «sql»

Число SQL-запросов к Prostore. Аналог метрики req_count_total {service= «smev3-adapter», function= «sql»}.

service= «smev3-adapter»

function= «sqlReliable»

Число устойчивых к сбоям SQL-запросов к Prostore. Аналог метрики req_count_total {service= «smev3-adapter», function= «sqlReliable»}.

service= «smev3-adapter»

function= «uploadAttachment»

Число загрузок вложений в файловое хранилище СМЭВ3. Аналог метрики req_count_total {service= «smev3-adapter», function= «uploadAttachment»}.

service= «smev3-adapter»

function= «schedulerProcessMetric»

Число запусков шаблонов по расписанию. Аналог метрики req_count_total {service= «smev3-adapter», function= «schedulerProcessMetric»}

service= «smev3-adapter»

function= «attachmentGetContent»

Число запросов чтения вложений из файлового хранилища СМЭВ3. Аналог метрики req_count_total {service= «smev3-adapter», function= «attachmentGetContent «}

service= «smev3-adapter»

function= «fifo queue»

kind= «add/delete/drop»

Число операций с очередью fifo. Аналог метрики req_count_total {service= «smev3-adapter», function= «fifo queue»}

service= «smev3-adapter»

function= «upload data»

datamart= «<датамарт для загрузки>»

table= «<таблица для загрузки>»

async= «true/false»

Число операций вызова расширения загрузки данных. Аналог метрики req_count_total {service= «smev3-adapter», function= «upload data»}

req_error_count_total

service= «smev3-adapter»

function= «getAttachments»

Число ошибок получения набора вложений из файлового хранилища СМЭВ3.

service= «smev3-adapter»

function= «loadDatamartBlob»

Число ошибок получения BLOB-объекта из файлового хранилища Витрины данных.

service= «smev3-adapter»

function= «request process»

Число входящих сообщений, обработанных с ошибкой.

service= «smev3-adapter»

function= «saveDatamartBlob»

Число ошибок при загрузке BLOB-объекта в файловое хранилище Витрины данных.

service= «smev3-adapter»

function= «delay»

Число ошибок при выполнении задержек pebble-скрипта.

service= «smev3-adapter»

function= «sql»

Число ошибок при выполнении SQL-запросов к Prostore.

service= «smev3-adapter»

function= «sqlReliable»

Число ошибок при выполнении устойчивых к сбоям SQL-запросов к Prostore.

service= «smev3-adapter»

function= «uploadAttachment»

Число ошибок при загрузке вложений в файловое хранилище СМЭВ3.

service= «smev3-adapter»

function= «schedulerProcessMetric»

Число ошибок при запуске шаблонов по расписанию.

service=»smev3-adapter»

function= «attachmentGetContent»

Число ошибок чтения вложений из файлового хранилища СМЭВ3.

service= «smev3-adapter»

function= «fifo queue»

kind= «add/delete/drop»

Число ошибок операций с очередью fifo.

service= «smev3-adapter»

function= «upload data»

datamart= «<датамарт для загрузки>»

table= «<таблица для загрузки>»

async= «true/false»

Число ошибок вызова расширения загрузки данных.

req_time_seconds

service= «smev3-adapter»

function= «getAttachments»

quantile= «0.95»

Время выполнения запросов получения набора вложений из файлового хранилища СМЭВ3 для заданного квантиля.

service= «smev3-adapter»

function= «loadDatamartBlob»

quantile= «0.95»

Время выполнения запросов получения BLOB-объекта из файлового хранилища Витрины данных для заданного квантиля.

service= «smev3-adapter»

function= «request process»

quantile= «0.95»

Время обработки входящих сообщений для заданного квантиля.

service= «smev3-adapter»

function= «saveDatamartBlob»

quantile= «0.95»

Время выполнения запросов на загрузку BLOB-объекта в файловое хранилище Витрины данных для заданного квантиля.

service= «smev3-adapter»

function= «delay»

quantile= «0.95»

Время выполнения задержек pebble-скрипта для заданного квантиля.

service= «smev3-adapter»

function= «sql»

quantile= «0.95»

Время выполнения SQL-запросов к Prostore для заданного квантиля.

service= «smev3-adapter»

function= «sqlReliable»

quantile= «0.95»

Время выполнения устойчивых к сбоям SQL-запросов к Prostore для заданного квантиля.

service= «smev3-adapter»

function= «uploadAttachment»

quantile= «0.95»

Время выполнения загрузки вложений в файловое хранилище СМЭВ3 для заданного квантиля.

service= «smev3-adapter»

function= «schedulerProcessMetric»

quantile= «0.95»

Время выполнения шаблонов по расписанию для заданного квантиля.

service= «smev3-adapter»

function= «attachmentGetContent»

quantile= «0.95»

Время выполнения чтения вложений из файлового хранилища СМЭВ3 для заданного квантиля.

service= «smev3-adapter»

function= «fifo queue»

kind= «add/delete/drop»

quantile= «0.95»

Время выполнения операций с очередью fifo для заданного квантиля.

service= «smev3-adapter»

function= «upload data»

datamart= «<датамарт для загрузки>»

table= «<таблица для загрузки>»

async= «true/false»

Время работы расширения загрузки данных для заданного квантиля.

req_time_seconds_max

service= «smev3-adapter»

function= «getAttachments»

Максимальное время выполнения запросов получения набора вложений из файлового хранилища СМЭВ3.

service= «smev3-adapter»

function= «loadDatamartBlob»

Максимальное время выполнения запросов получения BLOB-объекта из файлового хранилища Витрины данных.

service= «smev3-adapter»

function= «request process»

Максимальное время обработки входящих сообщений.

service= «smev3-adapter»

function= «saveDatamartBlob»

Максимальное время выполнения запросов на загрузку BLOB-объекта в файловое хранилище Витрины данных.

service= «smev3-adapter»

function= «delay»

Максимальное время задержек pebble-скрипта.

service= «smev3-adapter»

function= «sql»

Максимальное время выполнения SQL-запросов к Prostore.

service= «smev3-adapter»

function= «sqlReliable»

Максимальное время выполнения устойчивых к сбоям SQL-запросов к Prostore.

service= «smev3-adapter»

function= «uploadAttachment»

Максимальное время выполнения загрузки вложений в файловое хранилище СМЭВ3.

service= «smev3-adapter»

function= «schedulerProcessMetric»

Максимальное время выполнения шаблонов по расписанию для заданного квантиля.

service= «smev3-adapter»

function= «attachmentGetContent»

Максимальное время выполнения чтения вложений из файлового хранилища СМЭВ3 для заданного квантиля.

service= «smev3-adapter»

function= «fifo queue»

kind= «add/delete/drop»

Максимальное время выполнения операций с очередью fifo для заданного квантиля.

service= «smev3-adapter»

function= «upload data»

datamart= «<датамарт для загрузки>»

table= «<таблица для загрузки>»

async= «true/false»

Максимальное время работы расширения загрузки данных.

req_time_seconds_sum

service= «smev3-adapter»

function= «getAttachments»

Суммарное время выполнения запросов получения набора вложений из файлового хранилища СМЭВ3.

service= «smev3-adapter»

function= «loadDatamartBlob»

Суммарное время выполнения запросов получения BLOB-объекта из файлового хранилища Витрины данных.

service= «smev3-adapter»

function= «request process»

Суммарное время обработки входящих сообщений.

service= «smev3-adapter»

function= «saveDatamartBlob»

Суммарное время выполнения запросов на загрузку BLOB-объекта в файловое хранилище Витрины данных.

service= «smev3-adapter»

function= «delay»

Суммарное время задержек pebble-скрипта.

service= «smev3-adapter»

function= «sql»

Суммарное время выполнения SQL-запросов к Prostore.

service= «smev3-adapter»

function= «sqlReliable»

Суммарное время выполнения устойчивых к сбоям SQL-запросов к Prostore.

service= «smev3-adapter»

function= «uploadAttachment»

Суммарное время выполнения загрузки вложений в файловое хранилище СМЭВ3.

service= «smev3-adapter»

function= «schedulerProcessMetric»

Суммарное время выполнения шаблонов по расписанию для заданного квантиля.

service= «smev3-adapter»

function= «attachmentGetContent»

Суммарное время выполнения чтения вложений из файлового хранилища СМЭВ3 для заданного квантиля.

service= «smev3-adapter»

function= «fifo queue»

kind= «add/delete/drop»

Суммарное время выполнения операций с очередью fifo для заданного квантиля.

service= «smev3-adapter»

function= «upload data»

datamart = «<датамарт для загрузки>»

table= «<таблица для загрузки>»

async= «true/false»

Суммарное время работы расширения загрузки данных.

7.4. Метрики стандартного загрузчика

Таблица 7.7 Метки, используемые в метриках стандартного загрузчика

Название метки

Описание

Возможные значения

service

Наименование модуля

standard-loader-metrics

exported_service

Наименование сервиса модуля

  • buffer;

  • comparator;

  • deployer;

  • flk;

  • manager;

  • reader;

  • uploader.

function

Функция сервиса

Для сервиса Manager:

  • assignment - функция делегирования Сеансов (общая);

  • assignment FLK - функция делегирования Сеансов сервису ФЛК;

  • assignment reader- функция делегирования Сеансов сервису Reader;

  • assignment uploader- функция делегирования Сеансов сервису Uploader;

  • register component - функция регистрации компонентов;

  • deployment - функция отправки списков компонентов для развертывания;

  • reassignment - функция возврата Сеансов в очередь после потери исполняющего

сервиса;

  • register deployer - функция регистрации Deployer;

  • reset assignment - функция переназначения Сеансов;

  • revert session - функция возврата Сеанса в предыдущее состояние;

  • scheduling - функция обработки Расписаний;

  • scheduling wait - функция ожидания завершения предыдущих Сеансов по Расписанию;

  • session management - функция управления Сеансами.

Для сервиса Deployer:

  • register deployer - функция регистрации Deployer;

  • start - функция развертывания сервисов;

  • stop - функция остановки сервисов;

  • update - функция обновления сервисов.

Для сервиса Reader:

  • register component - функция регистрации сервиса;

  • dequeue - функция запроса Сеанса;

  • session receiving - функция получения Сеанса;

  • row - подсчет прочитанных строк;

  • byte - подсчет объема прочитанных данных.

Для сервиса Buffer:

  • register component - функция регистрации сервиса;

  • chunk receiving - функция получения чанков данных.

Для сервиса FLK:

  • register component - функция регистрации сервиса;

  • dequeue - функция запроса Сеанса;

  • session receiving - функция получения Сеанса;

  • data control - функция контроля данных.

  • row - подсчет проверенных строк;м

  • byte - подсчет объема проверенных данных.

Для сервиса Uploader:

  • session process - функция обработки Сеансов;

  • register component - функция регистрации сервиса;

  • file read operation - функция чтения из Buffer;

  • stream operation - функция записи в потоковом режиме;

  • llw operation - функция записи в режиме llw;

  • row - подсчет загруженных строк;

  • byte - подсчет объема загруженных данных.

Для сервиса Comparator:

  • compare session - функция сверки;

  • register component - функция регистрации сервиса.

quantile

Квантиль для метрики

  • 0.5;

  • 0.75;

  • 0.95.

status_code

Код статуса Сеанса загрузки

  • 100 «Новый»;

  • 101 «Ридер назначен»;

  • 102 «Буферизация»;

  • 105 «Ожидание контроля»;

  • 106 «Контроль (ФЛК)»;

  • 107 «Ожидание загрузки»;

  • 108 «Загрузка»;

  • 109 «Ожидание закрытия дельты»;

  • 300 «Успешно обработан»;

  • 301 «Ошибка обработки»;

  • 302 «Ошибки контроля»;

  • 303 «Отменен».

datamart

Датамарт, для которого рассчитана метрика

Выбирается из списка прикладных датамартов текущей Витрины данных.

table

Таблица, для которой рассчитана метрика

Выбирается из списка таблиц прикладного датамарта, указанного в метке datamart.

action_type

Выполняемое действие

  • upsert - загрузка или обновление данных;

  • delete - логическое удаление:

  • truncate - удаление данных, включая исторические;

  • modify - совмещение загрузки и логического удаления.

mode

Результат для подсчета строк или объема данных

Для сервиса Reader:

  • read success - успешно прочитано;

  • synchron check fail - ошибка на этапе синхронных проверок (неверный формат);

-technical fail - технологические ошибки (внутренние технические ошибки сервисов).

Для сервиса FLK:

  • check - проверено ФЛК.

Для сервиса Uploader:

  • upload success - успешно загружено;

  • technical fail - технологические ошибки (внутренние технические ошибки сервисов).

Таблица 7.8 Метрики сервиса Manager

Метрика

Метки

Описание

req_count_total

service= «standard-loader-metrics»

exported_service= «manager»

function= «register component»

Число операций регистраций (подключений) экземпляров сервисов к менеджеру, каждое обращение любого компонента за регистрацией на менеджере учитывается в этой метрике.

service= «standard-loader-metrics»

exported_service= «manager»

function= «register deployer»

Число операций регистраций (подключений) экземпляров Deployer к менеджеру, каждое обращение любого из деплоеров за регистрацией на менеджере учитывается в этой метрике.

service= «standard-loader-metrics»

exported_service= «manager»

function= «deployment»

Число операций формирования списков сервисов для разворачивания.

service= «standard-loader-metrics»

exported_service= «manager»

function= «reset assignment»

Число операций возврата Сеансов в очередь после потери исполняющего сервиса, в рамках одной операции анализируются все зависшие сеансы.

service= «standard-loader-metrics»

exported_service= «manager»

function= «revert session»

Число возвращенных на предыдущий статус Сеансов (после потери исполняющего сервиса).

req_time_seconds_count

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling»

Число операций формирования Сеансов по расписанию.

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling wait»

Число операций ожидания, пока предыдущие сеансы завершатся, в рамках операций формирования Сеансов по расписанию.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment reader»

Число операций делегирования Сеансов Reader.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment FLK»

Число операций делегирования Сеансов ФЛК.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment uploader»

Число операций делегирования Сеансов Uploader.

service= «standard-loader-metrics»

exported_service= «manager»

function= «reset assignment»

Число операций возврата Сеансов в очередь после потери исполняющего сервиса, в рамках одной операции анализируются все зависшие сеансы.

Аналог метрики req_count_total {service= «standard-loader-metrics», exported_service= «manager», function= «reset assignment»}

object_count

service= «standard-loader-metrics»

exported_service= «manager»

function= «session management»

status_code= «<status_code>»

datamart= «<datamart>»

table= «<table>»

Число Сеансов загрузки в разрезе: Код статуса / Датамарт / Таблица.

Обновлять с конфигурируемым периодом, по умолчанию 1 минута.

schedule_active

exported_service= «manager»

function= «scheduling»

datamart= «<datamart>»

table= «<table>»

Число активных Расписаний в разрезе датамарт / таблица.

Обновлять с периодом из конфига, по умолчанию 1 минута.

object_processed_total

service= «standard-loader-metrics»

exported_service= «manager»

function= «session management»

status_code= «<status_code>»

datamart= «<datamart>»

table= «<table>»

Счетчик числа Сеансов загрузки, переведенных в определенный статус.

req_error_count_total

service= «standard-loader-metrics»

exported_service= «manager»

function= «register component»

Число ошибок регистрации (подключения) экземпляров сервисов.

service= «standard-loader-metrics»

exported_service= «manager»

function= «register deployer»

Число ошибок регистрации (подключения) экземпляров Deployer.

service= «standard-loader-metrics»

exported_service= «manager»

function= «deployment»

Число ошибок отправки списков сервисов для разворачивания.

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling»

Число ошибок создания Сеансов по расписанию (в т.ч. пропуска и откладывания).

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment»

Число ошибок операций делегирования Сеансов.

service= «standard-loader-metrics»

exported_service= «manager»

function= «reassignment»

Число ошибок возврата Сеансов в очередь после потери исполняющего сервиса.

req_time_seconds

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling»

quantile= «0.95»

Время выполнения операций формирования Сеансов по расписанию для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling wait»

quantile= «0.95»

Время ожидания, пока предыдущие сеансы завершатся, в рамках операций формирования Сеансов по расписанию для заданного квантиля запросов

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment reader»

quantile= «0.95»

Время выполнения операций делегирования Сеансов Reader для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment FLK»

quantile= «0.95»

Время выполнения операций делегирования Сеансов ФЛК для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment uploader»

quantile= «0.95»

Время выполнения операций делегирования Сеансов Uploader для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «manager»

function= «reset assignment»

quantile= «0.95»

Время выполнения операций возврата Сеансов в очередь после потери исполняющего сервиса, в рамках одной операции анализируются все зависшие сеансы для заданного квантиля запросов.

req_time_seconds_max

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling»

Максимальное время выполнения операций формирования Сеансов по расписанию.

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling wait»

Максимальное время ожидания, пока предыдущие сеансы завершатся, в рамках операций формирования Сеансов по расписанию.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment reader»

Максимальное Время выполнения операций делегирования Сеансов Reader.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment FLK»

Максимальное Время выполнения операций делегирования Сеансов ФЛК.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment uploader»

Максимальное Время выполнения операций делегирования Сеансов Uploader.

service= «standard-loader-metrics»

exported_service= «manager»

function= «reset assignment»

Максимальное Время выполнения операций возврата Сеансов в очередь после потери исполняющего компонента, в рамках одной операции анализируются все зависшие сеансы.

req_time_seconds_sum

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling»

Суммарное время выполнения операций формирования Сеансов по расписанию.

service= «standard-loader-metrics»

exported_service= «manager»

function= «scheduling wait»

Суммарное время ожидания, пока предыдущие сеансы завершатся, в рамках операций формирования Сеансов по расписанию.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment reader»

Суммарное время выполнения операций делегирования Сеансов Reader.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment FLK»

Суммарное время выполнения операций делегирования Сеансов ФЛК.

service= «standard-loader-metrics»

exported_service= «manager»

function= «assignment uploader»

Суммарное время выполнения операций делегирования Сеансов Uploader.

service= «standard-loader-metrics»

exported_service= «manager»

function= «reset assignment»

Суммарное время выполнения операций возврата Сеансов в очередь после потери исполняющего компонента, в рамках одной операции анализируются все зависшие сеансы.

Таблица 7.9 Метрики сервиса Deployer

Метрика

Метки

Описание

req_count_total

service= «standard-loader-metrics»

exported_service= «deployer»

function= «register deployer»

Число операций регистрации Deployer.

req_time_seconds_count

service= «standard-loader-metrics»

exported_service= «deployer»

function= «update»

Число операций обновления сервисов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «start»

Число операций разворачивания сервисов

service= «standard-loader-metrics»

exported_service= «deployer»

function= «stop»

Число операций остановки сервисов.

req_error_count_total

service= «standard-loader-metrics»

exported_service= «deployer»

function= «register deployer»

Число ошибок регистрации Deployer.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «update»

Число ошибок обновления сервисов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «start»

Число ошибок разворачивания сервисов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «stop»

Число ошибок остановки сервисов.

req_time_seconds

service= «standard-loader-metrics»

exported_service= «deployer»

function= «update»

quantile= «0.95»

Время выполнения операций обновления сервисов для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «start»

quantile= «0.95»

Время выполнения операций разворачивания сервисов для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «stop»

quantile= «0.95»

Время выполнения операций остановки сервисов для заданного квантиля запросов.

req_time_seconds_max

service= «standard-loader-metrics»

exported_service= «deployer»

function= «update»

Максимальное время выполнения операций обновления сервисов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «start»

Максимальное время выполнения операций разворачивания сервисов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «stop»

Максимальное время выполнения операций остановки сервисов.

req_time_seconds_sum

service= «standard-loader-metrics»

exported_service= «deployer»

function= «update»

Суммарное время выполнения операций обновления сервисов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «start»

Суммарное время выполнения операций разворачивания сервисов.

service= «standard-loader-metrics»

exported_service= «deployer»

function= «stop»

Суммарное время выполнения операций остановки сервисов.

Таблица 7.10 Метрики сервиса Reader

Метрика

Метки

Описание

req_count_total

service= «standard-loader-metrics»

exported_service= «reader»

function= «register component»

Число операций регистрации сервиса.

service= «standard-loader-metrics»

exported_service= «reader»

function= «session receiving»

Число полученных от Manager Сеансов.

req_time_seconds_count

service= «standard-loader-metrics»

exported_service= «reader»

function= «dequeue»

Число вызовов операций запроса Сеанса у менеджера.

service= «standard-loader-metrics»

exported_service= «reader»

function= «session receiving»

Число полученных от Manager Сеансов. Аналог метрики req_count_total {service= «standard-loader-metrics», exported_service= «reader», function= «session receiving»}.

req_error_count_total

service= «standard-loader-metrics»

exported_service= «reader»

function= «dequeue»

Число ошибок запроса Сеанса.

service= «standard-loader-metrics»

exported_service= «reader»

function= «session receiving»

Число ошибок парсинга полей Сеанса.

reader_total

service= «standard-loader-metrics»

exported_service= «reader»

function= «row»

datamart= «<datamart>»

table= «<table>»

action_type = «upsert/delete/truncate/modify»

mode= «read success/synchron check fail/ technical fail»

Число прочитанных строк.

service= «standard-loader-metrics»

exported_service= «reader»

function= «byte»

datamart= «<datamart>»

table= «<table>»

action_type = «upsert/delete/truncate/modify»

Объем прочитанных данных в байтах

req_time_seconds

service= «standard-loader-metrics»

exported_service= «reader»

function= «dequeue»

quantile= «0.95»

Время выполнения операций запроса Сеанса для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «reader»

function= «session receiving»

quantile= «0.95»

Время выполнения операций получения Сеанса для заданного квантиля запросов.

req_time_seconds_max

service= «standard-loader-metrics»

exported_service= «reader»

function= «dequeue»

Максимальное время выполнения операций запроса Сеанса.

service= «standard-loader-metrics»

exported_service= «reader»

function= «session receiving»

Максимальное время выполнения операций получения Сеанса.

req_time_seconds_sum

service= «standard-loader-metrics»

exported_service= «reader»

function= «dequeue»

Суммарное время выполнения операций запроса Сеанса.

service= «standard-loader-metrics»

exported_service= «reader»

function= «session receiving»

Суммарное время выполнения операций получения Сеанса.

Таблица 7.11 Метрики сервиса Buffer

Метрика

Метки

Описание

req_count_total

service= «standard-loader-metrics»

exported_service= «buffer»

function= «register component»

Число операций регистрации сервиса.

req_time_seconds_count

service= «standard-loader-metrics»

exported_service= «buffer»

function= «chunk receiving»

Число операций получения и записи чанков в файловое хранилище.

req_error_count_total

service= «standard-loader-metrics»

exported_service= «buffer»

function= «chunk receiving»

Число ошибок получения и записи чанков в файловое хранилище.

req_time_seconds

service= «standard-loader-metrics»

exported_service= «buffer»

function= «chunk receiving»

quantile= «0.95»

Время выполнения операций получения и записи чанков в файловое хранилище для заданного квантиля запросов.

req_time_seconds_max

service= «standard-loader-metrics»

exported_service= «buffer»

function= «chunk receiving»

Максимальное время выполнения операций получения и записи чанков в файловое хранилище.

req_time_seconds_sum

service= «standard-loader-metrics»

exported_service= «buffer»

function= «chunk receiving»

Суммарное время выполнения операций получения и записи чанков в файловое хранилище.

Таблица 7.12 Метрики сервиса FLK

Метрика

Метки

Описание

req_count_total

service= «standard-loader-metrics»

exported_service= «flk»

function= «register component»

Число операций регистрации компонента.

service= «standard-loader-metrics»

exported_service= «flk»

function= «session receiving»

Число операций получения Сеанса.

req_time_seconds_count

service= «standard-loader-metrics»

exported_service= «flk»

function= «dequeue»

Число операций запроса Сеанса.

service= «standard-loader-metrics»

exported_service= «flk»

function= «data control»

Число операций проверки данных Сеанса.

req_error_count_total

service= «standard-loader-metrics»

exported_service= «flk»

function= «dequeue»

Число ошибок запроса Сеанса.

service= «standard-loader-metrics»

exported_service= «flk»

function= «data control»

Число ошибок проверки данных Сеанса.

flk_total

service= «standard-loader-metrics»

exported_service= «flk»

function= «row»

datamart= «<datamart>»

table= «<table>»

mode= «check»

Число проверенных строк

service= «standard-loader-metrics»

exported_service= «flk»

function= «byte»

datamart= «<datamart>»

table= «<table>»

mode= «check»

Объем проверенных данных в байтах

req_time_seconds

service= «standard-loader-metrics»

exported_service= «flk»

function= «dequeue»

quantile= «0.95»

Время выполнения операций запроса Сеанса для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «flk»

function= «data control»

quantile= «0.95»

Время выполнения проверки данных Сеанса для заданного квантиля запросов.

req_time_seconds_max

service= «standard-loader-metrics»

exported_service= «flk»

function= «dequeue»

Максимальное время выполнения операций запроса Сеанса.

service= «standard-loader-metrics»

exported_service= «flk»

function= «data control»

Максимальное время выполнения проверки данных Сеанса.

req_time_seconds_sum

service= «standard-loader-metrics»

exported_service= «flk»

function= «dequeue»

Суммарное время выполнения операций запроса Сеанса.

service= «standard-loader-metrics»

exported_service= «flk»

function= «data control»

Суммарное время выполнения проверки данных Сеанса.

Таблица 7.13 Метрики сервиса Uploader

Метрика

Метки

Описание

req_count_total

service= «standard-loader-metrics»

exported_service= «uploader»

function= «session process»

Число сеансов, поступивших в обработку.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «register component»

Число операций регистрации сервиса.

req_time_seconds_count

service= «standard-loader-metrics»

exported_service= «uploader»

function= «file read operation»

Число операций чтения из файлового хранилища.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «stream operation»

Число операций потоковой загрузки в Prostore.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «session process «

Число сеансов, поступивших в обработку. Аналог метрики req_count_total {service= «standard-loader-metrics», exported_service= «uploader», function= «session process»}.

req_error_count_total

service= «standard-loader-metrics»

exported_service= «uploader»

function= «session process»

Число ошибок обработки Сеансов загрузки.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «file read operation»

Число ошибок при выполнении операций чтения из Buffer.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «stream operation»

Число ошибок выполнения потоковой загрузки в Prostore.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «llw operation»

Число ошибок выполнения llw загрузок в Prostore.

uploader_total

service= «standard-loader-metrics»

exported_service= «uploader»

function= «row»

datamart= «<datamart>»

table= «<table>»

action_type= «upsert/delete/truncate/modify»

mode= «upload success/technical fail»

Число проверенных строк.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «byte»

datamart= «<datamart>»

table= «<table>»

action_type= «upsert/delete/truncate/modify»

mode= «upload success/technical fail»

Объем загруженных данных в байтах.

req_time_seconds

service= «standard-loader-metrics»

exported_service= «uploader»

function= «session process»

quantile= «0.95»

Время обработки Сеансов загрузки для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «file read operation»

quantile= «0.95»

Время операций чтения из Buffer для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «stream operation»

quantile= «0.95»

Время выполнения операций потоковой загрузки в Prostore для заданного квантиля запросов.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «llw operation»

quantile= «0.95»

Время выполнения llw загрузок в Prostore для заданного квантиля запросов.

req_time_seconds_max

service= «standard-loader-metrics»

exported_service= «uploader»

function= «session process»

Максимальное время обработки Сеансов загрузки.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «file read operation»

Максимальное время операций чтения из Buffer.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «stream operation»

Максимальное время выполнения потоковой загрузки в Prostore.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «llw operation»

Максимальное время выполнения llw загрузок в Prostore.

req_time_seconds_sum

service= «standard-loader-metrics»

exported_service= «uploader»

function= «session process»

Суммарное время обработки Сеансов загрузки.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «file read operation»

Суммарное время операций чтения из Buffer.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «stream operation»

Суммарное время выполнения потоковой загрузки в Prostore.

service= «standard-loader-metrics»

exported_service= «uploader»

function= «llw operation»

Суммарное время выполнения llw загрузок в Prostore.

Таблица 7.14 Метрики сервиса Comparator

Метрика

Метки

Описание

req_count_total

service= «standard-loader-metrics»

exported_service= «comparator»

function= «compare session»

Число успешно выполненных сверок.

service= «standard-loader-metrics»

exported_service= «comparator»

function= «register component»

Число операций регистрации сервиса.

req_time_seconds_count

service= «standard-loader-metrics»

exported_service= «comparator»

function= «compare session»

Число успешно выполненных сверок. Аналог метрики req_count_total {service= «standard-loader-metrics», exported_service= «comparator», function= «compare session»}.

req_error_count_total

service= «standard-loader-metrics»

exported_service= «comparator»

function= «compare session»

Число ошибочно завершенных сверок.

req_time_seconds

service= «standard-loader-metrics»

exported_service= «comparator»

function= «compare session»

quantile= «0.95»

Время выполнения задач сверки для заданного квантиля запросов.

req_time_seconds_max

service= «standard-loader-metrics»

exported_service= «comparator»

function= «compare session»

Максимальное время выполнения задач сверки.

req_time_seconds_sum

service= «standard-loader-metrics»

exported_service= «comparator»

function= «compare session»

Суммарное время выполнения задач сверки.

7.5. Метрики BLOB-адаптера

Таблица 7.15 Метки, используемые в метриках BLOB-адаптера

Название метки

Описание

Возможные значения

service

Наименование модуля

blob-adapter

function

Функция сервиса

  • blob web - функция получения BLOB-объектов через HTTP.

quantile

Квантиль для метрики

  • 0.5;

  • 0.75;

  • 0.95.

Таблица 7.16 Метрики BLOB-адаптера

Метрика

Метки

Описание

req_count_total

service= «blob-adapter»

function= «blob web»

Число запросов на получение BLOB-объектов, полученных по HTTP.

req_time_seconds_count

service= «blob-adapter»

function= «blob web»

Число запросов на получение BLOB-объектов, полученных по HTTP. Аналог метрики req_count_total {service= «blob-adapter», function= «blob web»}.

req_error_count_total

service= «blob-adapter»

function= «blob web»

Число ошибок возникших при обработке запросов на получение BLOB-объектов полученных по HTTP.

req_time_seconds

service= «blob-adapter»

function= «blob web»

Время выполнения запросов на получение BLOB-объектов, полученных по HTTP для заданного квантиля.

req_time_seconds_max

service= «blob-adapter»

function= «blob web»

Максимальное время выполнения запросов на получение BLOB-объектов полученных по HTTP.

req_time_seconds_sum

service= «blob-adapter»

function= «blob web»

Суммарное время выполнения запросов на получение BLOB-объектов полученных по HTTP.

Настроенный дашборд BLOB-адаптера для Grafana приложен в файле ниже:

Настроенный дашборд BLOB-адаптера

7.6. Метрики CSV-Uploader

Таблица 7.17 Метки, используемые в метриках CSV-Uploader

Название метки

Описание

Возможные значения

service

Наименование модуля

csv-uploader

function

Функция сервиса

  • upsert to table - функция загрузки данных;

  • delete from table - функция удаления данных;

  • upsert multipart - функция загрузки данных с использованием мультипарт;

  • delete multipart - функция удаления данных с использованием мультипарт;

  • upload rest-uploader - функция загрузки данных через REST-Uploader или стандартный загрузчик.

quantile

Квантиль для метрики

  • 0.5;

  • 0.75;

  • 0.95.

Таблица 7.18 Метрики CSV-Uploader

Метрика

Метки

Описание

req_count_total

service= «csv-uploader»

function= «upsert to table»

Число запросов на загрузку данных.

service= «csv-uploader»

function= «delete from table»

Число запросов на удаление данных.

service= «csv-uploader»

function= «upsert multipart»

Число запросов на загрузку данных через мультипарт.

service= «csv-uploader»

function= «delete multipart»

Число запросов на удаление данных через мультипарт.

service= «csv-uploader»

function= «upload rest-uploader»

Число запросов, на загрузку отправленных на REST-Uploader или стандартный загрузчик.

req_time_seconds_count

service= «csv-uploader»

function= «upsert to table»

Число запросов на загрузку данных. Аналог метрики req_count_total {service=»csv-uploader», function=»upsert to table»}.

service= «csv-uploader»

function= «delete from table»

Число запросов на удаление данных. Аналог метрики req_count_total {service=»csv-uploader», function=»delete from table»}.

service= «csv-uploader»

function= «upsert multipart»

Число запросов на загрузку данных через мультипарт. Аналог метрики req_count_total {service=»csv-uploader», function=»upsert multipart»}.

service= «csv-uploader»

function= «delete multipart»

Число запросов на удаление данных через мультипарт. Аналог метрики req_count_total {service=»csv-uploader», function=»delete multipart»}.

service= «csv-uploader»

function= «upload rest-uploader»

Число запросов на загрузку отправленных на REST-Uploader или стандартный загрузчик. Аналог метрики req_count_total {service=»csv-uploader», function=»upload rest-uploader»}.

req_error_count_total

service= «csv-uploader»

function= «upsert to table»

Число ошибок в запросах на загрузку данных.

service= «csv-uploader»

function= «delete from table»

Число ошибок в запросах на удаление данных.

service= «csv-uploader»

function= «upsert multipart»

Число ошибок в запросах на загрузку данных через мультипарт.

service= «csv-uploader»

function= «delete multipart»

Число ошибок в запросах на удаление данных через мультипарт.

service= «csv-uploader»

function= «upload rest-uploader»

Число ошибок в запросах на загрузку отправленных на REST-Uploader или стандартный загрузчик.

req_time_seconds

service= «csv-uploader»

function= «upsert to table»

quantile= «0.95»

Время выполнения запросов на загрузку данных для заданного квантиля.

service= «csv-uploader»

function= «delete from table»

quantile= «0.95»

Время выполнения запросов на удаление данных для заданного квантиля.

service= «csv-uploader»

function= «upsert multipart»

quantile= «0.95»

Время выполнения запросов на загрузку данных через мультипарт для заданного квантиля.

service= «csv-uploader»

function= «delete multipart»

quantile= «0.95»

Время выполнения запросов на удаление данных через мультипарт для заданного квантиля.

service= «csv-uploader»

function= «upload rest-uploader»

quantile= «0.95»

Время выполнения запросов на загрузку отправленных на REST-Uploader или стандартный загрузчик для заданного квантиля.

req_time_seconds_max

service= «csv-uploader»

function= «upsert to table»

Максимальное время выполнения запросов на загрузку данных для заданного квантиля.

service= «csv-uploader»

function= «delete from table»

Максимальное время выполнения запросов на удаление данных для заданного квантиля.

service= «csv-uploader»

function= «upsert multipart»

Максимальное время выполнения запросов на загрузку данных через мультипарт для заданного квантиля.

service= «csv-uploader»

function= «delete multipart»

Максимальное время выполнения запросов на удаление данных через мультипарт для заданного квантиля.

service= «csv-uploader»

function= «upload rest-uploader»

Максимальное время выполнения запросов на загрузку отправленных на REST-Uploader или стандартный загрузчик для заданного квантиля.

req_time_seconds_sum

service= «csv-uploader»

function= «upsert to table»

Суммарное время выполнения запросов на загрузку данных для заданного квантиля.

service= «csv-uploader»

function= «delete from table»

Суммарное время выполнения запросов на удаление данных для заданного квантиля.

service= «csv-uploader»

function= «upsert multipart»

Суммарное время выполнения запросов на загрузку данных через мультипарт для заданного квантиля.

service= «csv-uploader»

function= «delete multipart»

Суммарное время выполнения запросов на удаление данных через мультипарт для заданного квантиля.

service= «csv-uploader»

function= «upload rest-uploader»

Суммарное время выполнения запросов на загрузку отправленных на REST-Uploader или стандартный загрузчик для заданного квантиля.

Настроенный дашборд CSV-Uploader для Grafana приложен в файле ниже:

Настроенный дашборд CSV-Uploader

7.7. Метрики насыщения ресурсов

Приведенные ниже метрики публикуются для всех модулей Компонента. Метрики применяются для контроля использования ресурсов.

  1. process_cpu_usage - использование процессора;

  2. jvm_memory_used_bytes - использование памяти:

  • jvm_memory_used_bytes{area="heap", id="PS Survivor Space",};

  • jvm_memory_used_bytes{area="heap", id="PS Old Gen",};

  • jvm_memory_used_bytes{area="heap", id="PS Eden Space",};

  • jvm_memory_used_bytes{area="nonheap", id="Metaspace",};

  • jvm_memory_used_bytes{area="nonheap", id="Code Cache",};

  • jvm_memory_used_bytes{area="nonheap", id="Compressed Class Space",};

  • jvm_buffer_memory_used_bytes{id="direct",};

  • jvm_buffer_memory_used_bytes{id="mapped",}.