Компонент «Витрина данных»

Release Notes

  • Обновления Компонента «Витрина данных»
    • Версия 2.2.0
    • Версия 2.1.0
    • Версия 2.0.0
    • Версия 1.17.6
    • Версия 1.17.5
    • Версия 1.17.4
    • Версия 1.17.3
    • Версия 1.17.2
    • Версия 1.17.1
    • Версия 1.17.0
    • Версия 1.16.4
    • Версия 1.16.3
    • Версия 1.16.2
    • Версия 1.16.1
    • Версия 1.16.0
    • Версия 1.15.0
    • Версия 1.14.0
    • Версия 1.13.1
    • Версия 1.13.0
    • Версия 1.12.0
    • Версия 1.11.1
    • Версия 1.11.0

Документация Компонента

  • Техническое описание Компонента
    • 1. Общие сведения
      • 1.1. Обозначение и наименование Компонента
      • 1.2. Назначение Компонента
      • 1.3. Возможности Компонента
      • 1.4. Показатели назначения Компонента
      • 1.5. Требования к каналам связи
      • 1.6. Режим работы Компонента
        • 1.6.1. Штатный режим
        • 1.6.2. Сервисный режим
        • 1.6.3. Аварийный режим
        • 1.6.4. Остановка
      • 1.7. Используемые языки программирования
      • 1.8. Требования к персоналу
        • 1.8.1. Требования к системному администратору
        • 1.8.2. Требования к программисту
    • 2. Структура Компонента «Витрина данных»
      • 2.1. Составные части Компонента «Витрина данных»
      • 2.2. Состав модулей в дистрибутиве
      • 2.3. Cвязи между модулями
      • 2.4. Модули Витрины данных
        • 2.4.1. CSV-Uploader
          • 2.4.1.1. Общее описание
            • 2.4.1.1.1. Общая схема взаимодействия через CSV-uploader
        • 2.4.2. DATA-Uploader – Модуль исполнения асинхронных заданий
          • 2.4.2.1. Общее описание
        • 2.4.3. REST-Uploader – Модуль асинхронной загрузки данных из сторонних источников
          • 2.4.3.1. Общее описание
          • 2.4.3.2. Проверка форматно-логического контроля
            • 2.4.3.2.1. Синхронная проверка ФЛК
            • 2.4.3.2.2. Асинхронная проверка
          • 2.4.3.3. Статусная модель
        • 2.4.4. BLOB-адаптер
          • 2.4.4.1. Общее описание
          • 2.4.4.2. Общая схема взаимодействия через BLOB-адаптер
          • 2.4.4.3. Взаимодействие через СМЭВ-адаптер
            • 2.4.4.3.1. Схема взаимодействия через СМЭВ-адаптер
            • 2.4.4.3.2. Процесс обработки запроса на получение BLOB-объекта (СМЭВ4-адаптер)
          • 2.4.4.4. Взаимодействие через СМЭВ3-адаптер
            • 2.4.4.4.1. Схема взаимодействия через СМЭВ3-адаптер
            • 2.4.4.4.2. Процесс обработки запроса на получение BLOB-объекта (через СМЭВ3-адаптер)
          • 2.4.4.5. Требования к серверу BLOB-адаптера
          • 2.4.4.6. Требования к Хранилищу BLOB-объектов
          • 2.4.4.7. Требования к предоставляемому интерфейсу Хранилища BLOB-объектов (API-интерфейс)
        • 2.4.5. Сервис формирования документов
          • 2.4.5.1. Общее описание
            • 2.4.5.1.1. Процесс обработки запроса через модуль «Сервис Формирования документов»
            • 2.4.5.1.2. Общая схема взаимодействия модуль «Сервис Формирования документов»
            • 2.4.5.1.3. Примеры шаблонов
            • 2.4.5.1.4. REST запрос к сервису
        • 2.4.6. СМЭВ QL Сервер
          • 2.4.6.1. Назначение СМЭВ QL сервера
            • 2.4.6.1.1. О системе
            • 2.4.6.1.2. Цели СМЭВ QL сервера
            • 2.4.6.1.3. Задачи СМЭВ QL сервера
            • 2.4.6.1.4. Место СМЭВ QL сервера в ИТ-ландшафте
            • 2.4.6.1.5. Язык и синтаксис
            • 2.4.6.1.6. Типизация
            • 2.4.6.1.7. Моделирование данных
            • 2.4.6.1.8. Метрики
        • 2.4.7. СМЭВ3-адаптер
          • 2.4.7.1. Общее описание
          • 2.4.7.2. Схема взаимодействия
        • 2.4.8. Сервис генерации уникального номера (Counter-Provider)
          • 2.4.8.1. Общее описание
        • 2.4.9. ETL - Модуль загрузки/ удаления данных
      • 2.5. Связи с другими программами
      • 2.6. Карта портов
    • 3. Архитектура Компонента «Витрина данных»
      • 3.1. Общая архитектурная схема
      • 3.2. Общая модульная схема
      • 3.3. Схема развертывания конфигурации Лайт
      • 3.4. Алгоритм работы Компонента «Витрина данных» конфигурации Стандарт
      • 3.5. Описание логической структуры конфигурации Лайт
    • 4. Выходные данные
    • 5. Вызов и загрузка
    • 1. Приложение 1. Пример XML-файла со структурой витрины
    • 6. Термины и определения
  • Руководство по установке
    • 1. Общие сведения о Компоненте
      • 1.1. Обозначение и наименование программы
      • 1.2. Назначение Компонента
      • 1.3. Возможности Компонента
      • 1.4. Операционная система
      • 1.5. Рекомендуемые технические и программные средства
      • 1.6. Модули программы
    • 2. Подготовка к установке
      • 2.1. Предварительные действия
        • 2.1.1. Установка операционной системы
        • 2.1.2. Создание пользователя datamart
          • 2.1.2.1. Создание пользователя
          • 2.1.2.2. Отключение пароля
          • 2.1.2.3. Добавление пользователя в группу администраторов
        • 2.1.3. Настройка межсетевого экрана
          • 2.1.3.1. Для РЕД ОС
          • 2.1.3.2. Для AltOS
        • 2.1.4. Выбор часового пояса
        • 2.1.5. Установка сервиса синхронизации времени
        • 2.1.6. Настройка имен хостов (FQDN) на серверах
        • 2.1.7. Установка Java SE Development Kit 17.0.7
        • 2.1.8. Подключение к серверу через SSH-клиент PuTTY
        • 2.1.9. Создание SSH-ключей
        • 2.1.10. Копирование SSH-ключей на сервер
        • 2.1.11. Копирование архива программы
        • 2.1.12. Распаковка архива
        • 2.1.13. Установка Docker
          • 2.1.13.1. Установка Docker в РЕД ОС
          • 2.1.13.2. Установка Docker в AltOS
        • 2.1.14. Установка библиотеки python-docker-py
        • 2.1.15. Настройка логирования в Docker
        • 2.1.16. Перезапуск Docker
        • 2.1.17. Добавление пользователя в группу Docker
        • 2.1.18. Настройка Ansible
    • 3. Требования к серверам конфигурации Стандарт
      • 3.1. Требования к серверу Prostore
      • 3.2. Требования к серверу Arenadata Cluster Manager (ADCM)
      • 3.3. Требования к серверу «СМЭВ3-адаптер»
      • 3.4. Требования к сервису «Агент СМЭВ4»
      • 3.5. Требования к серверу «ETL»
    • 4. Установка Компонента
      • 4.1. Установка Компонента «Витрина данных» конфигурации Стандарт
        • 4.1.1. Порядок установки
        • 4.1.2. Установка ПО Prostore
        • 4.1.3. Установка СМЭВ QL Сервера
          • 4.1.3.1. Процесс установки
            • 4.1.3.1.1. Настройка конфигурации
            • 4.1.3.1.2. Загрузка JAR-файла на сервер
        • 4.1.4. Установка СМЭВ3-адаптера
          • 4.1.4.1. Установка модуля
            • 4.1.4.1.1. Установка КриптоПро
          • 4.1.4.2. Процесс установки
            • 4.1.4.2.1. Настройка конфигурации
            • 4.1.4.2.2. Добавление папки для загрузки файлов модуля
            • 4.1.4.2.3. Загрузка файлов на сервер
            • 4.1.4.2.4. Кластеризация модуля
        • 4.1.5. Установка DATA-uploder – Модуля исполнения асинхронных заданий
          • 4.1.5.1. Процесс установки
            • 4.1.5.1.1. Настройка конфигурации
            • 4.1.5.1.2. Загрузка JAR-файла на сервер
        • 4.1.6. Установка REST-uploader – Модуля асинхронной загрузки данных из сторонних источников
          • 4.1.6.1. Процесс установки
            • 4.1.6.1.1. Настройка конфигурации
            • 4.1.6.1.2. Загрузка JAR-файла на сервер
        • 4.1.7. Установка BLOB-адаптера
          • 4.1.7.1. Установка модуля
            • 4.1.7.1.1. Настройка конфигурации
            • 4.1.7.1.2. Добавление папки для загрузки файлов модуля
            • 4.1.7.1.3. Загрузка файлов на сервер
        • 4.1.8. Установка Сервиса формирования документов
          • 4.1.8.1. Установки модуля
            • 4.1.8.1.1. Установка модуля
            • 4.1.8.1.2. Настройка конфигурации
            • 4.1.8.1.3. Добавление папки для загрузки файлов модуля
            • 4.1.8.1.4. Загрузка файлов на сервер
            • 4.1.8.1.5. Кластеризация модуля
        • 4.1.9. Загрузка и удаление данных через ETL
          • 4.1.9.1. Общее описание
            • 4.1.9.1.1. Общие положения
          • 4.1.9.2. Особенности реализации
            • 4.1.9.2.1. Основные требования к исходным файлам
            • 4.1.9.2.2. Особенности реализации ETL
            • 4.1.9.2.3. Получение токена Рroxy API
          • 4.1.9.3. Загрузка / удаление данных
            • 4.1.9.3.1. Загрузка/ удаление данных
          • 4.1.9.4. Проверка статусной информации по загрузке
          • 4.1.9.5. Проверка статусной информации по загрузке / удалению данных (Endpoint – status)
          • 4.1.9.6. Работа с вложениями через S3
            • 4.1.9.6.1. Работа с вложениями через S3
          • 4.1.9.7. Маппинг данных
            • 4.1.9.7.1. Маппинг данных (Endpoint – generateMapping)
          • 4.1.9.8. Валидация данных
            • 4.1.9.8.1. Валидация данных
        • 4.1.10. Установка Apache Airflow
          • 4.1.10.1. Подготовка конфигурации
          • 4.1.10.2. Установка Apache Airflow
        • 4.1.11. Установка Apache Spark
          • 4.1.11.1. Подготовка конфигурации
          • 4.1.11.2. Установка
        • 4.1.12. Установка Apache Hadoop
          • 4.1.12.1. Подготовка конфигурации
          • 4.1.12.2. Процесс установки
        • 4.1.13. Установка Tarantool (Vinyl)
          • 4.1.13.1. Подготовка конфигурации
          • 4.1.13.2. Процесс установки
        • 4.1.14. Установка CSV-Uploader
          • 4.1.14.1. Процесс установки CSV-uploader
            • 4.1.14.1.1. Настройка конфигурации
            • 4.1.14.1.2. Загрузка JAR-файла на сервер
        • 4.1.15. Установка Counter-provider
          • 4.1.15.1. Процесс установки
            • 4.1.15.1.1. Настройка конфигурации
            • 4.1.15.1.2. Загрузка JAR-файла на сервер
        • 4.1.16. Установка коннектора Kafka-Postgres
        • 4.1.17. Установка Arenadata Cluster Manager (ADCM)
        • 4.1.18. Установка сервиса сбора данных запросов и ответов Витрины данных
          • 4.1.18.1. Процесс установки
            • 4.1.18.1.1. Настройка логирования модулей
            • 4.1.18.1.2. Установка и настройка Vector
            • 4.1.18.1.3. Установка и настройка HaProxy
            • 4.1.18.1.4. Установка и настройка FluentBit
            • 4.1.18.1.5. Установка и настройка ClickHouse
      • 4.2. Установка Компонента «Витрина данных» конфигурации лайт
        • 4.2.1. Настройка конфигурационного файла
        • 4.2.2. Установка Компонента
      • 4.3. Установка системы мониторинга
        • 4.3.1. Установка Prometheus на Bare metal
          • 4.3.1.1. Подготовка сервера
          • 4.3.1.2. Установка Prometheus
            • 4.3.1.2.1. Загрузка
            • 4.3.1.2.2. Установка (копирование файлов)
            • 4.3.1.2.3. Назначение прав
            • 4.3.1.2.4. Запуск и проверка
            • 4.3.1.2.5. Автозапуск
        • 4.3.2. Установка Grafana на Bare metal
          • 4.3.2.1. Настройка брэндмауэра
          • 4.3.2.2. Запуск Grafana
        • 4.3.3. Установка Prometheus и Grafana в Docker
      • 4.4. Подключение к Агенту СМЭВ4
    • 5. Проверка Компонента
      • 5.1. Проверка Компонента «Витрина данных» конфигурации Стандарт
        • 5.1.1. Проверка Arenadata Cluster Manager (ADCM)
        • 5.1.2. Проверка ПО ProStore
        • 5.1.3. Проверка СМЭВ QL Сервера
          • 5.1.3.1. Проверки и валидации
        • 5.1.4. Проверка СМЭВ3-адаптера
          • 5.1.4.1. Проверка модуля
        • 5.1.5. Проверка DATA-Uploder – Модуля исполнения асинхронных заданий
          • 5.1.5.1. Проверка модуля
        • 5.1.6. Проверка REST-Uploader – Модуля асинхронной загрузки данных из сторонних источников
          • 5.1.6.1. Проверка модуля
        • 5.1.7. Проверка BLOB-адаптера
          • 5.1.7.1. Проверка модуля
        • 5.1.8. Проверка Сервиса формирования документов
          • 5.1.8.1. Проверка модуля
        • 5.1.9. Проверка ETL
          • 5.1.9.1. Проверка статусной информации по загрузке / удалению данных (Endpoint – status)
          • 5.1.9.2. Проверка Apache Airflow
          • 5.1.9.3. Проверка Apache Spark
          • 5.1.9.4. Проверка Apache Hadoop
          • 5.1.9.5. Проверка Tarantool(Vinyl)
        • 5.1.10. Проверка Counter-Provider – Сервиса генерации уникального номера
          • 5.1.10.1. Проверка модуля
      • 5.2. Проверка Компонента «Витрина данных» конфигурации Лайт
    • 6. Обновление Компонента
      • 6.1. Обновление Компонента «Витрина данных» конфигурации Стандарт
      • 6.2. Обновление Компонента «Витрина данных» конфигурации Лайт
        • 6.2.1. Обновление с версии 1.0.0 до версии 1.0.1
          • 6.2.1.1. Резервное копирование
          • 6.2.1.2. Копирование архива с обновлением Компонента на сервер
          • 6.2.1.3. Распаковка архива с обновлением
          • 6.2.1.4. Процесс обновления Компонента
          • 6.2.1.5. Проверка обновления Компонента до версии 1.0.1
        • 6.2.2. Обновление с версии 1.0.1 до версии выше
          • 6.2.2.1. Резервное копирование
          • 6.2.2.2. Копирование архива с обновлением Компонента на сервер
          • 6.2.2.3. Распаковка архива с обновлением
          • 6.2.2.4. Процесс обновления Компонента
          • 6.2.2.5. Проверка обновления Компонента
    • 7. Приложение 1. Настройка firewall (Iptables)
    • 8. Приложение 2. Просмотр выполнения загрузки данных в программу
      • 8.1. Настройка подключения к базе данных
        • 8.1.1. Установка программы DBeaver
          • 8.1.1.1. Установка DBeaver для ОС Linux
          • 8.1.1.2. Установка DBeaver для ОС Windows
        • 8.1.2. Установка и настройка JDBC-драйвера
          • 8.1.2.1. Установка и настройка JDBC-драйвера для ОС Windows
          • 8.1.2.2. Подключение к базе данных
          • 8.1.2.3. Установка и настройка драйвера JDBC-драйвер для ОС Linux
          • 8.1.2.4. Подключение к базе данных
        • 8.1.3. Проверка загрузки данных в БД
        • 8.1.4. Создание тестовой БД
        • 8.1.5. Загрузка данных
    • 9. Приложение 3. Рекомендации по конфигурированию инфраструктуры Типового «ПО Витрина данных»
      • 9.1. Рекомендованные параметры технических средств
      • 9.2. Рекомендованные параметры программных средств
      • 9.3. Показатели производительности при использовании рекомендуемых операционных систем
        • 9.3.1. Профиль нагрузки испытаний
        • 9.3.2. Результаты тестирования конфигурации Стандарт
        • 9.3.3. Результаты тестирования конфигурации Лайт
    • 6. Термины и определения
  • Руководство администратора
    • 1. Общие сведения о Компоненте
      • 1.1. Назначение Компонента
      • 1.2. Возможности Компонента
      • 1.3. Технические и программные средства
    • 2. Настройка Компонента
      • 2.1. Настройка технических средств
      • 2.2. Настройка программных средств
        • 2.2.1. Настройка ProStore
          • 2.2.1.1. Настройка Сервиса исполнения запросов (query-execution)
          • 2.2.1.2. Настройка коннекторов
        • 2.2.2. Настройка СМЭВ QL Сервера
          • 2.2.2.1. Конфигурирование сервера
            • 2.2.2.1.1. Конфигурация файла application.yml
            • 2.2.2.1.2. Конфигурация файла credentials.yml
            • 2.2.2.1.3. Общий сценарий выполнения
        • 2.2.3. Настройка СМЭВ3-адаптера
          • 2.2.3.1. Конфигурация СМЭВ3-адаптер (application.yml)
            • 2.2.3.1.1. Пример файла application.yml
          • 2.2.3.2. Параметры конфигурации
            • 2.2.3.2.1. Секция vertx
            • 2.2.3.2.2. Секция spring
            • 2.2.3.2.3. Секция iua
            • 2.2.3.2.4. Секция smev
            • 2.2.3.2.5. Секция receiver
            • 2.2.3.2.6. Секция persistence-mode
            • 2.2.3.2.7. Секция prostore-rest-client
            • 2.2.3.2.8. Секция prostore-persistence
            • 2.2.3.2.9. Секция environment
            • 2.2.3.2.10. Секция zookeeper
            • 2.2.3.2.11. Секция migration
            • 2.2.3.2.12. Секция paramstorage
            • 2.2.3.2.13. Секция deltastorage
            • 2.2.3.2.14. Секция sign
            • 2.2.3.2.15. Секция blob
            • 2.2.3.2.16. Секция rest
            • 2.2.3.2.17. Секция scheduler
            • 2.2.3.2.18. Секция pool
            • 2.2.3.2.19. Секция logging
            • 2.2.3.2.20. Секция http-server
            • 2.2.3.2.21. Секция backup
            • 2.2.3.2.22. Секция spf
            • 2.2.3.2.23. Секция dynamic-config
            • 2.2.3.2.24. Секция component-info
        • 2.2.4. Настройка CSV-Uploader
          • 2.2.4.1. Конфигурация CSV-uploader (application.yml)
            • 2.2.4.1.1. Пример файла application.yml
          • 2.2.4.2. Параметры конфигурации
            • 2.2.4.2.1. Секция http-server
            • 2.2.4.2.2. Секция file-size
            • 2.2.4.2.3. Секция logging.level
            • 2.2.4.2.4. Секция environment
            • 2.2.4.2.5. Секция prostore-rest-client
            • 2.2.4.2.6. Секция validation
            • 2.2.4.2.7. Секция upload
            • 2.2.4.2.8. Секция csv-parser
            • 2.2.4.2.9. Секция metrics
            • 2.2.4.2.10. Секция backup
        • 2.2.5. Настройка DATA-Uploader – Модуль исполнения асинхронных заданий
          • 2.2.5.1. Конфигурация модуля DATA-Uploader (application.yml)
            • 2.2.5.1.1. Пример файла application.yml
          • 2.2.5.2. Параметры конфигурации
            • 2.2.5.2.1. Секция http-server
            • 2.2.5.2.2. Секция persistence-mode
            • 2.2.5.2.3. Секция prostore-rest-client
            • 2.2.5.2.4. Секция redis
            • 2.2.5.2.5. Секция upload
            • 2.2.5.2.6. Секция data-storage
            • 2.2.5.2.7. Секция environment
            • 2.2.5.2.8. Секция zookeeper
            • 2.2.5.2.9. Секция csv-parser
            • 2.2.5.2.10. Секция active
            • 2.2.5.2.11. Секция delta
            • 2.2.5.2.12. Секция stream
            • 2.2.5.2.13. Секция response
            • 2.2.5.2.14. Секция component-info
            • 2.2.5.2.15. Секция metrics
        • 2.2.6. Настройка REST-Uploader – Модуль асинхронной загрузки данных из сторонних источников
          • 2.2.6.1. Конфигурация модуля REST-Uploader (application.yml)
            • 2.2.6.1.1. Пример файла application.yml
          • 2.2.6.2. Параметры конфигурации
            • 2.2.6.2.1. Секция http-server
            • 2.2.6.2.2. Секция executor
            • 2.2.6.2.3. Секция file-size
            • 2.2.6.2.4. Секция environment
            • 2.2.6.2.5. Секция data-storage
            • 2.2.6.2.6. Секция conditions
            • 2.2.6.2.7. Секция zookeeper
            • 2.2.6.2.8. Секция persistence-mode
            • 2.2.6.2.9. Секция prostore-rest-client
            • 2.2.6.2.10. Секция response
            • 2.2.6.2.11. Секция control
            • 2.2.6.2.12. Секция redis
            • 2.2.6.2.13. Секция auth
            • 2.2.6.2.14. Секция metrics
            • 2.2.6.2.15. Секция csv-parser
            • 2.2.6.2.16. Секция backup
            • 2.2.6.2.17. Секция component-info
          • 2.2.6.3. Проверка форматно-логического контроля
            • 2.2.6.3.1. Синхронная проверка ФЛК
            • 2.2.6.3.2. Асинхронная проверка
          • 2.2.6.4. Статусная модель
          • 2.2.6.5. Спецификация модуля асинхронной загрузки данных из сторонних источников
        • 2.2.7. Настройка BLOB-адаптера
          • 2.2.7.1. Конфигурация BLOB-адаптера (application.yml)
            • 2.2.7.1.1. Пример файла application.yml
          • 2.2.7.2. Параметры конфигурации
            • 2.2.7.2.1. Секция http-server
            • 2.2.7.2.2. Секция executor
            • 2.2.7.2.3. Секция vertx
            • 2.2.7.2.4. Секция blob
            • 2.2.7.2.5. Секция logging
            • 2.2.7.2.6. Секция prostore-rest-client
            • 2.2.7.2.7. Секция component-info
            • 2.2.7.2.8. Секция metrics
        • 2.2.8. Настройка Сервиса формирования документов
          • 2.2.8.1. Конфигурация Сервиса Формирования документов (application.yml)
            • 2.2.8.1.1. Пример файла application.yml
          • 2.2.8.2. Параметры конфигурации
            • 2.2.8.2.1. Секция http-server
            • 2.2.8.2.2. Секция executor
            • 2.2.8.2.3. Секция prostore-rest-client
            • 2.2.8.2.4. Секция metrics
            • 2.2.8.2.5. Секция counter-service
            • 2.2.8.2.6. Секция sign-service
            • 2.2.8.2.7. Секция notarius
            • 2.2.8.2.8. Секция printable-forms
            • 2.2.8.2.9. Секция component-info
          • 2.2.8.3. Примеры pebble-шаблонов для Сервиса Формирования документов
            • 2.2.8.3.1. Возможность вызова REST-сервисов из шаблона Сервиса Формирования документов
            • 2.2.8.3.2. Pebble-шаблон для обработки поступившего запроса и формирования json-файла
            • 2.2.8.3.3. Pebble-шаблон для формирования xml-документа
            • 2.2.8.3.4. Pebble-шаблон для формирования pdf-документа
        • 2.2.9. Настройка Counter-provider – Сервиса генерации уникального номера
          • 2.2.9.1. Конфигурация модуля Counter-Provider (application.yml)
          • 2.2.9.2. Пример файла application.yml
          • 2.2.9.3. Параметры конфигурации
            • 2.2.9.3.1. Секция environment
            • 2.2.9.3.2. Секция http-server
            • 2.2.9.3.3. Секция counter
            • 2.2.9.3.4. Секция zookeeper
            • 2.2.9.3.5. Секция persistence-mode
            • 2.2.9.3.6. Секция prostore-rest-client
            • 2.2.9.3.7. Секция migration
            • 2.2.9.3.8. Секция backup
            • 2.2.9.3.9. Секция component-info
            • 2.2.9.3.10. Секция metrics
        • 2.2.10. Настройка Arenadata Cluster Manager (ADCM)
        • 2.2.11. Настройка сервиса журналирования
        • 2.2.12. Установка компонента сбора данных запросов и ответов Витрины данных
          • 2.2.12.1. Процесс установки
            • 2.2.12.1.1. Настройка логирования модулей
            • 2.2.12.1.2. Установка и настройка Vector
            • 2.2.12.1.3. Установка и настройка HaProxy
            • 2.2.12.1.4. Установка и настройка Fluent bit
            • 2.2.12.1.5. Работа с БД ClickHouse
            • 2.2.12.1.6. Включение / выключение отправки сообщений в СЦЛ
        • 2.2.13. Настройка Агента СМЭВ4
          • 2.2.13.1. Настройка взаимодействия Компонента с Агентом СМЭВ4
      • 2.3. Настройка сервиса мониторинга
        • 2.3.1. Предоставление источника данных
        • 2.3.2. Предоставление информационной панели
          • 2.3.2.1. Настройка конфигурационного файла Prometheus
          • 2.3.2.2. Health check
            • 2.3.2.2.1. BLOB-Adapter
            • 2.3.2.2.2. Сервис печатных форм
            • 2.3.2.2.3. СМЭВ3 адаптер
    • 3. Запуск и остановка Компонента
      • 3.1. Prostore
        • 3.1.1. Запуск
      • 3.2. СМЭВ QL Сервер
        • 3.2.1. Быстрый старт
          • 3.2.1.1. Создание и конфигурация
          • 3.2.1.2. Запуск и управление
          • 3.2.1.3. Работа с сервером
            • 3.2.1.3.1. Генераторы
          • 3.2.1.4. Сборка проекта
      • 3.3. СМЭВ3-адаптер
        • 3.3.1. Запуск модуля
        • 3.3.2. Остановка модуля
      • 3.4. CSV-Uploader
        • 3.4.1. Запуск CSV-uploader
        • 3.4.2. Остановка модуля
      • 3.5. DATA-uploader – Модуль исполнения асинхронных заданий
        • 3.5.1. Запуск модуля
        • 3.5.2. Остановка модуля
      • 3.6. REST-Uploader – Модуль асинхронной загрузки данных из сторонних источников
        • 3.6.1. Запуск модуля
        • 3.6.2. Остановка модуля
        • 3.6.3. Добавление поставщика данных
      • 3.7. BLOB-адаптер
        • 3.7.1. Запуск модуля
        • 3.7.2. Остановка модуля
      • 3.8. Сервис формирования документов
        • 3.8.1. Запуск модуля
        • 3.8.2. Остановка модуля
      • 3.9. ETL
        • 3.9.1. Apache Airflow
          • 3.9.1.1. Запуск
          • 3.9.1.2. Остановка
        • 3.9.2. Apache Spark
          • 3.9.2.1. Запуск
          • 3.9.2.2. Остановка
        • 3.9.3. Apache Hadoop
          • 3.9.3.1. Запуск
          • 3.9.3.2. Остановка
        • 3.9.4. Tarantool (Vynil)
          • 3.9.4.1. Запуск
          • 3.9.4.2. Остановка
      • 3.10. Counter-provider – Сервис генерации уникального номера
        • 3.10.1. Запуск модуля
        • 3.10.2. Остановка модуля
      • 3.11. Arenadata Cluster Manager (ADCM)
        • 3.11.1. Запуск
        • 3.11.2. Остановка
    • 4. Бекапирование Компонента «Витрина данных»
      • 4.1. Реализация бекапирования в слое адаптеров Компонента «Витрина данных»
        • 4.1.1. Работа модулей для обеспечения резервного копирования
          • 4.1.1.1. Сообщения в топиках команд
          • 4.1.1.2. Статусы модулей
            • 4.1.1.2.1. Значения статусов
      • 4.2. Механизм приостановки модулей, требующих консистентности с Prostore
        • 4.2.1. Приостановка модулей, требующих консистентности с Prostore
        • 4.2.2. Восстановление модулей, требующих консистентности с Prostore
      • 4.3. Механизм резервного копирования и восстановления из резервной копии в модулях слоя адаптеров
        • 4.3.1. Механизм резервного копирования модулей слоя адаптеров
        • 4.3.2. Механизм восстановления из резервной копии модулей слоя адаптеров
      • 4.4. Поведение в случае ошибок при выполнении резервного копирования
        • 4.4.1. Ошибки резервного копирования и восстановления из резервной копии
    • 5. Дополнительные возможности
      • 5.1. Дополнительные возможности конфигурации Стандарт
        • 5.1.1. Установки опциональных приложений
        • 5.1.2. Материлиазованные представления
        • 5.1.3. Маршрутизация запросов к материализованным представлениям
        • 5.1.4. Логирование
        • 5.1.5. Миграция из Bare metal варианта установки в Kubernetes
          • 5.1.5.1. Примеры инструкций по развертыванию Prostore в Kubernetes
      • 5.2. Дополнительные возможности конфигурации Лайт
        • 5.2.1. Логирование
        • 5.2.2. Проверка версии компонентов
    • 6. Сообщения администратору
      • 6.1. Сообщения в ходе установки и настройки Компонента
      • 6.2. Сообщения при эксплуатации Компонента
    • 7. Метрики в модулях Компонента «Витрина данных»
    • 8. Приложение 1. Эксплуатация CSV-Uploader
      • 8.1. Инструкция по эксплуатации CSV-Uploader
        • 8.1.1. Общие правила формата загружаемых CSV-файлов
        • 8.1.2. Загрузка структуры Витрины
        • 8.1.3. Выгрузка шаблона CSV
        • 8.1.4. Загрузка CSV-файла
        • 8.1.5. Загрузка CSV-файла с предварительным форматно-логическим контролем
        • 8.1.6. Обязательная загрузка данных с предварительным форматно-логическим контролем
        • 8.1.7. Аутентификация с использованием jwt-токена при включенной аутентификации в модуле REST-Uploader
        • 8.1.8. Настройки CSV-uploader
        • 8.1.9. Автоматический запуск загрузки CSV-файлов по расписанию
        • 8.1.10. Настройка Журнала операций
        • 8.1.11. Просмотр Журнала операций
        • 8.1.12. Интерфейс Форматно-логического контроля
    • 9. Приложение 2. Пример XML-файла со структурой витрины
    • 6. Термины и определения

Модули Компонента

  • BLOB-адаптер
    • 1. Общее описание
    • 2. Общая схема взаимодействия через BLOB-адаптер
    • 3. Взаимодействие через СМЭВ-адаптер
      • 3.1. Схема взаимодействия через СМЭВ-адаптер
      • 3.2. Процесс обработки запроса на получение BLOB-объекта (СМЭВ4-адаптер)
    • 4. Взаимодействие через СМЭВ3-адаптер
      • 4.1. Схема взаимодействия через СМЭВ3-адаптер
      • 4.2. Процесс обработки запроса на получение BLOB-объекта (через СМЭВ3-адаптер)
    • 5. Требования к серверу BLOB-адаптера
    • 6. Требования к Хранилищу BLOB-объектов
    • 7. Требования к предоставляемому интерфейсу Хранилища BLOB-объектов (API-интерфейс)
    • 8. Конфигурация BLOB-адаптера (application.yml)
      • 8.1. Пример файла application.yml
    • 9. Параметры конфигурации
      • 9.1. Секция http-server
      • 9.2. Секция executor
      • 9.3. Секция vertx
      • 9.4. Секция blob
      • 9.5. Секция logging
      • 9.6. Секция prostore-rest-client
      • 9.7. Секция component-info
      • 9.8. Секция metrics
    • 10. Установка модуля
      • 10.1. Настройка конфигурации
      • 10.2. Добавление папки для загрузки файлов модуля
      • 10.3. Загрузка файлов на сервер
    • 11. Запуск модуля
    • 12. Остановка модуля
    • 13. Проверка модуля
    • 14. Спецификация модуля «BLOB-адаптер»
      • 14.1. blob.rq
      • 14.2. blob.rs
      • 14.3. blob.err
  • Сервис Формирования документов
    • 1. Общее описание
      • 1.1. Процесс обработки запроса через модуль «Сервис Формирования документов»
      • 1.2. Общая схема взаимодействия модуль «Сервис Формирования документов»
      • 1.3. Примеры шаблонов
        • 1.3.1. Шаблон extract_data.peb
        • 1.3.2. Шаблон generate_xml.peb
        • 1.3.3. Шаблон generate_pdf.peb
      • 1.4. REST запрос к сервису
    • 2. Конфигурация Сервиса Формирования документов (application.yml)
      • 2.1. Пример файла application.yml
    • 3. Параметры конфигурации
      • 3.1. Секция http-server
      • 3.2. Секция executor
      • 3.3. Секция prostore-rest-client
      • 3.4. Секция metrics
      • 3.5. Секция counter-service
      • 3.6. Секция sign-service
      • 3.7. Секция notarius
      • 3.8. Секция printable-forms
      • 3.9. Секция component-info
    • 4. Примеры pebble-шаблонов для Сервиса Формирования документов
      • 4.1. Возможность вызова REST-сервисов из шаблона Сервиса Формирования документов
      • 4.2. Pebble-шаблон для обработки поступившего запроса и формирования json-файла
      • 4.3. Pebble-шаблон для формирования xml-документа
      • 4.4. Pebble-шаблон для формирования pdf-документа
    • 5. Установки модуля
      • 5.1. Установка модуля
      • 5.2. Настройка конфигурации
      • 5.3. Добавление папки для загрузки файлов модуля
      • 5.4. Загрузка файлов на сервер
      • 5.5. Кластеризация модуля
    • 6. Запуск модуля
    • 7. Остановка модуля
    • 8. Проверка модуля
  • СМЭВ QL сервер
    • 1. Назначение СМЭВ QL сервера
      • 1.1. О системе
      • 1.2. Цели СМЭВ QL сервера
      • 1.3. Задачи СМЭВ QL сервера
      • 1.4. Место СМЭВ QL сервера в ИТ-ландшафте
      • 1.5. Язык и синтаксис
        • 1.5.1. Моделирование
        • 1.5.2. Запросы и ответы
      • 1.6. Типизация
        • 1.6.1. Типы данных в модели и приведение типов
      • 1.7. Моделирование данных
      • 1.8. Метрики
    • 2. Быстрый старт
      • 2.1. Создание и конфигурация
      • 2.2. Запуск и управление
      • 2.3. Работа с сервером
        • 2.3.1. Генераторы
      • 2.4. Сборка проекта
    • 3. Основные понятия СМЭВ QL
      • 3.1. Ресурс
      • 3.2. Машина состояний
      • 3.3. Базовая модель данных
      • 3.4. Модель данных
      • 3.5. Распределённый запрос
    • 4. Функции СМЭВ QL Сервера
      • 4.1. Администрирование и конфигурирование
        • 4.1.1. Создание СМЭВ QL Сервера
        • 4.1.2. Конфигурирование СМЭВ-QL сервер
        • 4.1.3. Запуск, остановка, перезапуск приложения СМЭВ QL сервер
        • 4.1.4. OpenAPI СМЭВ-QL
          • 4.1.4.1. Общее описание
          • 4.1.4.2. Описание спецификации
          • 4.1.4.3. Обновление OpenAPI на основании изменений модели данных
        • 4.1.5. Регистрация OpenAPI СМЭВ QL в СМЭВ4
      • 4.2. Работа с моделями
        • 4.2.1. Создание базовой модели
          • 4.2.1.1. Общее описание
          • 4.2.1.2. Общий сценарий выполнения
          • 4.2.1.3. Описание базовой модели
        • 4.2.2. Генерация модели данных
          • 4.2.2.1. Общее описание
          • 4.2.2.2. Сценарий выполнения
          • 4.2.2.3. Описание модели данных
          • 4.2.2.4. Пример блока fields
          • 4.2.2.5. Пример блока resources
          • 4.2.2.6. Пример блока connections
          • 4.2.2.7. Пример блока conditions
          • 4.2.2.8. Пример блока extract
          • 4.2.2.9. Пример блока conditions
          • 4.2.2.10. Пример блока fetch
        • 4.2.3. Автоматическое создание модели данных на основе схемы БД
          • 4.2.3.1. Общее описание
          • 4.2.3.2. Сценарий выполнения
        • 4.2.4. Создание новой версии модели данных
          • 4.2.4.1. Общее описание
          • 4.2.4.2. Сценарий выполнения
        • 4.2.5. Проверка валидности модели данных
          • 4.2.5.1. Общее описание
          • 4.2.5.2. Сценарий выполнения
        • 4.2.6. Маппинг типов данных СМЭВ QL - Prostore
      • 4.3. Работа с источниками данных
        • 4.3.1. Создание модели источников
          • 4.3.1.1. Общее описание
          • 4.3.1.2. Общий сценарий выполнения
          • 4.3.1.3. Структура source.yaml
        • 4.3.2. Создание новой версии модели источников
          • 4.3.2.1. Общее описание
          • 4.3.2.2. Сценарий выполнения
        • 4.3.3. Проверка доступности источников
          • 4.3.3.1. Общее описание
          • 4.3.3.2. Сценарий выполнения
      • 4.4. Работа с картами машин состояний
        • 4.4.1. Создание карты машины-состояний
          • 4.4.1.1. Общее описание
          • 4.4.1.2. Структура карты машины состояний
          • 4.4.1.3. Сценарий выполнения
        • 4.4.2. Создание новой версии карты машины-состояний
          • 4.4.2.1. Общее описание
          • 4.4.2.2. Сценарий выполнения
      • 4.5. Обработка запроса к витрине
        • 4.5.1. Запрос получения данных из витрины (POST/data)
          • 4.5.1.1. Общее описание
        • 4.5.2. Запрос изменения данных витрины через события машины состояний (POST/states/{model}/{event})
        • 4.5.3. Обработка запроса получения данных витрины
          • 4.5.3.1. Общее описание
          • 4.5.3.2. Проверка запроса и доступов
          • 4.5.3.3. Формирование плана исполнения запроса
          • 4.5.3.4. Исполнение плана запроса
          • 4.5.3.5. Передача ответа потребителю
          • 4.5.3.6. Пример блока response
          • 4.5.3.7. Пример блока async
          • 4.5.3.8. Пример блока credentials
        • 4.5.4. Асинхронное получение данных клиентом
          • 4.5.4.1. Общее описание
          • 4.5.4.2. Передача асинхронных данных от источника в СМЭВ QL
          • 4.5.4.3. Запрос асинхронных данных потребителем
        • 4.5.5. Обработка запроса изменения данных витрины через машину состояний
          • 4.5.5.1. Общее описание
          • 4.5.5.2. Основной сценарий выполнения
          • 4.5.5.3. Альтернативное направление для событий с типом init
          • 4.5.5.4. Альтернативное направление для событий с блоком confirm
          • 4.5.5.5. Альтернативное направление при переходе в состояние delete
          • 4.5.5.6. Альтернативное направление для событий с блоком hooks
      • 4.6. Уведомления при изменении данных витрины (push-сервис)
        • 4.6.1. Регистрация получателя уведомлений
          • 4.6.1.1. Общее описание
          • 4.6.1.2. Описание запроса POST/push/consumer/create
        • 4.6.2. Удаление получателя уведомлений
          • 4.6.2.1. Общее описание
          • 4.6.2.2. Сценарий выполнения
          • 4.6.2.3. Описание запроса
        • 4.6.3. Запрос списка получателей уведомлений
          • 4.6.3.1. Общее описание
          • 4.6.3.2. Сценарий выполнения
        • 4.6.4. Запрос данных об отслеживаемых ресурсах
          • 4.6.4.1. Общее описание
          • 4.6.4.2. Сценарий выполнения
        • 4.6.5. Передача уведомления при вызове события машины-состояний
          • 4.6.5.1. Общее описание
          • 4.6.5.2. Сценарий выполнения
          • 4.6.5.3. Описание формата уведомления
        • 4.6.6. Регистрация метода для получения уведомлений на стороне клиента
        • 4.6.7. Передача уведомления на основе сообщения топика Prostore
          • 4.6.7.1. Общее описание
          • 4.6.7.2. Сценарий выполнения
    • 5. Компонентная модель СМЭВ QL сервера
      • 5.1. Общее представление
      • 5.2. Схема
      • 5.3. Описание компонентов
    • 6. Конфигурирование сервера
      • 6.1. Конфигурация файла application.yml
        • 6.1.1. Секция ktor
        • 6.1.2. Секция sources
        • 6.1.3. Секция models
        • 6.1.4. Секция states
        • 6.1.5. Секция regulated-query
        • 6.1.6. Секция swagger
        • 6.1.7. Секция storage
        • 6.1.8. Секция access
        • 6.1.9. Секция request
        • 6.1.10. Секция delta
        • 6.1.11. Секция state
        • 6.1.12. Секция index_recommendations
        • 6.1.13. Секция standalone-tables
        • 6.1.14. Секция proxy-tables
        • 6.1.15. Секция push
        • 6.1.16. Секция storage-queue
        • 6.1.17. Секция agent
        • 6.1.18. Секция signature
        • 6.1.19. Секция cls
        • 6.1.20. Секция component-info
      • 6.2. Конфигурация файла credentials.yml
      • 6.3. Общий сценарий выполнения
    • 7. Стейт-машина СМЭВ QL
      • 7.1. Конфигурирование Стейт-машины
      • 7.2. Удаление записи через Стейт-машину
      • 7.3. Передача данных без изменения статуса (статичный ивент)
      • 7.4. Обновление объектов через Стейт-машину
      • 7.5. Обогащение payload запроса дополнительными атрибутами
      • 7.6. Методы API Стейт-машины
      • 7.7. Спецификация интерфейса Стейт-машины
        • 7.7.1. Выполнение операций обновления данных в витрине
        • 7.7.2. Обновление объектов через Стейт-машину
    • 8. Запросы
      • 8.1. Блок Credentials
      • 8.2. Блок Query
        • 8.2.1. Условия фильтрации Conditions
        • 8.2.2. Сортировка и пагинация
      • 8.3. Эксплуатационные запросы
      • 8.4. Обработка запросов
        • 8.4.1. Логирование мета-данных
        • 8.4.2. Исполнение плана запроса
    • 9. Ответы
    • 10. Описание эндпоинтов
      • 10.1. GET /ping
      • 10.2. GET /states
      • 10.3. GET /states/{model}
      • 10.4. POST /states/{model}/{event}
      • 10.5. GET /model
      • 10.6. GET /model/{model}
      • 10.7. GET /model/{model}/{version}
      • 10.8. GET /sources
      • 10.9. POST /data
        • 10.9.1. Правила задания условий
        • 10.9.2. Варианты определения условий фильтрации
        • 10.9.3. Подробное описание блока fetch
      • 10.10. GET /server/indexes/required
    • 11. Ошибки
      • 11.1. Базовые ошибки СМЭВ Ql
  • СМЭВ3-адаптер
    • 1. Общее описание
    • 2. Схема взаимодействия
    • 3. Конфигурация СМЭВ3-адаптер (application.yml)
      • 3.1. Пример файла application.yml
    • 4. Параметры конфигурации
      • 4.1. Секция vertx
      • 4.2. Секция spring
      • 4.3. Секция iua
      • 4.4. Секция smev
      • 4.5. Секция receiver
      • 4.6. Секция persistence-mode
      • 4.7. Секция prostore-rest-client
      • 4.8. Секция prostore-persistence
      • 4.9. Секция environment
      • 4.10. Секция zookeeper
      • 4.11. Секция migration
      • 4.12. Секция paramstorage
      • 4.13. Секция deltastorage
      • 4.14. Секция sign
      • 4.15. Секция blob
      • 4.16. Секция rest
      • 4.17. Секция scheduler
      • 4.18. Секция pool
      • 4.19. Секция logging
      • 4.20. Секция http-server
      • 4.21. Секция backup
      • 4.22. Секция spf
      • 4.23. Секция dynamic-config
      • 4.24. Секция component-info
    • 5. Установка модуля
      • 5.1. Установка КриптоПро
    • 6. Процесс установки
      • 6.1. Настройка конфигурации
      • 6.2. Добавление папки для загрузки файлов модуля
      • 6.3. Загрузка файлов на сервер
      • 6.4. Кластеризация модуля
    • 7. Запуск модуля
    • 8. Остановка модуля
    • 9. Проверка модуля
    • 10. Шаблоны
      • 10.1. Пример шаблона XML
      • 10.2. Пример шаблона JSON
  • CSV-uploader
    • 1. Общее описание
      • 1.1. Общая схема взаимодействия через CSV-uploader
    • 2. Конфигурация CSV-uploader (application.yml)
      • 2.1. Пример файла application.yml
    • 3. Параметры конфигурации
      • 3.1. Секция http-server
      • 3.2. Секция file-size
      • 3.3. Секция logging.level
      • 3.4. Секция environment
      • 3.5. Секция prostore-rest-client
      • 3.6. Секция validation
      • 3.7. Секция upload
      • 3.8. Секция csv-parser
      • 3.9. Секция metrics
      • 3.10. Секция backup
    • 4. Процесс установки CSV-uploader
      • 4.1. Настройка конфигурации
      • 4.2. Загрузка JAR-файла на сервер
    • 5. Запуск CSV-uploader
    • 6. Остановка модуля
    • 7. Проверка модуля
    • 8. Инструкция по эксплуатации CSV-Uploader
      • 8.1. Общие правила формата загружаемых CSV-файлов
      • 8.2. Загрузка структуры Витрины
      • 8.3. Выгрузка шаблона CSV
      • 8.4. Загрузка CSV-файла
      • 8.5. Загрузка CSV-файла с предварительным форматно-логическим контролем
      • 8.6. Обязательная загрузка данных с предварительным форматно-логическим контролем
      • 8.7. Аутентификация с использованием jwt-токена при включенной аутентификации в модуле REST-Uploader
      • 8.8. Настройки CSV-uploader
      • 8.9. Автоматический запуск загрузки CSV-файлов по расписанию
      • 8.10. Настройка Журнала операций
      • 8.11. Просмотр Журнала операций
      • 8.12. Интерфейс Форматно-логического контроля
  • DATA-Uploader - Модуль исполнения асинхронных заданий
    • 1. Общее описание
    • 2. Конфигурация модуля DATA-Uploader (application.yml)
      • 2.1. Пример файла application.yml
    • 3. Параметры конфигурации
      • 3.1. Секция http-server
      • 3.2. Секция persistence-mode
      • 3.3. Секция prostore-rest-client
      • 3.4. Секция redis
      • 3.5. Секция upload
      • 3.6. Секция data-storage
      • 3.7. Секция environment
      • 3.8. Секция zookeeper
      • 3.9. Секция csv-parser
        • 3.9.1. Дополнительное описание параметров
      • 3.10. Секция active
      • 3.11. Секция delta
      • 3.12. Секция stream
      • 3.13. Секция response
      • 3.14. Секция component-info
      • 3.15. Секция metrics
    • 4. Процесс установки
      • 4.1. Настройка конфигурации
      • 4.2. Загрузка JAR-файла на сервер
    • 5. Запуск модуля
    • 6. Остановка модуля
    • 7. Проверка модуля
  • REST-uploader – Модуль асинхронной загрузки данных из сторонних источников
    • 1. Общее описание
    • 2. Конфигурация модуля REST-Uploader (application.yml)
      • 2.1. Пример файла application.yml
    • 3. Параметры конфигурации
      • 3.1. Секция http-server
      • 3.2. Секция executor
      • 3.3. Секция file-size
      • 3.4. Секция environment
      • 3.5. Секция data-storage
      • 3.6. Секция conditions
        • 3.6.1. Режимы настройки mode
      • 3.7. Секция zookeeper
      • 3.8. Секция persistence-mode
      • 3.9. Секция prostore-rest-client
      • 3.10. Секция response
      • 3.11. Секция control
      • 3.12. Секция redis
      • 3.13. Секция auth
      • 3.14. Секция metrics
      • 3.15. Секция csv-parser
        • 3.15.1. Дополнительное описание параметров
      • 3.16. Секция backup
      • 3.17. Секция component-info
    • 4. Процесс установки
      • 4.1. Настройка конфигурации
      • 4.2. Загрузка JAR-файла на сервер
    • 5. Запуск модуля
    • 6. Остановка модуля
    • 7. Проверка модуля
    • 8. Спецификация модуля асинхронной загрузки данных из сторонних источников
    • 9. Проверка форматно-логического контроля
      • 9.1. Синхронная проверка ФЛК
      • 9.2. Асинхронная проверка
        • 9.2.1. Проверка уникальности по одному или по сочетанию полей
        • 9.2.2. Проверка соответствия заданному значению
        • 9.2.3. Поведение в случае таймаута валидации
    • 10. Статусная модель
  • Counter-Provider – Сервис генерации уникального номера
    • 1. Общее описание
    • 2. Конфигурация модуля Counter-Provider (application.yml)
    • 3. Пример файла application.yml
    • 4. Параметры конфигурации
      • 4.1. Секция environment
      • 4.2. Секция http-server
      • 4.3. Секция counter
      • 4.4. Секция zookeeper
      • 4.5. Секция persistence-mode
      • 4.6. Секция prostore-rest-client
      • 4.7. Секция migration
      • 4.8. Секция backup
      • 4.9. Секция component-info
      • 4.10. Секция metrics
    • 5. Процесс установки
      • 5.1. Настройка конфигурации
      • 5.2. Загрузка JAR-файла на сервер
    • 6. Запуск модуля
    • 7. Остановка модуля
    • 8. Проверка модуля
  • ETL - Модуль загрузки/удаления данных
    • 1. Общие положения
    • 2. Основные требования к исходным файлам
    • 3. Особенности реализации ETL
    • 4. Получение токена Рroxy API
    • 5. Загрузка/ удаление данных
      • 5.1. Начало операции загрузки / удаления согласованных данных (Endpoint – newDelta)
      • 5.2. Загрузка / удаление согласованных данных (Endpoint – partOfDelta)
      • 5.3. Загрузка / удаление несогласованных данных (Endpoint – data)
      • 5.4. Описание возвращаемых кодов
    • 6. Проверка статусной информации по загрузке / удалению данных (Endpoint – status)
    • 7. Работа с вложениями через S3
      • 7.1. Загрузка данных в хранилище (Endpoint – uploadAttachment)
      • 7.2. Удаление данных из хранилища (Endpoint – deleteAttachment)
      • 7.3. Описание возвращаемых кодов
    • 8. Маппинг данных (Endpoint – generateMapping)
    • 9. Валидация данных

Описание топиков

  • Описание топиков
    • blob.err
    • blob.rq
    • blob.rs
    • cancel.err
    • cancel.rq
    • cancel.rs
    • delta.err
    • delta.in.err
    • delta.in.rq
    • delta.in.rs
    • delta.notification
    • delta.rq
    • delta.rs
    • procedure.query.rq
    • procedure.query.rs
    • procedure.query.err
    • query.err
    • query.estimation.rs
    • query.rq
    • query.rs
    • query.tp
    • replication.cancel.rq
    • replication.cancel.rs
    • replication.err
    • replication.in.err
    • replication.in.rq
    • replication.in.rs
    • replication.rq
    • replication.rs
    • statistics.err
    • statistics.rq
    • statistics.rs

Лицензии и библиотеки

  • Сторонние лицензии и библиотеки
    • Лицензия Arenadata
    • Лицензия Kafka
    • Лицензия PostgreSQL
    • Лицензия Zookeeper
    • Data Mart
      • ОТКРЫТАЯ ГОСУДАРСТВЕННАЯ ЛИЦЕНЗИЯ
    • The 3-Clause BSD License
    • MIT License
    • COMMON DEVELOPMENT AND DISTRIBUTION LICENSE (CDDL) Version 1.0
    • Apache License, Version 2.0
    • The 2-Clause BSD License
    • Eclipse Public License - v 2.0
    • GNU LESSER GENERAL PUBLIC LICENSE, Version 2.1
    • Eclipse Public License - v 1.0

Сторонние инструкции

  • Инструкция по работе с BitBucket
    • Установить SSH-ключи
    • Скачать репозиторий на локальный компьютер
    • Как переключится на develop-ветку?
    • Как получить изменения других авторов?
    • Как загрузить изменения на сервер документации
      • Проверить изменения в локальном репозитории
      • Добавить новые файлы в репозиторий
      • Отправить изменения в главный репозиторий
      • Проверить изменения на сайте
  • Синтаксис разметки reStructuredText
    • Базовые концепции
    • Заголовки
    • Выделение текста
    • Нумерованные списки
    • Маркированные списки
    • Вложенные списки
    • Изображения
      • Вставка изображения
      • Вставка изображения в тексте
      • Вставка ссылки на изображение
    • PlantUML
    • Ссылки и сноски
      • Внешние ссылки
      • Перекресные ссылки
      • Ссылки на файлы (текстовые и для загрузки)
      • Cноски
    • Таблицы
      • Работа с таблицами
      • Вставка ссылки на таблицу
    • Блоки примечаний
    • Вставка в текст исходного кода (листинг)
    • Подключение файлов
    • Комментарии
    • Важные особенности
      • Имена файлов в Sphinx
Компонент «Витрина данных»
  • Поиск

© Copyright .

Собрано при помощи Sphinx с использованием темы, предоставленной Read the Docs.
Другие версии v: 2.2.0
Версии
1.11.1
1.11.2
1.12
1.13
1.13.1
1.14
1.15
1.16
1.16.1
1.16.2
1.16.3
1.16.4
1.17.0
1.17.1
1.17.2
1.17.3
1.17.4
1.17.5
1.17.6
2.0
2.1.0
2.2.0
2.3.0
2.4.0
2.5.0
2.6.0