Описание применения
Описание применения
- 1. Общие сведения
- 2. УСЛОВИЯ ПРИМЕНЕНИЯ
- 3. ОПИСАНИЕ ЗАДАЧИ
- 3.1. Определение задачи
- 3.2. Методы решения задачи
- 3.2.1. Описание логической модели данных
- 3.2.2. Загрузка и хранение данных
- 3.2.3. Извлечение данных из внешних систем
- 3.2.4. Поддержка языка SQL
- 3.2.5. Поддержка протокола коммуникаций Агента ПОДД
- 3.2.6. Подключение к СМЭВ3 как информационной системе участника взаимодействия
- 3.2.7. Обработка запросов с использованием стандарта JDBC
- 3.2.8. Публикация конечных точек API для обработки запросов с использованием спецификации OpenAPI версии 3
- 3.2.9. Восстановление данных в непротиворечивое состояние после сбоев
- 3.2.10. Журналирование событий функциональных блоков
- 3.2.11. Мониторинг информации о работоспособности экземпляра Программы
- 3.2.12. Работа с BLOB-объектами
- 3.2.13. Формирование, подписание и передачи через ПОДД сформированных документов
- 3.2.14. Предоставление оценки объема запрашиваемых ПОДД данных
- 3.2.15. Управление взаимодействием со СМЭВ3
- 3.2.16. Запись событий в журнал и конфигурирование количества соединений к ProStore для СМЭВ3
- 3.2.17. Использование табличных параметров в запросах через ПОДД и выделение функций в отдельные модули
- 3.2.18. Пакетная загрузка больших объемов данных при первичном наполнении витрины
- 3.2.18.1. Описание технического решения по переносу «горячих» записей витрины в «актуальные» записи витрины путём формирования SQL-запроса и отправки его в ADB на обновление данных (UPDATE) из физической таблицы staging в таблицу actual
- 3.2.18.2. Описание процесса создания обогащенного SQL-запроса UPDATE на обновление данных из физической таблицы staging в таблицу actual
- 3.2.18.3. Описание процесса отправки обогащенного SQL-запроса UPDATE в ADB через модуль плагина ADB
- 3.2.18.4. Описание процесса создания обогащенного SQL-запроса INSERT на вставку данных из физической таблицы staging в таблицу actual
- 3.2.18.5. Описание процесса отправки обогащенного SQL-запроса INSERT в ADB через модуль плагина ADB
- 3.2.18.6. Описание алгоритма переноса «горячих» записей витрины в «актуальные» записи витрины вне зависимости от используемого коннектора
- 3.2.19. Исполнение запросов с табличными параметрами через неверсионируемые таблицы
- 3.2.19.1. Описание технического решения по записи адаптером ПОДД временных данных из табличных параметров запроса в неверсионируемые таблицы
- 3.2.19.2. Реализация модуля группировки данных ТП
- 3.2.19.3. Реализация модуля импорта ТП
- 3.2.19.4. Реализация модуля MPPW
- 3.2.19.5. Реализация модуля обработки запросов (Адаптер ПОДД)
- 3.2.19.6. Реализация модуля MPPR
- 3.2.20. Модуль загрузки данных в Витрину из внешних источников
- 3.2.20.1. Описание формата CSV для сервиса загрузки данных
- 3.2.20.2. Архитектура технического решения по реализации асинхронной загрузки данных из источников по REST
- 3.2.20.3. Описание технического решения работы активного экземпляра модуля исполнения асинхронных заданий
- 3.2.20.4. Описание технического решения цикла обработки файлов
- 3.2.21. Кластеризация модулей витрин данных
- 3.2.21.1. Описание технического решения по доработке 8 модулей слоя сервисов адаптеров
- 3.2.21.2. Реализация доработки 8 модулей слоя сервисов адаптеров
- 3.2.21.3. Описание технического решения по поддержке работы кластеризованного сервиса исполнения запросов из двух и более узлов с экземплярами сервиса исполнения запросов
- 3.2.21.4. Реализация режима асинхронного взаимодействия узла кластеризованного сервиса исполнения запросов с общими компонентами
- 3.2.21.5. Описание технического решения по добавлению в конфигурацию сервиса исполнения запросов узла с экземпляром сервиса исполнения запросов
- 3.2.21.6. Описание технического решения по удалению из конфигурации сервиса исполнения запросов узла с экземпляром сервиса исполнения запросов
- 3.2.22. Генерация номера отчета в сервисе печатных форм
- 3.2.22.1. Схема взаимодействия технического решения
- 3.2.22.2. Описание технического решения по реализации функции расширения peeble-шаблона
- 3.2.22.3. Описание технического решения по реализации функции долговременного хранения неограниченного списка счетчиков
- 3.2.22.4. Описание технического решения по реализации сервиса получения номера печатных форм
- 3.2.22.5. Описание технического решения по инициализации произвольного счетчика
- 3.2.22.6. Описание технического решения по обнулению произвольного счетчика
- 3.2.22.7. Операция инкремента счетчика
- 3.2.22.8. Повторение попытки инкремента счетчика
- 3.2.23. Реализация применения комплексных ключей в модуле CSV-Uploader в Типовом ПО Витрина данных
- 3.2.23.1. Описание технического решения по реализации поддержки парсинга комплексных первичных ключей в модуле CSV-Uploader
- 3.2.23.2. Описание технического решения по реализации поддержка передачи модулем CSV-uploader в ядро Типового ПО Витрины комплексных первичных ключей и комплексных ключей шардирования
- 3.2.24. Технические решения по сбору статистики и протоколированию обработанных запросов
- 3.2.24.1. Описание технического решения по фиксации запросов и ответов в модулях витрины данных
- 3.2.24.2. Описание технического решения по обработке протоколируемых запросов и ответов
- 3.2.24.3. Описание технического решения по хранению протоколируемых запросов и ответов, с возможностью извлекать данные по уникальному идентификатору
- 3.2.24.4. Описание технического решения по поддержке протокола ПОДД, обеспечивающего передачу идентифицирующих атрибутов запросов
- 3.2.24.5. Описание технического решения по фиксации, передачи, хранению и очистки идентифицирующих атрибутов запросов
- 3.2.24.6. Особенности и ограничения
- 3.2.25. Технические решения по реализации обеспечения совместимости Типового ПО Витрина данных под управлением операционных систем Astra Linux, РЕД ОС и АЛЬТ Сервер 8 СП
- 3.2.25.1. Описание тестирования процесса развертывания витрины данных на серверах с предустановленными операционными системами Astra Linux, РЕД ОС и АЛЬТ Сервер 8 СП
- 3.2.25.2. Описание регрессионного тестирования функционирования витрины данных без подключения к ПОДД на серверах с предустановленными операционными системами Astra Linux, РЕД ОС и АЛЬТ Сервер 8 СП
- 3.2.25.3. Описание подготовки отчетов о регрессионном тестировании витрины данных на серверах с предустановленными операционными системами Astra Linux, РЕД ОС и АЛЬТ Сервер 8 СП
- 3.2.25.4. Описание выполнения необходимых доработок Типового ПО Витрина данных по итогам регрессионного тестирования для обеспечения совместимости с операционными системами Astra Linux, РЕД ОС и АЛЬТ Сервер 8 СП
- 3.2.25.5. Описание подготовки скриптов и проведения нагрузочного тестирования
- 3.2.25.6. Описание подготовки отчета о результатах нагрузочного тестирования
- 3.2.26. Выполнение запросов с системными параметрами
- 4. ВХОДНЫЕ И ВЫХОДНЫЕ ДАННЫЕ
Руководство программиста
Руководство программиста
- 1. Аннотация
- 2. НАЗНАЧЕНИЕ ПРОГРАММЫ
- 3. ХАРАКТЕРИСТИКА ПРОГРАММЫ
- 4. ОБРАЩЕНИЕ К ПРОГРАММЕ
- 5. ВХОДНЫЕ И ВЫХОДНЫЕ ДАННЫЕ
- 5.1. СМЭВ3-адаптер
- 5.2. ПОДД-адаптер
- 5.3. REST-адаптер
- 5.4. Сервис извлечения данных
- 5.5. JDBC-драйвер
- 5.5.1. Типы данных
- 5.5.2. Массивно-параллельная запись
- 5.5.3. Массивно-параллельное чтение
- 5.5.4. Чтение с минимальной задержкой
- 5.5.5. SQL+
- 5.5.5.1. CREATE DATABASE
- 5.5.5.2. DROP DATABASE
- 5.5.5.3. CREATE TABLE
- 5.5.5.4. DROP TABLE
- 5.5.5.5. CREATE VIEW
- 5.5.5.6. ALTER VIEW
- 5.5.5.7. DROP VIEW
- 5.5.5.8. TRUNCATE HISTORY
- 5.5.5.9. BEGIN DELTA
- 5.5.5.10. ROLLBACK DELTA
- 5.5.5.11. GET_DELTA_HOT
- 5.5.5.12. GET_DELTA_OK
- 5.5.5.13. GET_DELTA_BY_DATETIME
- 5.5.5.14. GET_DELTA_BY_NUM
- 5.5.5.15. USE
- 5.5.5.16. SELECT
- 5.5.5.17. CREATE DOWNLOAD EXTERNAL TABLE
- 5.5.5.18. DROP DOWNLOAD EXTERNAL TABLE
- 5.5.5.19. CREATE UPLOAD EXTERNAL TABLE
- 5.5.5.20. DROP UPLOAD EXTERNAL TABLE
- 5.5.5.21. UPLOAD
- 5.5.5.22. DOWNLOAD
- 5.5.5.23. CHECK_DATABASE
- 5.5.5.24. CHECK_TABLE
- 5.5.5.25. CHECK_DATA
- 5.5.5.26. CONFIG_STORAGE_ADD
- 6. СООБЩЕНИЯ
- 7. САМОСТОЯТЕЛЬНАЯ СБОРКА ПРИЛОЖЕНИЯ
Руководство системного программиста
Руководство системного программиста
- 1. АННОТАЦИЯ
- 2. Общие сведения о программе
- 3. Структура программы
- 4. Настройка программы
- 4.1. Настройка на состав технических средств
- 4.1.1. Общие требования
- 4.1.2. Общие требования для развертывания ProStore
- 4.1.3. Требования к серверу ProStore
- 4.1.4. Требования к серверу «Менеджер кластера ADCM»
- 4.1.5. Требования к кластеру серверов «ADQM»
- 4.1.6. Требования к кластеру серверов «ADS»
- 4.1.7. Требования к кластеру серверов «ADB»
- 4.1.8. Требования к кластеру серверов «ADG»
- 4.1.9. Требования к серверу «СМЭВ3 коннектор»
- 4.1.10. Требования к серверу «Агент ПОДД»
- 4.1.11. Требования к серверу «ETL»
- 4.1.12. Требования к серверу конечных точек
- 4.2. Настройка на состав программных средств
- 4.2.1. Создание технологического пользователя
- 4.2.2. Установка Менеджера кластера ADCM
- 4.2.3. Установка ADQM
- 4.2.4. Установка Диспетчера сообщений ADS
- 4.2.5. Настройка Диспетчера сообщений ADS
- 4.2.6. Установка ПО ADB
- 4.2.7. Настройка ПО ADB
- 4.2.8. Установка ПО ADG
- 4.2.9. Установка ПО ADG
- 4.2.10. Настройка ПО ADG
- 4.2.11. Установка ПО ProStore
- 4.2.12. Настройка ПО ProStore
- 4.2.13. Установка СМЭВ3-адаптера
- 4.2.14. Установка ПОДД-адаптера
- 4.2.15. Настройка ПОДД-адаптера
- 4.2.15.1. Конфигурация СМЭВ4-адаптера - Модуль исполнения запросов (application.yml)
- 4.2.15.2. Параметры конфигурации
- 4.2.15.2.1. Секция http-server
- 4.2.15.2.2. Секция environment
- 4.2.15.2.3. Секция executor
- 4.2.15.2.4. Секция send
- 4.2.15.2.5. Секция query
- 4.2.15.2.6. Секция zookeeper
- 4.2.15.2.7. Секция prostore-rest-client
- 4.2.15.2.8. Секция printable-forms-service
- 4.2.15.2.9. Секция kafka
- 4.2.15.2.10. Секция statistics
- 4.2.15.2.11. Секция logging
- 4.2.15.2.12. Секция metrics
- 4.2.16. Установка ETL
- 4.2.17. Установка REST-адаптера
- 4.2.18. Настройка сервера конечных точек API
- 4.1. Настройка на состав технических средств
- 5. Запуск и остановка программы
- 5.1. Менеджер кластера ADCM
- 5.2. ADQM
- 5.2.1. Запуск и остановка кластера ADQM через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.2. Запуск кластера ADQM через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.3. Остановка кластера ADQM через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.4. Диспетчер сообщений ADS
- 5.2.5. Запуск и остановка сервисов ПО ADS через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.5.1. Запуск сервиса Zookeeper через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.5.2. Остановка сервиса Zookeeper через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.5.3. Перезапуск сервиса Zookeeper через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.5.4. Запуск сервиса Kafka через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.5.5. Остановка сервиса Kafka через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.5.6. Перезапуск сервиса Kafka через графический пользовательский интерфейс Менеджера кластера ADCM
- 5.2.5.7. Запуск и остановка диспетчера сообщений ADS на уровне кластера
- 5.3. ADB
- 5.4. ADG
- 5.5. Ядро витрины ProStore
- 5.6. СМЭВ3-адаптер
- 5.7. Запуск ПОДД-адаптер
- 5.8. ETL
- 5.9. REST-адаптер
- 6. Проверка программы
- 7. Резервное копирование Витрины данных
- 8. Дополнительные возможности
- 9. Сообщения системному программисту
- 10. Приложение 1
Руководство оператора
Руководство оператора
- 1. АННОТАЦИЯ
- 2. НАЗНАЧЕНИЕ ПРОГРАММЫ
- 3. УСЛОВИЯ ВЫПОЛНЕНИЯ ПРОГРАММЫ
- 4. ВЫПОЛНЕНИЕ ПРОГРАММЫ
- 4.1. Подготовка к работе
- 4.1.1. Настройка подключения к базам данных
- 4.1.2. Настройка подключения к серверу ETL
- 4.1.2.1. Установка и настройка программы FileZilla
- 4.1.2.2. Установка FileZilla для ОС Windows
- 4.1.2.3. Установка FileZilla для ОС Linux
- 4.1.2.4. Создание SSH-ключей
- 4.1.2.5. Создание SSH-ключей для ОС Linux
- 4.1.2.6. Создание SSH-ключей для ОС Windows
- 4.1.2.7. Подключение к серверу через SSH-клиент PuTTY
- 4.1.2.8. Подключение к серверу с помощью программы FileZilla
- 4.1.2.9. Проверка подключения к серверу ETL в программе FileZilla
- 4.2. Выполнение запросов к базам данных
- 4.3. Работа с файлами
- 4.1. Подготовка к работе
- 5. Сообщения оператору