Показать / скрыть оглавление

    Загрузка данных для анализа их в виджете

    Задача

    Проанализировать с помощью виджетов в Колибри.Аналитике сторонние данные, хранящиеся в файле формата Excel, с возможностью перезагружать такие данные и дополнять их.

    Исходные данные

    Перед тем как приступить к решению задачи, ознакомимся с имеющимся файлом формата Excel Поставки.xlsx. Данные файла необходимо проанализировать в виджете.
    .

    Сценарий решения задачи

    Решение задачи будет заключаться в создании процесса, который будет включать следующие шаги:

    1. Создание параметра процесса типа "Файл".
    2. Преобразование входящего файла из Excel в табличные данные.
    3. Добавление дополнительной информации к исходным данным.
    4. Загрузка данных в аналитическую таблицу.
    5. Дополнение загруженных данных.
    6. Удаление загруженных данных и повторная загрузка.
    7. Загрузка данных с измененной структурой.

    Используемые узлы

    Преобразовать из Excel
    Проекция
    Аналитическая таблица
    PostgreSQL-команда

    В процессе будет использован параметр процесса типа "Файл" и настраиваемый порядок выполнения узлов.

    Построение и настройка процесса

    1. Создадим и сохраним новый процесс.
    2. Для передачи в процесс исходного файла Excel создадим параметр процесса типа "Файл".
    3. Для преобразования входящего файла из формата Excel в табличные данные добавим узел Преобразовать из Excel, укажем название "Поставки" и настроим свойства.
    4. Для передачи в узел "Поставки" входящего файла присоединим параметр "Входящий Excel" к входному порту узла.
    5. Выполним проверку процесса, при наличии ошибок исправим их.
    6. Запустим процесс в отладке для просмотра результатов узла "Поставки".
    7. Дополним данные информацией о дате загрузки их в аналитическую таблицу с помощью узла Проекция.
      Для этого добавим узел Проекция и соединим его входной порт с выходным портом узла "Поставки".
    8. В узле "Проекция" настроим свойства и добавим вычисляемую колонку "Дата и время загрузки данных".
    9. Для загрузки данных в аналитическую таблицу добавим узел Аналитическая таблица и свяжем его входной порт с выходным портом узла "Проекция".
    10. У узла "Аналитическая таблица" укажем название "Аналитическая таблица "Поставки" и настроим свойства, указав имя схемы базы данных и название аналитической таблицы. Установим свойство "Создать таблицу", так как таблица, в которую загружаются данные, ещё не существует.
    11. Выполним проверку процесса, при наличии ошибок исправим их.
    12. Запустим процесс с сохранением, передав в процесс файл Excel Поставки.xlsx.
      В редакторе виджетов в источнике данных будет доступна новая аналитическая таблица "Поставки".
    13. Для дополнения аналитической таблицы новыми данными запустим процесс с сохранением, передав в него файл аналогичной структуры, но с другими данными Поставки_дополнения.xlsx.

      Замечание

      Запустив процесс с файлом аналогичной структуры, но с другими данными, аналитическая таблица будет дополнена новыми данными с сохранением ранее загруженных в неё данных.

      Замечание

      Запустив процесс ещё раз с тем же самим файлом, строки из файла загрузятся в аналитическую таблицу повторно, то есть будут созданы дубликаты, различающиеся только значением в колонке "Дата и время загрузки данных".

    14. Для перезагрузки данных необходимо удалить ранее загруженные в аналитическую таблицу данные и выполнить загрузку новых данных.
      Для очистки аналитической таблицы от данных добавим узел PostgreSQL-команда.

    15. У узла PostgreSQL-команда укажем название "Очистка аналитической таблицы" и сформируем текст команды.
    16. Так как узел "Очистка аналитической таблицы" автономный узел, не имеющий ни входных, ни выходных данных, для того, чтобы в первую очередь было выполнено очищение аналитической таблицы и только после этого загрузка данных, необходимо задать порядок выполнения узлов.
      Для этого у узла "Очистка аналитической таблицы" добавим порт "Зависимость (выход)", у узла "Поставки" добавим порт "Зависимость (вход)" и свяжем между собой созданные порты.
    17. Для перезагрузки данных с изменением их структуры, например, если в исходном файле добавилась новая колонка "Примечание", необходимо удалить саму аналитическую таблицу, а после выполнить загрузку данных из нового файла с созданием аналитической таблицы.
      Для удаления аналитической таблицы удалим узел "Очистка аналитической таблицы" и добавим новый узел PostgreSQL-команда, в котором укажем название "Удаление аналитической таблицы" и команду по удалению таблицы.

      Предупреждение

      PostgreSQL-команда по удалению аналитических таблиц следует использовать с осторожностью.
      После запуска процесса с сохранением операция не может быть отменена.

    18. Так как узел "Удаление аналитической таблицы" автономный, то есть не имеющий ни входных, ни выходных данных, для того, чтобы в первую очередь было выполнено удаление аналитической таблицы и только после этого загрузка данных, необходимо задать порядок выполнения узлов.
      Для этого у узла "Удаление аналитической таблицы" добавим порт "Зависимость (выход)", у узла "Поставки" добавим порт "Зависимость (вход)" и свяжем между собой созданные порты.

    19. Запустим процесс с сохранением, передав в процесс файл Excel Поставки_с_примечанием.xlsx.
      В редакторе виджетов в источнике данных будет доступна аналитическая таблица "Поставки" с новой структурой.
    Замечание

    Файл процесса "Загрузка данных для анализа их в виджете"

    В начало страницы Справочная система Колибри. Группа компаний Октоника, 2022