Найти
Результаты поиска
-
ПОВЫШЕНИЕ КАЧЕСТВА РАЗНОМОДАЛЬНЫХ ДАННЫХ НА ОСНОВЕ ГИБРИДИЗАЦИИ МЕТОДОВ ПРЕДВАРИТЕЛЬНОЙ ОБРАБОТКИ И МУЛЬТИСЕНСОРНОГО СЛИЯНИЯ
А. А. Александров , М.А. Бутакова21-382026-09-10Аннотация ▼Исследуются методы предварительной обработки данных и слияния разномодальных данных. Собираемые с мультисенсорных устройств данные содержат шумы, аномалии и включают отказы датчиков. Использование неочищенных данных неизбежно приводит к получению ложных закономерностей при использовании моделей машинного обучения, в которых эти данные используются. Для улучшения качества данных необходимо применение специальных методов предварительной их обработки и слияния. Целью работы является создание гибридного конвейера предварительной обработки и мультисенсорного слияния данных, функционирующего на уровне периферийных вычислений. Для её достижения решены задачи удаления из данных последствий технических сбоев и шумов, временной синхронизации, масштабирования признаков и объединения дублирующих источников с учетом их динамического веса. Применены методы: межквартильного размаха для выявления выбросов, линейная интерполяция для их замены, фильтр высоких частот для подавления шумов и взвешенное мультисенсорное слияние с динамическим расчётом весов. Кроме того, представлены методы обработки визуальных, сенсорных и акустических данных в рамках гибридного конвейера, допускающие адаптацию для реализации на уровне периферийных вычислений. Экспериментальная проверка разработанного конвейера проведена на смоделированном наборе климатических данных с искусственно внесёнными зашумлениями и аномалиями. Предложенный подход продемонстрировал высокую эффективность восстановления данных. Для температуры воздуха коэффициент детерминации (R²) увеличился с 0,9807 до 0,9964 при незначительном изменении средней абсолютной процентной ошибки (MAPE) с 10,11% до 10,48%. Для относительной влажности метрика R² выросла с 0,9248 до 0,9675, а ошибка MAPE снизилась с 2,87% до 2,57%. Наиболее значительное улучшение достигнуто для атмосферного давления. Метрика R² с отрицательного значения -0,124 выросла до 0,974, а ошибка MAPE сократилась с 0,12% до 0,06 %. Полученные результаты подтверждают, что предложенный конвейер снижает погрешность и повышает качество мультисенсорных данных, минимизирует объём передаваемых данных. Практическая ценность заключается в создании непрерывного цикла локальной фильтрации и слияния данных без накопления погрешностей
-
КЛАССИФИКАЦИЯ УЗЛОВ – ОБРАБОТЧИКОВ В СИСТЕМАХ БОЛЬШИХ ДАННЫХ В СООТВЕТСТВИИ С ПОДХОДОМ НУЛЕВОГО ДОВЕРИЯ
М.А. Полтавцева , Д. В. Иванов55-622025-07-24Аннотация ▼Кибербезопасность данных является одним из важнейших факторов успешной реализации национального проекта «Экономика данных и цифровая трансформация государства». Проблемы построения защищенных систем обработки больших данных заключаются в их гетерогенной природе, большом числе разнородных инструментов, высокой связности и высоком доверии между распределенными компонентами. Снижение внутреннего доверия и уменьшение поверхности атаки в соответствии с подходом zero-trust необходимо для повышения защищенности таких систем с наименьшим влиянием на их производительность. Целью работы является создание метода динамической классификации узлов и компонент обработки данных в гетерогенных системах больших данных на основе применения различных подходов к снижению доверия в отношении объектов, реализующих процесс обработки информации. Рассматривается подход нулевого доверия применительно к исследуемому классу систем, а также ставится задача расширенной реализации принципа минимальных привилегий уменьшения поверхности атаки. Представлена классификация узлов – обработчиков на основе выполняемых ими операций с данными, унифицированных согласно разработанной ранее концептуальной модели данных. Предлагается сопоставление узлов и применяемых в их отношении методов безопасности на основе необходимости доступа к семантике и компонентам данных для выполнения операций. На основе данной классификации разработан метод динамического определения класса узлов-обработчиков данных в процессе работы системы для ситуаций изменения компонентного состава системы обработки больших данных, типичной для многокомпонентных распределенных высоконагруженных систем. Результаты работы являются частью комплексного консистентного подхода к построению защищенных систем обработки больших данных








