УСКОРЕНИЕ ПРЯМОГО ПРОХОДА ПРИ РЕАЛИЗАЦИИ СНС НА ОГРАНИЧЕННОМ ВЫЧИСЛИТЕЛЬНОМ РЕСУРСЕ
Аннотация
Работа посвящена оптимизации архитектуры нейронной сети для ее запуска на ограни- ченном вычислительном ресурсе. Рассмотрено несколько подходов оптимизации, приведены оценки сложности и времени выполнения прямого прохода нейронной сети. Приведены сравни- тельные оценки сложности сети при применении разных подходов оптимизации. В работе представлен анализ выбранной архитектуры сети, получены оценки вычислительной сложно- сти отдельных составных частей (модулей) архитектуры. Произведен анализ возможных ме- тодов оптимизации каждого модуля. Описаны параметры рассмотренных модулей, размеры входных и выходных тензоров. Для оптимизации модуля выделения признаков протестировано несколько архитектур, ResNet 50, ResNet 18, MobileNet v3 small, MobileNet v3 large. Представлен сравнительный анализ вычислительной сложности и времени выполнения прямого прохода для каждой архитектуры. Замеры времени выполнения прямого прохода осуществлялись на встраиваемом вычислительном устройстве Jetson AGX Xaver от компании Nvidia. Представле- ны оценки времени выполнения прямого прохода для каждого модуля рассматриваемых нейрон- ных сетей. В работе приведены результаты сравнения оценок точности нейронной сети до и после оптимизации архитектуры. Набор данных для тестирования состоит из 100 видео запи- сей. В тестовых видеозаписях участвует 5 различных типовых объектов, для каждого класса объекта записано 10 различных сценариев. Для каждой из разработанных архитектур получе- ны оценки точности, произведен сравнительный анализ. В работе намечены пути для после- дующей оптимизации архитектуры сети.
