Статья

Название статьи ПРИМЕНЕНИЕ ГЛУБОКОГО ОБУЧЕНИЯ ДЛЯ РЕШЕНИЯ ЗАДАЧ САМОДИАГНОСТИКИ РАСПРЕДЕЛЕННЫХ ВЫЧИСЛИТЕЛЬНЫХ СИСТЕМ
Автор К.Е. Крамаренко, О.В. Молдованова
Рубрика РАЗДЕЛ III. РАСПРЕДЕЛЕННЫЕ ВЫЧИСЛЕНИЯ И СИСТЕМЫ
Месяц, год 11, 2016
Индекс УДК 004.052.32
DOI 10.18522/2311-3103-2016-11-113120
Аннотация Статья посвящена решению задачи самодиагностики распределенных вычислительных систем, которые состоят из множества, связанных между собой каналами связи, элементарных машин (узлов). С ростом числа узлов в системе возрастает вероятность возникновения отказов. Под отказом понимается событие, при котором элементарная машина теряет способность выполнять заданные функции по переработке информации. Отказ одного узла, участвующего в вычислительном процессе, может привести к некорректному результату вычислений и иметь разрушительные последствия для всей распре-деленной вычислительной системы. Поэтому актуальной является задача разработки алгоритмов самодиагностики, цель которых заключается в определении исправных и неисправных узлов системы по заданному синдрому распределенной вычислительной системы. Эту задачу можно свести к задаче классификации, эффективно решаемой алгоритмами глубокого обучения. В статье приведены постановка и ограничения задачи дешифрации синдрома распределенной вычислительной системы, описание разработанного алгоритма дешифрации синдрома распределенной вычислительной системы на основе сверточной нейронной сети и алгоритма генерации обучающих выборок. Программная реализация разработанных алгоритмов была выполнена c использованием пакета DeepLearnToolBox интерактивной среды Matlab. Проведены эксперименты на тестовых обучающих выборках с различным числом узлов в распределенной вычислительной системе и различным числом неисправных узлов. Экспериментально подобраны гиперпараметры сверточной нейронной сети: длина обучающей выборки, количество эпох обучения, шаг ядра свертки, количество и размеры ядер в слое свертки, количество слоев сверточной нейронной сети. Эффективность алгоритма оценивалась по зависимости количества точно диагностированных узлов от общего количества неисправных узлов в распределенной вычислительной системе. Про-веденные эксперименты показали, что данный алгоритм стоит применять в распределенных вычислительных сиcтемах с числом неисправных узлов, не превышающем 30 % от общего числа узлов. Несмотря на небольшую длину обучающей выборки, сеть сохраняет хорошую обобщающую способность.

Скачать в PDF

Ключевые слова Самодиагностика; распределённые вычислительные системы; искусственные нейронные сети; глубокое обучение; отказоустойчивость; сверточные нейронные сети.
Библиографический список 1. Хорошевский В.Г. Архитектура вычислительных систем: учеб. пособие. – 2-е изд., пере-раб. и доп. – М.: Изд-во МГТУ им. Н.Э. Баумана, 2008. – 520 с.
2. Preparata F.P., Metze G., Chien R.T. On the Connection Assignment Problem of Diagnosable Systems. // IEEE Trans. Electron. Comput. – 1967. – Vol. EC-16, No. 6. – P. 848 854.
3. Barsi F., Grandoni F., Maestrini P. A Theory of Diagnosability of Digital Systems. // IEEE Trans. Comput. – 1976. – Vol. 25, No. 6. – P. 585-593.
4. Chwa K.Y., Hakimi S.L. Schemes for fault tolerant computing: a comparison of modularly redundant and t-diagnosable systems. // Information and Control. – 1981. – No. 49. – P. 212-238.
5. Malek M. A comparison connection assignment for diagnosis of multiprocessor systems // Proc. 7th International symposium on computer architecture. – New York, 1980. – P. 31-35.
6. Duarte Jr., E.P., Ziwich, R.P., Albini, L.C.P. A survey of comparison-based system-level di-agnosis // ACM Comput. Surv. 43, 3, Article 22, 2011. – 56 p.
7. Elhadef M. A modified Hopfield neural network for diagnosing comparison-based multipro-cessor systems using partial syndromes // ICPADS, 2011, Parallel and Distributed Systems, In-ternational Conference on, Parallel and Distributed Systems, International Conference on 2011. – P. 646-653.
8. Elhadef M., Nayak A. Comparison-Based System-Level Fault Diagnosis: A Neural Network Approach // IEEE Transactions on Parallel & Distributed Systems. – 2012. – Vol. 23, No. 6.
– P. 1047-1059.
9. Elhadef M., Romdhane L.B. Fault diagnosis using partial syndromes: a modified Hopfield neural network approach // International Journal of Parallel, Emergent and Distributed Systems. – 2014. – Vol. 29, No. 2. – P. 119-146.
10. Осовский С. Нейронные сети для обработки информации: пер. с польского И.Д. Рудин-ского. – М.: Финансы и статистика, 2004. – 344 с.
11. Петров С.П. Сверточная нейронная сеть для распознавания символов номерного знака автомобиля // Системный анализ в науке и образовании. – 2013. – № 3. – С. 66-73.
12. Фраленко В.П., Суворов Р.Е., Овчаренко Р.И., Тихомиров И.А. Автоматическая класси-фикация изображений в задачах фильтрации контента // Информационные технологии и вычислительные системы. – 2015. – № 3. – С. 3-11.
13. Zhang N., Donahue J., Girshick R., Darrell T. Partbased r-cnns for fine-grained category de-tection // In Computer Vision. – 2014. – P. 834-849.
14. Zeiler M.D., Fergus R. Visualizing and understanding convolutional networks // In Computer Vision. – 2014. – P. 818-833.
15. Jia Y., Shelhamer E., Donahue J., Karayev S., Long J., Girshick R. Caffe: Convolutional archi-tecture for fast feature embedding // Proceedings of the 22nd ACM international conference on Multimedia. – 2014. – P. 675-678.
16. Donahue J., Hendricks L.A., Guadarrama S., Rohrbach M., Venugopalan S., Saenko K., Dar-rell T. Long-term recurrent convolutional networks for visual recognition and description // Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. – 2015.
– P. 2625-2634.
17. Girshick R., Donahue J., Darrell T., Malik J. Region-based convolutional networks for accurate object detection and segmentation // IEEE transactions on pattern analysis and machine in-telligence. – 2016. – Vol. 38. – P. 142-158.
18. Hoffman J., Guadarrama S., Tzeng E.S., Hu R., Donahue J., Girshick R., Darrell T, Saenko K. LSDA: Large scale detection through adaptation // Advances in Neural Information Processing Systems. – 2014. – P. 3536-3544.
19. Mohamed A., Dahl G.E., Hinton G. Acous-tic modeling using deep belief networks // Audio, Speech, and Language Processing, IEEE Transactions on. – 2012. – Vol. 20, No. 1. – P. 14-22.
20. Krizhevsky A., Sutskever I. & Hinton G. ImageNet classification with deep convolu-tional neural networks // Nature. – 2015. – Vol. 521. – P. 436-444.

Comments are closed.