Статья

Название статьи КЛАССИФИКАЦИЯ НА ОСНОВЕ МОДИФИЦИРОВАННОЙ СТРУКТУРЫ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ПОСРЕДСТВОМ ГЕНЕТИЧЕСКИХ АЛГОРИТМОВ
Автор С.С. Алхасов, А.Н. Целых, А.А. Целых
Рубрика РАЗДЕЛ III. АВТОМАТИЗАЦИЯ И УПРАВЛЕНИЕ
Месяц, год 10, 2016
Индекс УДК 004.891.2
DOI 10.18522/2311-3103-2016-10-110122
Аннотация В настоящей работе представлен новый интегрированный подход к выполнению классификации посредством искусственных нейронных сетей с использованием генетических алгоритмов. Приведен обзор ранее разработанных методов модифицирования искусственных нейронных сетей, основанных на применении генетических алгоритмов (с использованием оператора инверсии; разделенных на подпопуляции; с переменным размером популяции). Описан способ модификации традиционного нейросетевого алгоритма классификации. Модифицирование выполнено на двух уровнях. На первом уровне происходит определение субоптимальной (оптимальной в рамках заданных условий) архитектуры искусственных нейронных сетей (число нейронов в скрытом слое, алгоритм обучения, скорость обучения, тип функции активации и др.). На втором уровне выполняется подгонка значений весовых коэффициентов и смещений в направлении минимума функции приспособленности генетического алгоритма. Также учитывается влияние состава входных переменных на величину ошибки классификации. В завершающей части работы приведены сравнительные результаты традиционного и нового подходов. Получен следующий набор параметров искусственной нейронной сети: набор входных признаков (12 из 13), число нейронов в скрытом слое (46), скорость обучения (0,1416), тип функции активации (логистическая), алгоритм обучения (алгоритм Левенберга – Марквардта). Сформированная нейросетевая мо-дель по значению усредненной оценки среднеквадратичной ошибки превосходит обычную нейронную сеть, основанную на градиентных методах оптимизации, примерно в два раза (0,08 против 0,15). При этом примерное время выполнения классификации примерно в десять раз превосходит длительность работы традиционной искусственной нейронной сети. Таким образом, целесообразность использования искусственной нейронной сети в сочетании с оптимизацией ее архитектуры посредством генетического алгоритма определяется текущем требованием точности, задаваемым конечным пользователем. Вместе с тем, разработанный подход позволяет более гибко работать с входными данными, в условиях, когда с течением времени их внутренняя структура изменяется. Поэтому рекомендуется использовать разработанную комбинированную модель при наличии доступа к распределенным вычислительным ресурсам.

Скачать в PDF

Ключевые слова Классификация; искусственные нейронные сети; генетические алгоритмы.
Библиографический список 1. Alkhasov, S.S., Tselykh, A.N., Tselykh, A.A. Application of cluster analysis for the assessment of the share of fraud victims among bank card holders // In: 8th International Conference on Security of Information and Networks. ACM, New York, 2015. – P. 103-106.
2. Waszczyszyn Z. (Ed.) et al. Neural Networks in the Analysis and Design of Structures.
– Springer, Wien, 1999.
3. Божич, В.И., Лебедев, О.Б., Шницер, Ю.Л. Разработка генетического алгоритма обучения нейронных сетей // Известия ТРТУ. – 2001. – № 4 (22). – С. 170-174.
4. Шумков Е.А. Использование генетических алгоритмов для обучения нейронных сетей // Научный журнал КубГАУ. – 2013. – № 91. – С. 1-9. http://ej.kubagro.ru/2013/07/pdf/78.pdf.
5. Панченко Т.В. Генетические алгоритмы. – Астрахань: АГУ, 2007. – 87 c.
6. Radcliffe N.J. Genetic Neural Networks on MIMD Computers. Ph.D. thesis, 1990.
7. Stanley K.O., Miikkulainen R. Evolving Neural Networks through Augmenting Topologies // Evolutionary Computation. – 2002. – No. 10. – P. 99-127.
8. Аюпов И.Р. Параметрический метод обучения нейронной сети при решении задач про-гнозирования: дисс. … канд. техн. наук. – 2015.
9. Gomez F., Miikkulainen R. Incremental Evolution of Complex General Behavior // Adaptive Behavior. – 1997. – No. 5. – P. 317-342.
10. Цой Ю.Р. Нейроэволюционный алгоритм и программные средства для обработки изо-бражений: дисс. … канд. техн. наук. – 2007.
11. Цой Ю.Р., Спицын В.Г. Исследование генетического алгоритма с динамически изменяе-мым размером популяции // V Международная конференция «Интеллектуальные системы и интеллектуальные САПР» (IEEE AIS’05/CAD–2005). Т. 1. – М.: Физматлит, 2005.
– С. 241-246.
12. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы. – М.: Горячая линия – Телеком, 2006. – 383 c.
13. Гладков Л.А., Курейчик В.В., Курейчик В.М. Генетические алгоритмы. – М.: Физматлит, 2006. – 320 c.
14. Ляхов А.Л., Алешин С.П. Искусственная нейронная сеть как измерительный инструмент адекватности модели с адаптивным классом точности // Математичнi машини и системи. – 2010. – № 2. – C. 61-66.
15. Барсегян А.А., Куприянов М.С., Степаненко В.В., Холод И.И. Технологии анализа данных. Data Mining, Visual Mining, Text Mining, OLAP. – СПб.: БХВ-Петербург, 2008.
– 384 c.
16. Медведев В.С., Потемкин В.Г. Нейронные сети. МАТЛАБ 6. – М.: Диалог-МИФИ, 2002. – 496 c.
17. Banks D. (Ed.) et al. Classification, Clustering and Data Mining Applications. – Springer, Heidelberg, 2004.
18. Бурнаев Е.В., Ерофеев П.Д. Влияние инициализации параметров на время обучения и точность нелинейной регрессионной модели // Информационные процессы. – 2015.
– № 15. – C. 279-297.
19. Сичинава З.И. Нейросетевые алгоритмы анализа поведения респондентов: дисс. … канд. техн. наук. – 2014.
20. Круглов В.В., Дли М.И., Голунов Р.Ю. Нечеткая логика и искусственные нейронные сети. – М.: Физматлит, 2001. – 201 c.
21. Stathakis D. How many hidden layers and nodes? // International Journal of Remote Sensing.
– 2009. – No. 30. – P. 2133-2147. http://www.academia.edu/711697/How_ many_hidden_layers_and_nodes.
22. Thomas A.J., Petridis M., Walters S.D., Gheytassi S.M., Morgan R.E. On Prediction the Opti-mal Number of Hidden Nodes // In: 2015 International Conference on Computational Science and Computational Intelligence. – 2015. – P. 565-570.
23. Яхъяева Г.Е. Основы теории нейронных сетей. http://www.intuit.ru/studies/courses/ 88/88/info.
24. Huang G.-B. Learning capability and storage capacity of two-hidden-layer feedforward net-works // IEEE Transactions on Neural Networks. – 2003. – No. 14. – P. 274-281.
25. Генетические алгоритмы в MATLAB. – 2011. http://habrahabr.ru/post/111417/.

Comments are closed.