Статья

Название статьи МОДЕЛЬ БУСТИНГА БИОИНСПИРИРОВАННЫХ АЛГОРИТМОВ ДЛЯ РЕШЕНИЯ ЗАДАЧ КЛАССИФИКАЦИИ И КЛАСТЕРИЗАЦИИ
Автор Ю. А. Кравченко, А. Н. Нацкевич, И. О. Курситыс
Рубрика РАЗДЕЛ II. МОДЕЛИРОВАНИЕ СЛОЖНЫХ СИСТЕМ И ПРОЦЕССОВ
Месяц, год 05, 2018
Индекс УДК 002.53:004.89
DOI
Аннотация Рассмотрены способы применения моделей бустинга для решения задач кластеризации и классификации, описаны сравнительные характеристики этих моделей. Также разработана модель бустинга для решения задачи кластеризации. Приведена постановка задачи. Представлен аналитический обзор некоторых перспективных разработок среди современных и классических алгоритмов кластеризации, оценены их достоинства и недостатки. Представлен модифицированный алгоритм бустинга для решения задачи кластеризации. Проведено сравнение подходов бустинга и бэггинга, получена оценка достоинств и недостатков рассмотренных подходов. Приведен обзор алгоритмов, использующихся в процессе бустинга. В качестве примера решения задачи кластеризации данных представляется новая модель решения задач оптимизации, базирующаяся на использовании взвешенного множества алгоритмов кластеризации и их бустинга, основанного на идеях биоинспирированных алгоритмов. Эвристика предложенного алгоритма бустинга заключается в использовании матрицы вероятностей, что позволяет проводить взвешенную оценку качества результата обучающихся алгоритмов для получения наиболее высокого качества решения задачи кластеризации, а также использовать взвешенные наборы данных, содержащие информацию о вероятности вхождения каждого отдельного элемента в определенный кластер. Проведенные исследования показали, что решения, полученные при помощи использования подхода бустинга алгоритмов, позволяют получать результаты, не уступающие или превосходящие по качеству варианты, полученные известными алгоритмами.

Скачать в PDF

Ключевые слова Бустинг; кластеризация; классификация; эволюционное моделирование; роевые алгоритмы; машинное обучение; биоинспирированные алгоритмы.
Библиографический список 1. Ka-Chun Wong. A Short Survey on Data Clustering Algorithms // IEEE Second International Conference on Soft Computing and Machine Intelligence, 2015.
2. IBM Consumer products industry blog. Industry insights. Электронный ресурс: https://www.ibm.com/blogs/insights-on-business/consumer-products/2-5-quintillion-bytes-of-data-created-every-day-how-does-cpg-retail-manage-it/ (Дата обращения – 20.05.2018).
3. Mayr A., Binder H., Gefeller O., Schmid M. The Evolution of Boosting Algorithms – From Machine Learning to Statistical Modelling // Methods Inf Med. – 2014. – Vol. 53: – P. 419-427.
4. Donkuan X. Yingjie T. A comprehensive survey of clastering algorithms // Annals of Data Science. – 2015. – Vol. 2, Issue 2. – P. 165-193.
5. Зайцев А.А., Курейчик В.В., Полупанов А.А. Обзор эволюционных методов оптимизации на основе роевого интеллекта // Известия ЮФУ. Технические науки. – 2010. – № 12 (113). – С. 7-12.
6. Kureichik V.V., Kravchenko Y.A. Bioinspired algorithm applied to solve the travelling salesman problem // World Applied Sciences Journal. – 2013. – Vol. 22, No. 12. – P. 1789-1797.
7. Gladkov L.A., Kureichik V.V., Kravchenko Y.A. Evolutionary algorithm for extremal subsets comprehension in graphs // World Applied Sciences Journal. – 2013. – Vol. 27, No. 9.
– P. 1212-1217.
8. Курейчик В.В., Курейчик В.М., Сороколетов П.В. Анализ и обзор моделей эволюции // Известия Российской академии наук. Теория и системы управления. – 2007. – № 5.
– С. 114-126.
9. Родзин С.И., Курейчик В.В. Состояние, проблемы и перспективы развития биоэвристик // Программные системы и вычислительные методы. – 2016. – № 2. – С. 158-172.
10. Курейчик В.В., Бова В.В., Курейчик Вл.Вл. Комбинированный поиск при проектировании // Образовательные ресурсы и технологии. – 2014. – № 2 (5). – С. 90-94.
11. Курейчик В.В., Курейчик Вл.Вл. Биоиспирированный поиск при проектировании и управлении // Известия ЮФУ. Технические науки. – 2012. – № 11 (136). – С. 178-183.
12. Бустинг. Особенности применения в области машинного обучения. – URL: http://www.machinelearning.ru/wiki/index.php?title=%D0%91%D1%83%D1%81%D1%82%D0%B8%D0%BD%D0%B3 (дата обращения: 10.06.2018).
13. Дружков П.Н., Золотых Н.Ю., Половинкин А.Н. Программная реализация алгоритма градиентного бустинга деревьев решений // Вестник Нижнегородского университета им. Н.И. Лобочевского. – 2011. – № 1. – C. 193-200.
14. Boosting Algorithms: a review of mehods, theory and applications. – https://fenix.tecnico. ulisboa.pt/downloadFile/3779579716974/Boosting%20-%20Ferreira%20and%20Figueiredo% 202013.pdf (дата обращения: 29.04.2018).
15. Mayr A., Binder H., Gefeller O., Schmid M. The evolution of boosting algorithms – From machine learning to statistical modeling // Methods iInf Med. – 2014. – Vol. 53 (6). – P. 419-427.
16. Freund Y. and Schapire R. Experiments with a new boosting algorithm // In Thirteenth International Conference on Machine Learning. – Bari, Italy, 1996. – P. 148-156,
17. Freund Y. and Schapire R. A decision-theoretic generali zation of on-line learning and an application to boosting // Journal of Computer and System Sciences. – 1997. – Vol. 55 (1). – P. 119-139.
18. Kuncheva L. Combining Pattern Classifiers: Methods and Algorithms. Wiley, 2004.
19. Radha C, Rong J, Timothy C.H, Anil K.J. Scalable Kernel Clustering: Approximate Kernel
k-means. Computer Vision and Pattern Recognition, 2014.
20. Курейчик В.М., Курейчик В.В., Родзин С.И. Модели параллелизма эволюционных вычислений // Вестник Ростовского государственного университета путей сообщения.
– 2011. – № 3 (43). – С. 93-97.
21. Курейчик В.М., Курейчик В.В., Родзин С.И., Гладков Л.А. Основы теории эволюционных вычислений. – Ростов-на-Дону: ЮФУ, 2010.
22. Родзин С.И., Курейчик В.В. Теоретические вопросы и современные проблемы развития когнитивных биоинспирированных алгоритмов оптимизации // Кибернетика и программирование. – 2017. – № 3. – С. 51-79.

Comments are closed.