О РЕАЛЬНЫХ ВОЗМОЖНОСТЯХ СОВРЕМЕННЫХ ВЫЧИСЛИТЕЛЬНЫХ СИСТЕМ ДЛЯ РАСПРЕДЕЛЕННОГО УМНОЖЕНИЯ МАТРИЦ БОЛЬШИХ РАЗМЕРНОСТЕЙ

Цитировать: В. М. Глушань , Л. А. Попов , А.А. Целых. О реальных возможностях современных вычислительных систем для распределенного умножения матриц больших размерностей // Известия ЮФУ. Технические науки - 2024. - №6. - C. 164-176. doi: 10.18522/2311-3103-2024-6-164-176

  • В. М. Глушань Южный федеральный университет
  • Л. А. Попов Южный федеральный университет
  • А.А. Целых Южный федеральный университет
Ключевые слова: Матрицы, одноядерный и многоядерный процессор, многоядерность, многопоточность, гиперболическая зависимость

Аннотация

Потребности практики постоянно требуют повышения производительности вычислитель-
ных систем. Достаточно долгое время основным путём построения вычислительных систем
сверхвысокой производительности были многопроцессорные системы. При создании таких сис-
тем возникает много сложных проблем. Они связаны с необходимостью распараллеливания вы-
числительного процесса для эффективной загрузки процессоров системы, преодолением конфлик-
тов при попытках нескольких процессоров использовать один и тот же ресурс системы, умень-
шением влияния конфликтов на производительность системы и т.д. С преодолением микроэлек-
троникой рубежа в миллиард транзисторов на кристалле кремния, появилась новая парадигма
многоядерности процессоров. Одновременно с этим возникла проблема соотношения многоядер-
ности и многопоточности в современных вычислителях. Это связано с дилеммой предпочтения
между ними. Многоядерный процессор содержит два и более электронных вычислительных ядра,
размещённых на одном полупроводниковом кристалле. Каждое ядро многоядерного процессора
является полноценным микропроцессором. Многоядерность является очевидным и традиционным
методом распределенного решения многих сложных задач. Но этого нельзя сказать о многопо-
точности, которая опирается на использование очень быстрой кэш-памяти, связанной с основной
памятью и служащей для уменьшения среднего времени доступа к основной памяти процессора.
Относительная новизна современных подходов к построению вычислительных систем требует
сравнительных экспериментальных исследований их возможностей. Перспективным и удобным
математическим объектом для этих целей является распределенное умножение матриц больших
размерностей. В статье приводятся практические результаты распределенного умножения
квадратных матриц с размерами от 300*300 до 2000*2000 и случайно сгенерированными значе-
ниями элементов в матрицах в диапазоне от –100 до +100. Исходя из экспериментальных данных,
представленных в соответствующих таблицах и графиках, получены гиперболические соотноше-
ния для зависимости времени умножения матриц от числа виртуальных машин (ядер) в исполь-
зуемом ноутбуке. Аналогичные результаты получены при умножения квадратных матриц на од-
нопроцессорных компьютерах, подключённых к локальной сети. Аналитические выражения в этом
случае также представляют гиперболические временные зависимости. Но численные значения в
них существенно превосходят таковые для гиперболической формулы, полученной для ноутбука.
Исходя из полученных результатов, проведенные исследования позволяют сделать вывод, что
использование однопроцессорного вычислителя, подключенного к локальной сети, для умножения
матриц больших размерностей уступает быстродействию ноутбука. Это связано со значитель-
ными затратами времени перемещения данных по локальной сети.

Литература

1. Kalyaev I.A. i dr. Rekonfiguriruemye mul'tikonveyernye vychislitel'nye struktury [Reconfigurable
multiconveyor computing structures]. 2nd edition, reprint. and additional, Under the general editorship
of I.A. Kalyaev. Rostov-on-Don: Izd-vo YuNTS RAN, 2009, 344 p.
2. Voevodin I.B., Voevodin Vl.V. Parallel'nye vychisleniya [Parallel computing]. Saint Petersburg:
BKhV-Peterburg, 2004, 608 p.
3. Ivashko E.E. Sovremennye tekhnologii vysokoproizvoditel'nykh vychisleniy [Modern technologies of
high-performance computing]. Petrozavodsk, 2016, 61 p.
4. Available at: https://habr.com/ru/companies/intel/articles/243385/.
5. Kadomskiy A.A. , Zakharov V.A. Effektivnost' mnogopotochnykh prilozheniy [Efficiency of multithreaded
applications], Nauchnyy zhurnal [Scientific journal], 2016, No. 7 (8), pp. 26-28.
6. Zakon Amdala [Amdahl's Law]. Available at: https://dic.academic.ru/dic.nsf/ruwiki/433588.
7. Zakon Amdala i budushchee mnogoyadernykh protsessorov [Amdahl's law and the future of multicore
processors]. Available at: https://www.osp.ru/os/2009/04/9288815.
8. Glushan' V.M., Lavrik P.V. Ogranichenie bystrodeystviya vychislitel'nykh sistem v rezul'tate
sovmeshcheniya zakona Amdala i gipotezy Minskogo [Limitation of the speed of computing systems
as a result of combining Amdahl's law and the Minsk hypothesis], Tr. Kongressa po intellektual'nym
sistemam i informatsionnym tekhnologiyam «IS-IT’13» [Proceedings of the Congress on Intelligent
Systems and Information Technologies "IS-IT'13"]. Scientific publication in 4 vol. Vol. 1. Moscow:
Fizmatlit, 2013, pp. 129-137.
9. Pavlov A.V. Arkhitektura vychislitel'nykh system [Architecture of computing systems]. Saint Petersburg:
Universitet ITMO, 2016, 86 p.
10. Available at: https://www.kakprosto.ru/kak-901137-mnogoyadernye-processory-principy-rabot.
11. Radchenko G.I. Raspredelennye vychislitel'nye sistemy [Distributed computing systems]. Chelyabinsk:
Fotokhudozhnik, 2012, 184 p.
12. Glushan' V.M., Krasyuk O.I., Lozovoy A.Yu. Parallel'noe umnozhenie matrits bol'shikh razmernostey
na zadannom mnozhestve protsessorov [Parallel multiplication of large-dimensional matrices on a given
set of processors], Vestnik RGRTU [Bulletin of the Russian State Technical University], 2020,
No. 74, pp. 42-55.
13. Glushan' V.M. Rasshirenie funktsionala klient-servernoy podsistemy raspredelennogo proektirovaniya
SBIS [Expanding the functionality of the client-server subsystem of distributed VLSI design],
Informatizatsiya i svyaz' [Informatization and Communication], 2021, No. 3, pp. 33-38.
14. Glushan V.M., Lozovoy A.Yu. On Distributed Multiplication of Large-Scale Matrices, 2021 IEEE 15th
International Conference on Application of Information and Communication Technologies (AICT),
2021, pp. 1-4.
15. Glushan' V.M. Ierarkhicheskie klient-servernye arkhitektury v raspredelennom proektirovanii i
parallel'nykh vychisleniyakh [Hierarchical client-server architectures in distributed design and parallel
computing], Sovremennye komp'yuternye tekhnologii: Mater. II nauchno-metodicheskoy konferentsii
NPR [Modern computer technologies: materials of the II scientific and methodological conference of
the NPR]. Taganrog, 2021, pp. 14-18.
16. Glushan' V.M., Popov L.A. Raspredelennoe umnozhenie matrits na komp'yuterakh s mnogoyadernymi
protsessorami [Distributed matrix multiplication on computers with multicore processors], Tr.
Mezhdunarodnogo nauchno-tekhnicheskogo kongressa «Intellektual'nye sistemy i informatsionnye
tekhnologii – 2024» («IS&IT'») [Proceedings of the International Scientific and Technical Congress
"Intelligent Systems and Information Technologies - 2024" ("IS&IT'")]. Scientific publication in 2 vol.
Vol. 2. Taganrog: Izd-vo Stupina S.A., 2024, pp. 65-70.
17. Glushan' V.M., Popov L.A. Programma umnozheniya matrits na komp'yutere s mnogoyadernymi
protsessorami. Svidetel'stvo o gosudarstvennoy registratsii programmy dlya EVM № 2024663001,
zaregistrirovano 03.06.2024 [Matrix multiplication program on a computer with multicore processors.
Certificate of state registration of the computer program No. 2024663001, registered on 06/03/2024].
18. Sosnin V.V., Balakshin P.V. Vvedenie v parallel'nye vychisleniya [Introduction to parallel computing].
Saint Petersburg: Universitet ITMO, 2015, 51 p.
19. AMD Ryzen™ 5 4600H Drivers & Support. Available at: https://www.amd.com/en/support/apu/amdryzen-
processors/amd-ryzen-5-mobile-processors-radeon-graphics/amd-ryzen-5-4600h.
20. Onlayn kal'kulyator: Approksimatsiya funktsii odnoy peremennoy [Online calculator: Approximation of a
function of one variable], PlanetCalc. Available at: https://planetcalc.ru/5992/ (accessed 29 April 2024).
Опубликован
2025-01-19
Выпуск
Раздел
РАЗДЕЛ III. ВЫЧИСЛИТЕЛЬНЫЕ И ИНФОРМАЦИОННО-УПРАВЛЯЮЩИЕ СИСТЕМЫ