Найти

Результаты поиска

• АЛЬТЕРНАТИВНЫЕ ГИБРИДНЫЕ СТРУКТУРЫ ДЛЯ ПОВЫШЕНИЯ ВЫЧИСЛИТЕЛЬНОЙ ЭФФЕКТИВНОСТИ РЕАЛИЗАЦИИ НЕЙРОННЫХ СЕТЕЙ ГЛУБОКОГО ОБУЧЕНИЯ

  Н.С. Кривша , В.В. Кривша , С.А. Бутенков

  2024-01-05

  Аннотация ▼

  Предлагается новый подход к организации вычислительных структур слоев и меж-
  слойных связей при построении искусственных нейронных сетей для решения широкого
  круга задач обработки многомерных данных. Основной проблемой построения сетей глубо-
  кого обучения является необходимость введения большого количества параметров обуче-
  ния сети. Имеющиеся рабочие экземпляры таких сетей содержат миллиарды параметров,
  что позволяет достигать высокой эффективности применения таких сетей. Обратной
  стороной такой широко используемой структуры сетей в виде многослойных сверточных
  структур являются высокие затраты на обучение сетей с большим количеством струк-
  турно схожих слоев свертки методом обратного распространения. Решение проблемы
  повышения эффективности таких многослойных структур может быть найдено в приме-
  нении гибридных слоев, реализующих операции гранулирования данных, которые были раз-
  виты в наших работах. В новых гибридных моделях вместо векторных значений парамет-
  ров обучения используются матричные информационные элементы, позволяющие кодиро-
  вать подмножества значений данных (информационные гранулы) вместо кодирования
  отдельных точек данных, как в классических сверточных сетях. Предложенные гибридные
  слои обучаются без учителя и допускают параллельную реализацию алгоритмов обучения,
  что принципиально отличается от последовательных алгоритмов обратного распростра-
  нения. В результате вычислительная эффективность применения подобных гибридныхнейросетей может быть существенно повышена. Предлагаемый в работе теоретический
  подход к моделированию и оптимизации структур сетей глубокого обучения может быть
  распространен на широкий круг задач вычислительного интеллекта.

• МОДЕЛИРОВАНИЕ СТРУКТУРЫ КУБАТУРНЫХ ФОРМУЛ ДЛЯ ПРОЕКТИРОВАНИЯ ЭФФЕКТИВНЫХ ВЫЧИСЛИТЕЛЬНЫХ СТРУКТУР НА ПЛИС

  Н. С. Кривша , В. В. Кривша , С.А. Бутенков

  2021-01-19

  Аннотация ▼

  Предлагается метод построения вычислительных моделей для исследования и опти-
  мизации универсальных вычислительных структур, выполняющих вычисление вычисления
  сложных кубатурных формул. Теоретической базой для введенных моделей служит теория
  пространственной грануляции, методы которой разработаны коллективом авторов. Ме-
  тодология пространственной грануляции позволяет переходить от вычислений в точечном
  метрическом пространстве данных (которое не всегда существует) к вычислениям в аф-
  финном многомерном пространстве, содержащем укрупненные единицы данных (про-
  странственные гранулы). Такое преобразование данных основано на использовании аффин-
  но-инвариантных моделей декартовых гранул и основывается на оптимальных процедурах
  покрытия точечного пространства выпуклыми гранулами. Такие полезные вычислитель-
  ные свойства введенных моделей данных позволяют построить вычислительно эффектив-
  ные процедуры для манипулирования многомерными данными, одним из приложений кото-
  рых является вычисление многомерных кубатурных формул. Новые модели позволяют соз-
  давать наглядные матричные модели данных произвольной размерности для целей плани-
  рования структуры вычислительных процессов и построения информационных графов
  таких процессов. Эффективное и наглядное представление сложных вычислительных
  формул позволяет выполнять эквивалентные (с численной точки зрения) преобразования
  таких формул с целью выбора эффективных схемных решений для построения высокопро-
  изводительных вычислительных блоков вычисления кубатур высокой размерности на базе
  ПЛИС. На основе оптимизированных моделей вычислительных структур строятся схем-
  ные решения, реализующие кубатурные формулы на реконфигурируемых вычислительных
  системах. Сложность решения задачи проектирования на ПЛИС связана с тем, что ис-
  пользуемые вычислительные средства содержать поля ПЛИС, проектирование вычисли-
  тельных структур для которых является вычислительно сложной задачей. Авторы ис-
  пользовали разработанные в организации автоматизированные средства проектирования
  на полях ПЛИС, такие как язык высокого уровня COLAMO, язык низкого уровня Fire Constructor
  и сопутствующие программные средства для реализации полученных информаци-
  онных графов многомерных кубатур и экспериментальной оценки качества полученных
  результатов. Предлагаемый в работе теоретический подход к моделированию и оптими-
  зации информационных графов вычислительных структур может быть распространен на
  широкий круг задач вычислительной математики.