Найти

Результаты поиска

• МЕТОД НЕЙРОСЕТЕВОГО ИЗВЛЕЧЕНИЯ ПРИЧИННО-СЛЕДСТВЕННЫХ СВЯЗЕЙ НА ОСНОВЕ СРАВНИТЕЛЬНОГО АНАЛИЗА СИНТЕТИЧЕСКИХ И ОТКРЫТЫХ КОРПУСОВ

  А.Н. Целых , И. А. Валухов

  160-169

  2026-09-10

  Аннотация ▼

  Задача автоматического извлечения причинно-следственных связей (ПСС) критически важна для систем поддержки решений, но ее развитие сдерживается дефицитом размеченных корпусов. Цель исследования – сравнительный анализ эффективности трёх типов обучающих данных: открытых экспертных корпусов, реального политического корпуса с ручной разметкой и синтетических данных, генерируемых большой языковой моделью. Эксперименты выполнены на архитектуре DistilBERT с пословной разметкой по схеме BIOES. Синтетические данные генерировались LLM Llama-3 с инкапсуляцией причин и следствий в XML-маркеры и последующей детерминированной конвертацией в формат BIOES. Для сравнения использованы два экспертных корпуса (EventStoryLine, SemEval-2010 Task 8), экспертно размеченный политический корпус PolitiCAUSE и синтетическая выборка объёмом 1100 сбалансированных примеров. Модель, обученная на синтетических данных, достигла Macro F1 = 0,736, что на 6,7% выше результата модели, обученной на экспертных корпусах (0,690). Обучение на политическом корпусе PolitiCAUSE (24417 примеров) дало существенно более низкий результат - Macro F1 = 0,367. Данное расхождение обусловлено дисбалансом классов (около 15% каузальных токенов против 50% в синтетической выборке) и различием в постановке задачи: PolitiCAUSE ориентирован на бинарную классификацию наличия каузальности в предложении, тогда как в настоящей работе выполняется разметка спанов.  Подтверждена гипотеза о приоритете качества и баланса аннотаций над объёмом данных. Предложенный пайплайн LLM-генерации позволяет создавать обучающие выборки, превосходящие по эффективности экспертные корпуса, при отсутствии прямых затрат на ручную аннотацию. Метод рекомендован для быстрого развёртывания систем извлечения каузальных отношений в новых предметных областях

• МЕТОД УПРАВЛЕНИЯ МОБИЛЬНЫМ РОБОТОМ С ИСПОЛЬЗОВАНИЕМ СЕМАНТИКИ ЕСТЕСТВЕННОГО ЯЗЫКА

  Д.С. Кобзарь, В.Д. Матвеев , Я.Д. Лапкин , Р.Р. Богданов , А. С. Изюмов

  2026-04-29

  Аннотация ▼

  Реализовать управление роботами можно большим количеством различных интерфейсов – от традиционных пультов до технологий дополненной реальности. Однако у всех подобных интерфейсов существует ряд ограничений, особенно остро возникающих в сервисной робототехнике. Они связаны с длительным обучением человека-оператора, не интуитивным для человека управлением и необходимостью полного вовлечения человека. С другой стороны, сегодня появилась новое направление, связанное с большими языковыми моделями, которые способны обрабатывать естественный язык с последующим его переводом в команды управления роботом. Существует ряд работ, демонстрирующих возможность использования языковых моделей в задачах планирования действий робота. На основе анализа существующих работ предложен новый метод управления мобильным роботом, объединяющий преимущества других методов. Метод позволяет планировать сценарии для робота, получая на вход миссию от человека на естественном языке, ТОП робота и информацию с его датчиков. В статье также описана последовательность настройки системы с использованием большой языковой модели для решения данной задачи – представлено три варианта инструкции для нейронной сети, поэтапно улучшающих достижимость формируемых сценариев. После этого описаны различные миссии, которые задаются в рамках экспериментальных исследований настоящей работы – всего проверялось 100 миссий, разделенных на 4 уровня сложности в равном соотношении. Сложность миссий варьировалась от описания объектов в поле зрения робота до взаимодействия со сложно заданными миссиями, включающими синонимы объектов и неявно заданные цели. В завершении работы представлены результаты оценки алгоритма и трех вариантов инструкции. Выводом можно считать, что использование языковых моделей для задания сценариев роботам возможно, в том числе с достаточно высокой достижимостью. Модель с наиболее продвинутой инструкцией достигла 91 % правильно сформированных сценариев, что позволяет говорить о применимости разработанного метода для управления мобильным роботом на естественном язык

• МАЛОРЕСУРСНАЯ АБСТРАКТИВНАЯ СУММАРИЗАЦИЯ ТЕКСТОВ С ИСПОЛЬЗОВАНИЕМ КОНТРАСТИВНОГО ОБУЧЕНИЯ БЕЗ УЧИТЕЛЯ И ROUGE-ОРИЕНТИРОВАННОЙ ФУНКЦИИ ПОТЕРЬ

  И. Е. Лысенко

  91-101

  2026-09-10

  Аннотация ▼

  Актуальность данной работы определяется тем, что в специализированных предметных областях и малоресурсных языках получение достаточного числа примеров «текст-реферат» для эффективного решения задачи абстрактивной суммаризации текстов оказывается дорогостоящим и практически невыполнимым, тогда как современные модели глубокого обучения требуют крупных размеченных корпусов, а большие объемы неразмеченных текстов остаются неиспользуемыми. Цель исследования заключается в разработке нового метода обучения моделей абстрактивной суммаризации для малоресурсных (10-примерных и 100-примерных) режимов, обеспечивающего рост качества за счет дообучения модели на неразмеченных данных с использованием контрастивного обучения без учителя с аугментацией входа. Из задач исследования выделяются создание новой контрастивной функции потерь и проведение сравнения полученного подхода с существующими методами малоресурсной абстрактивной суммаризации. Методы и подходы включают новую функцию потерь для дообучения трансформера, включающую в себя контрастивную генеративную компоненту дифференцируемой аппроксимации метрики ROUGE-3. Предложены два варианта метода – последовательный «DiffROUGE-seq» и метод с частичным привлечением учителя «DiffROUGE-sim». В качестве базовой модели используется BART-large, а аугментации входа генерируются моделью FLAN-T5-large в 0-примерном режиме. Произведено сравнение на популярных выборках AESLC, Gigaword, XSum и Reddit. Предложенный метод показал заметное улучшение метрик ROUGE в успешных случаях в среднем на 2,69 для 10-примерного режима и в среднем на 2,13 для 100-примерного режима. Таким образом, новый предложенный метод малоресурсной абстрактивной суммаризации, использующий как размеченные, так и неразмеченные данные, заметно более эффективен по метрике ROUGE по сравнению с существующими подходами

• АЛЬТЕРНАТИВНЫЕ ПОДХОДЫ К МАСШТАБИРОВАНИЮ NLP МОДЕЛЕЙ: АНАЛИЗ ПОДХОДОВ К ОПТИМИЗАЦИИ ОБЪЕМА ДАННЫХ И ВЫЧИСЛЕНИЙ ПРИ ОБУЧЕНИИ БОЛЬШИХ ЯЗЫКОВЫХ МОДЕЛЕЙ

  К.И. Ралко , Н. Е. Сергеев

  152-172

  2026-07-07

  Аннотация ▼

  Основное внимание уделяется подходам преодоления системных ограничений парадигмы масштабирования больших языковых моделей (LLM), связанных с исчерпанием данных и экспоненциальным ростом вычислительных затрат. Обход таких ограничений позволяет разработать более эффективные подходы к созданию NLP-моделей без потери в качестве их работы. Целью данного исследования является сравнительный анализ эффективности стандартной трансформерной архитектуры (nanoGPT) и модели, оперирующей семантическими эмбеддингами (nanoSonar), для задач языкового моделирования в условиях ограниченных ресурсов. Работа с концептуальными эмбеддингами позволяет выявить более глубокие языковые закономерности и сократить объем требуемых данных для обучения, что значительно повышает эффективность моделирования. При проведении исследования использовался набор данных TinyStories, который включает короткие нарративы с четкой структурой. Перед реализацией моделей была проведена предобработка данных: для nanoGPT – токенизация методом BPE, для nanoSonar – преобразование текста в семантические эмбеддинги с помощью предобученной модели Sonar. Оценка моделей осуществлялась с использованием метрик функции потерь (loss) и перплексии (perplexity). Результаты исследования показали, что модель nanoSonar обеспечивает значительно более низкую перплексию (6,609 против 39,151 у nanoGPT), а также демонстрирует более устойчивую динамику обучения на поздних этапах. В работе представлен анализ современных подходов к оптимизации масштабирования (MoE, дистилляция, PEFT) и перспективных архитектур (LRM, SSM, RWKV), а также даны практические рекомендации по применению моделей, работающих в пространстве семантических эмбеддингов, для доменно-специфичных задач и систем с ограниченными вычислительными ресурсами. Результаты исследования могут быть полезны при разработке эффективных языковых моделей, сочетающих высокое качество генерации с экономичной архитектурой.

• АЛГОРИТМ ФИЛЬТРАЦИИ «ИНЪЕКЦИЙ ПОДСКАЗОК» ПРИ ИСПОЛЬЗОВАНИИ ПРОСТРАНСТВЕННОЙ ИНФОРМАЦИИ

  С.Л. Беляков , Л.А. Израилев , О.Н. Покусаев

  32-45

  2026-07-07

  Аннотация ▼

  Интеграция больших языковых моделей (LLM) в геоинформационные системы (ГИС) открывает новые возможности для пространственного анализа, однако сопровождается специфическими уязвимостями типа «инъекция подсказок» (промпт-инъекции). Такие атаки позволяют злоумышленникам обходить защитные механизмы LLM, манипулировать выдачей, получать доступ к конфиденциальной информации и нарушать целостность данных. Использование пространства позволяет обратиться к объекту не напрямую, а через его пространственные отношения с другими объектами. Существующие методы фильтрации по ключевым словам или шаблонам не обеспечивают надёжной защиты из-за постоянного появления новых сценариев атак. Это определяет актуальность разработки адаптивных, самообучающихся алгоритмов фильтрации запросов на предмет промт-инъекций к большим языковым моделям. Целью исследования является разработка алгоритма фильтрации промпт-инъекций для LLM, на основе метода прецедентного анализа (Case-Based Reasoning, CBR). В работе предлагается алгоритм сравнения запросов к LLM с базой ранее известных промт-инъекций. Проведенный эксперимент показал, что по мере накопления базы прецедентов точность выявления промпт-инъекций возрастает с 42% до 83%. При этом время обработки одного запроса увеличивается незначительно (с 0,18 до 0,19 секунд при росте базы на 23%). Также были предложены подходы к обобщению базы прецедентов и самоанализу базы прецедентов. Предложенный алгоритм позволяет повысить защищённость систем с
  LLM-интерфейсом от промпт-инъекций за счёт адаптивности и самообучения. Практическая значимость заключается в возможности внедрения разработанного фильтра в информационные системы для предотвращения утечек и манипуляций с пространственными данными. Дальнейшие исследования связаны с развитием методов автоматического обобщения прецедентов и интеграцией дополнительных контекстных анализаторов.

• ОРГАНИЗАЦИЯ НАВИГАЦИИ МОБИЛЬНЫХ РОБОТОВ НА ОСНОВЕ КОГНИТИВНОГО КАРТИРОВАНИЯ

  А.М. Корсаков , В. В. Иванова

  2026-04-29

  Аннотация ▼

  КОГНИТИВНОГО КАРТИРОВАНИЯ

  Рассматривается актуальная задача обеспечения автономности мобильных роботов в сложных условиях, когда использование традиционных навигационных методов, основанных на глобальных системах координат и спутниковых данных, невозможно или неэффективно. Для решения данной проблемы предлагается подход, основанный на когнитивной (интерпретирующей) навигации, где основную роль играет семантическое понимание среды. Ключевой особенностью метода является построение когнитивной карты – семантически ориентированного графа, вершины которого соответствуют объектам-ориентирам (либо группам однородных ориентиров), а рёбра – фиксированным наборам информационно-двигательных действий (элементарным обусловленным паттернам поведения). Таким образом маршрут робота при его движении по когнитивной карте сводится к фиксированному набору информационно-двигательных действий. Процесс построения карты осуществляется автоматически на основе предварительно полученного семантически сегментированного изображения местности, что позволяет мобильному роботу априори получить информацию о взаимном расположении и форме ориентиров. Для формализации процесса навигации и управления поведением робота на основе когнитивной карты авторами предложен специально разработанный формальный язык LRNB (Language of Robot Navigation Behavior). Этот язык позволяет декомпозировать сложные миссии на элементарные информационно-двигательные действия, задавать условия их завершения и описывать сценарии взаимодействия с динамическими и статическими объектами. В работе описаны принципы построения когнитивной карты, синтаксис языка LRNB, а также механизм формирования маршрута как последовательности команд. Практическая часть включает результаты верификации подхода в условиях симуляции с использованием специально разработанного эмулятора, а также предварительные натурные испытания на лабораторном гусеничном мобильном роботе, подтвердившие принципиальную работоспособность предложенного подхода. Полученные результаты свидетельствуют о потенциале метода для применения в критически важных сценариях, таких как зоны стихийных бедствий, области радиоэлектронного подавления и другие среды с высокой степенью неопределённости. Предложены дальнейшие планы работ, связанные с приближением условий экспериментов к реальным условиям возможной эксплуатации

• ОБЗОР МЕТОДОВ УЛУЧШЕНИЯ РАССУЖДЕНИЙ В БОЛЬШИХ ЯЗЫКОВЫХ МОДЕЛЯХ

  В.Б. Савинов , Н.Н. Шушарина

  2026-02-27

  Аннотация ▼

  Появление больших языковых моделей стало важным этапом в области обработки естественного языка, поскольку такие модели демонстрируют впечатляющие результаты в генерации, трансформации и анализе текстов, а также в решении широкого спектра прикладных задач. Однако, несмотря на значительные успехи успехи практического применения, большие языковые модели обладают ограниченными способностями к рассуждению. Эти ограничения проявляются в трудностях обобщения знаний за пределами обучающего распределения, проблемах переноса знаний в новые контексты, а также в снижении точности выполнения многошаговых логических и математических операций. Целью данной работы является изучение методов повышения способности больших языковых моделей к рассуждению, где под рассуждением понимается процесс формирования и оценки выводов из существующей информации. В работе рассматриваются основные типы рассуждений, релевантные для больших языковых моделей: математическое, логическое и рассуждение на основе здравого смысла. Приводится список наиболее часто используемых контрольных тестов, применяемых для оценки качества рассуждений языковых моделей. Проводится обзор методов улучшения рассуждений, применяемых в больших языковых моделях на 2025 год.
  В зависимости от этапа применения (на этапе обучения или на этапе использования языковой модели) - рассматриваются подходы к подготовке данных для обучения, изменения в архитектуре языковых моделей, процедуры обучения и дообучения моделей (в том числе с использованием специально подготовленных синтетических наборах данных), обучение с подкреплением, различные варианты построения смысловых цепочек, механизмы интеграции внешних инструментов и многоагентный подход. Также рассматриваются существующие ограничения больших языковых моделей, которые проявляются в отсутствии понимания концепций, плохой обобщающей способности вне распределения обучающих данных и снижении эффективности при росте сложности задач. Выделяются наиболее перспективные методы, направленные на повышение качества и надежности рассуждений больших языковых моделей

• АЛГОРИТМ РАСПОЗНАВАНИЯ ЯЗЫКА ЖЕСТОВ С ИСПОЛЬЗОВАНИЕМ СВЕРТОЧНОЙ НЕЙРОННОЙ СЕТИ

  В.Е. Бондарева , Т.С. Черноморова , А.В. Кривцун , Абдулкарем Абейр

  2026-02-27

  Аннотация ▼

  Рассматривается задача автоматического распознавания русского жестового языка (РЖЯ) на основе методов компьютерного зрения и глубокого обучения. Актуальность исследования обусловлена устойчивым ростом численности лиц с нарушениями слуха: по данным Всемирной организации здравоохранения, в настоящее время их количество составляет около 70 млн человек, и, согласно прогнозам, может увеличиться до 630 млн к 2035 году. Разработка эффективных алгоритмов распознавания жестов является важным направлением создания систем бесконтактного человеко-машинного взаимодействия, направленных на повышение доступности информационных технологий и улучшение качества жизни людей с ограниченными возможностями слуха. Целью работы является разработка и экспериментальная апробация алгоритма распознавания букв русского жестового языка в видеопотоке в реальном времени с использованием сверточной нейронной сети. В ходе исследования сформирован специализированный датасет, включающий 430 изображений жестов, соответствующих буквам алфавита РЖЯ, представленных с различных ракурсов и при изменяющихся условиях освещения. Для реализации модели использованы библиотеки TensorFlow и Keras, а интеграция с видеопотоком выполнена с применением средств OpenCV и системы отслеживания положения руки на основе маркеров. В результате проведенного обучения и тестирования предложенная модель продемонстрировала точность распознавания на уровне 99 % на тестовой выборке. Проведён сравнительный анализ с классическими методами машинного обучения, показавший преимущество сверточной нейронной сети по точности классификации и устойчивости к внешним помехам. Полученные результаты подтверждают эффективность предложенного подхода и его применимость для создания систем реального времени, предназначенных для коммуникационных, образовательных и реабилитационных приложений, а также для разработки интерфейсов человеко-машинного взаимодействия

• ПРЕДСТАВЛЕНИЕ ГРАФОВ С АССОЦИАТИВНЫМИ ОПЕРАЦИЯМИ НА ЯЗЫКЕ ПРОГРАММИРОВАНИЯ SET@L

  И.И. Левин , И. В. Писаренко, Д.В. Михайлов , А. И. Дордопуло

  2020-10-11

  Аннотация ▼

  Как правило, информационный граф с ассоциативными операциями реализуется в
  виде последовательной («голова/хвост») или параллельной («разбиение пополам») топ о-
  логии, причем обе структуры содержат одинаковое число операционных вершин. Реду к-
  ционные преобразования графов с представленными топологиями при недостатке в ы-
  числительного ресурса не обеспечивают создание эффективной ресурсонезависимой пр о-
  граммы: вариант «разбиение пополам» характеризуется нерегулярной межитерацион-
  ной коммутацией, а структура «голова/хвост» – увеличенной скважностью данных при
  редукции. В данной статье предлагается преобразовать топологию графа с ассоци а-
  тивными операциями в один из комбинированных вариантов с последовательными и па-
  раллельными фрагментами вычислений, синтезированный в соответствии с заданным
  вычислительным ресурсом. Это позволяет повысить удельную производительность в ы-
  числений при редукции. Модифицированная топология включает изоморфные подграфы с
  топологией «разбиение пополам», содержащие максимальное число аппаратно реализу е-
  мых операционных вершин, а обработка промежуточных данных осуществляется по
  принципу «голова/хвост». Вычислительная структура для рассмотренной топологии
  имеет минимальную латентность и состоит из одного базового подграфа и одной вер-
  шины, в которую редуцируется блок обработки промежуточных данных с топологией
  «голова/хвост». Разработан алгоритм, позволяющий в зависимости от доступного а п-
  паратного ресурса перейти от базового последовательного варианта реализации к раз-
  личным комбинированным топологиям вплоть до предельного случая топологии «разби е-
  ние пополам». Поскольку традиционные методы параллельного программирования могут
  описать множество топологий только в виде набора отдельных подпрограмм, для соз-
  дания ресурсонезависимого описания графов с ассоциативными операциями предлагае т-
  ся использовать язык архитектурно-независимого программирования Set@l. Принципы
  построения топологий «голова/хвост» и «разбиение пополам» описаны в виде признаковметода обработки множеств на языке Set@l, а ресурсонезависимая программа оперирует
  этими типами и типами параллелизма для модификации топологии графа и последующей
  редукции производительности в соответствующих аспектах программы.

• КОМПЛЕКС СРЕДСТВ ТРАНСЛЯЦИИ ПРОГРАММ НА ЯЗЫКЕ C В ПРОГРАММЫ НА ЯЗЫКЕ ПОТОКА ДАННЫХ COLAMO

  А. И. Дордопуло, A.A. Гуленок, А.В. Бовкун, И.И. Левин, В. А. Гудков, С.А. Дудко

  2021-02-25

  Аннотация ▼

  Рассматриваются программные средства трансляции последовательных программ
  на языке C в масштабируемые параллельно-конвейерные программы на языке программи-
  рования реконфигурируемых вычислительных систем COLAMO. В отличие от существую-
  щих средств высокоуровневого синтеза, результатом трансляции является не IP-ядро
  фрагмента задачи, а комплексное решение задачи для многокристальных реконфигурируе-
  мых вычислительных систем с автоматической синхронизацией информационных и управ-
  ляющих сигналов. Рассмотрены основные этапы трансляции последовательной программы
  на языке C: преобразование в информационный граф, анализ информационных зависимо-
  стей и выделение функциональных подграфов, преобразование в масштабируемую ресурсо-
  независимую параллельно-конвейерную форму и масштабирование программы на языке
  COLAMO для заданной многокристальной реконфигурируемой вычислительной системы.
  Масштабирование программы осуществляется с помощью методов редукции производи-
  тельности абсолютно-параллельной формы задачи – информационного графа, который
  адаптируется под архитектуру реконфигурируемой вычислительной системы. Разрабо-
  тан ряд правил, позволяющих существенно сократить число шагов преобразований при
  масштабировании задачи и обеспечить плотный поток обработки данных в функциональ-
  ных подграфах задачи. Созданный комплекс средств трансляции программ на языке C в
  конфигурационные файлы ПЛИС позволяет существенно сократить время синтеза вычис-
  лительной структуры задачи для многокристальных РВС и обеспечить сокращение общего
  времени решения задачи.

• МНОГОЭТАПНЫЙ МЕТОД АВТОМАТИЧЕСКОЙ КОРРЕКЦИИ ИСКАЖЕННЫХ ТЕКСТОВ

  Д. В. Вахлаков, В.А. Пересыпкин, С. Ю. Мельников

  2021-02-25

  Аннотация ▼

  Одним из основных факторов, существенно затрудняющих понимание, перевод и
  анализ текстов, полученных при автоматическом распознавании речи или оптическом
  распознавании изображений текстов, являются содержащиеся в них искажения в виде
  ошибочных символов, слов и словосочетаний. Наиболее характерными ошибками систем
  распознавания являются: – замена слова на похожее по звучанию или графическому напи-
  санию; – замена нескольких слов на одно; – замена одного слова несколькими; – пропуск
  слов; – вставка или удаление коротких слов (в т.ч. предлогов и союзов). В результате рас-
  познавания получается текст, имеющий искажения и состоящий, в основном, из словарных
  слов, в том числе и в местах искажений. При большом количестве искажений тексты
  становятся практически нечитаемыми. Автоматическая обработка таких текстов весь-
  ма затруднительна, хотя эта задача является актуальной как для русского, так и для дру-
  гих распространенных языков. Программные средства коррекции, хорошо работающие при
  малых искажениях в тексте, в случае текстов с высоким уровнем искажений, вне зависи-
  мости от их происхождения, показывают неудовлетворительные результаты. Это дела-
  ет необходимым разработку самостоятельных подходов к коррекции искаженных тек-
  стов. Предложен новый многоэтапный метод коррекции искаженных текстов, основан-
  ный на последовательном определении ошибок и исправлении искаженных текстов. Иска-
  женными считаются несловарные словоформы и словоформы, вероятность появления
  которых в тексте в соответствии с выбранной вероятностной моделью меньше заданно-
  го порога. После установки признака искаженности для отдельных слов происходит рас-
  пространение этого признака на их сочетания, т.е. выделяются искаженные фрагменты
  текста. Для них строится список возможных вариантов слов, в который попадают толь-
  ко те словоформы из словаря, которые находятся от исследуемого слова на определенном
  расстоянии Левенштейна. Скорректированный текст из вариантов слов получается в
  результате поиска наиболее вероятной цепочки словоформ. Метод коррекции состоит из
  нескольких этапов, на каждом этапе корректируются лишь те фрагменты текста, кото-
  рые остались искаженными после предыдущего этапа коррекции. Метод позволяет за-
  метно повысить качество (точность) коррекции. В проведенных экспериментах качество
  коррекции в терминах F1-меры для средне искаженных текстов повысилось на 9 %, а для
  сильно искаженных текстов – на 7.7 %.

• О ТОЧНОСТИ И ТРУДОЕМКОСТИ МНОГОЭТАПНОГО МЕТОДА КОРРЕКЦИИ ИСКАЖЕННЫХ ТЕКСТОВ В ЗАВИСИМОСТИ ОТ СТЕПЕНИ ИСКАЖЕНИЯ

  Д.В. Вахлаков , В. А. Пересыпкин , А.В. Германович , С.Ю. Мельников , Н.Н. Цопкало

  130-142

  2021-10-05

  Аннотация ▼

  Одним из основных факторов, существенно затрудняющих понимание, перевод и
  анализ текстов, полученных при автоматическом распознавании речи или изображений
  текстов, являются содержащиеся в них искажения в виде ошибочных символов, слов и
  словосочетаний. До недавнего времени не существовало эффективных программных
  средств коррекции текстов со значительными искажениями, хотя эта задача является
  актуальной как для русского, так и для других распространенных языков в условиях актив-
  ного использования систем распознавания в перспективных системах дополненной реаль-
  ности. Авторами был предложен новый многоэтапный метод коррекции искаженных тек-
  стов, значимо повышающий точность коррекции (количество правильно скорректирован-
  ных слов в тексте) и основанный на последовательном определении ошибок и их исправле-
  нии. В настоящей работе оцениваются точность и трудоемкость предложенного метода
  коррекции искаженных текстов при различных уровнях искажений, определяется его ме-
  сто среди других современных подходов к коррекции. Наиболее характерными ошибками
  систем распознавания являются: – замена слова на похожее по звучанию или графическому
  написанию; – замена нескольких слов на одно; – замена одного слова несколькими; – про-
  пуск слов; – вставка или удаление коротких слов (в т.ч. предлогов и союзов). В результате
  распознавания получается текст, имеющий искажения и состоящий, в основном, из сло-
  варных слов, в том числе и в местах искажений. При большом количестве искажений тек-
  сты становятся практически нечитаемыми. В связи с тем, что подобрать в необходимом
  количестве тексты с широким диапазоном уровней искажений по результатам реального
  машинного распознавания речи и изображений текстов представляется проблематичным,
  использовалось программное моделирование искажений. Предложена и программно реали-
  зована методика искажений текста, моделирующая результаты работы систем распо-
  знавания в широком диапазоне искажений, в необходимом количестве подготовлены иска-
  женные тексты. При работе предложенного многоэтапного метода коррекции искажен-
  ными считаются несловарные словоформы и словоформы, вероятность появления кото-
  рых в тексте в соответствии с выбранной вероятностной моделью текста меньше за-
  данного порога. Для них строится список возможных вариантов слов, в который попада-
  ют только те словоформы из словаря, которые находятся от исследуемого слова на опре-
  деленном расстоянии Левенштейна. Скорректированный текст из вариантов слов получа-
  ется в результате поиска наиболее вероятной цепочки словоформ. Метод коррекции со-
  стоит из нескольких этапов, на каждом этапе корректируются лишь те фрагменты тек-
  ста, которые остались искаженными после предыдущего этапа коррекции. По результа-
  там проведенных экспериментов по коррекции искаженных текстов сделан вывод, что
  предложенный метод коррекции показал хорошие результаты со средним значением
  1 F -меры >50 % в диапазоне искажений от 0 до 75 %. Эксперты-лингвисты подтвердили
  плодотворность предложенного подхода к коррекции и его предпочтительность по срав-
  нению с другими современными подходами, зафиксировав, что при количестве искажений <50 % скорректированный текст читается с гораздо меньшими усилиями, чем искаженный, а при количестве искажений до 70% слов скорректированный текст еще позволяет выделить полезную информацию о содержании текста

• АНАЛИЗ МЕТОДОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, ПРИМЕНЯЕМЫХ ДЛЯ РЕШЕНИЯ ЗАДАЧ ПСИХИАТРИИ

  Е. С. Подоплелова

  2022-05-26

  Аннотация ▼

  Использование методов искусственного интеллекта в области медицины получило
  широкое распространение, помогая диагностировать, анализировать и давать рекоменда-
  ции по лечению. Психиатрия – это область медицины, изучающая психические расстрой-
  ства, методы их диагностики и лечения. В спектр ее задач входит не только диагностика
  и лечение, но также наблюдение, мониторинг и последующая реабилитация пациентов.
  Эта предметная область имеет существенные проблемы, такие как объективность, про-
  тиворечивость диагноза, сложность классификации болезней, непредсказуемость течения
  заболевания. С рядом этих проблем помогает справиться использование методов машин-
  ного обучения и алгоритмы искусственного интеллекта. Данная работа посвящена обзору
  исследований методов искусственного интеллекта, применяемых для решения задач в об-
  ласти психиатрии. Актуальность темы обусловлена высокой потребностью данной пред-
  метной области в улучшениях. Конкретные проблемы представлены в данной статье.
  Среди них были выделены основные направления: деидентификация данных, классификация
  тяжести симптомов, точность прогнозирования состояния. Для их решения авторами
  были применены такие методы как латентный семантический анализ для обработки ес-
  тественного языка, методы классификации, сверточные нейронные сети для прогнозиро-
  вания, когнитивное моделирование. Отдельно отмечена эффективность гибридных сис-
  тем, включающих реализацию сразу нескольких метолов машинного обучения. Целью ис-
  следования было выделить основные направления развития исследований научного сообще-
  ства, которые демонстрируют успешную интеграцию искусственного интеллекта в пси-
  хиатрию, а также сравнение их между собой по полученным оценкам точности моделей.
  Что, в свою очередь, подразумевает разбор и анализ конкретных алгоритмов, их произво-
  дительность для конкретных задач.

• МЕТОДЫ ГЛУБОКОГО ОБУЧЕНИЯ ДЛЯ ОБРАБОТКИ ТЕКСТОВ НА ЕСТЕСТВЕННОМ ЯЗЫКЕ

  В. В. Курейчик , С. И. Родзин , В.В. Бова

  2022-05-26

  Аннотация ▼

  Представлен анализ подходов, основанных на глубоком обучении (DL), к задачам об-
  работки естественного языка (NLP). Исследование охватывает различные задачи NLP,
  реализованные с помощью искусственных нейронных сетей (ANNs), сверточных нейронных
  сетей (CNNs) и рекуррентных нейронных сетей (RNNs). Эти архитектуры позволяют ре-
  шать широкий спектр задач обработки естественного языка, ранее не поддававшихся
  эффективному решению: моделирование предложений, маркировка семантической роли,
  распознавание именованных сущностей, ответы на вопросы, категоризация текста, ма-
  шинный перевод. Наряду с преимуществами использования CNN для решения задач NLP
  имеются проблемы, связанные с большим числом варьируемых параметров сети и выбором
  ее архитектуры. Мы предлагаем для оптимизации архитектур сверточных нейронных
  сетей эволюционный алгоритм. Алгоритм инициализирует случайную популяцию из малого
  числа агентов (не более 5) и с помощью фитнесс функции получает оценки каждого агента
  в популяции. Затем проводится турнирная селекция между всеми агентами и применяется
  оператор кроссинговера между выбранными агентами. Алгоритм обладает таким пре-
  имуществом как малый размер популяции сетей, он использует несколько типов слоев
  CNN: сверточный слой, максимальный слой пулинга (субдискретизации), средний слой пу-
  линга и полносвязный слой. Алгоритм тестировался на локальном компьютере с графиче-
  ским процессором ASUS Cerberus GeForce ® GTX 1050 Ti OC Edition 4 ГБ GDDR5, 8 ГБ
  оперативной памяти и процессором Intel(R) Core(TM) i5-4670. Результаты экспериментов
  показали, что предлагаемый нейроэволюционный подход способен достаточно быстро
  найти оптимизированную архитектуру CNN для заданного набора данных с приемлемым
  значением точности. Для завершения выполнения алгоритма потребовалось около 1 часа.
  Для создания и обучения CNN был использован популярный фреймворк TensorFlow.
  Для оценки алгоритма использовались общедоступные наборы данных: MNIST и MNIST-RB.
  Наборы содержали черно-белые изображения рукописных букв и цифр с 50000 обучающими
  образцами и 10000 тестовыми образцами.

• РАЗРАБОТКА ЧАТ-БОТА ДЛЯ КЛАССИФИКАЦИИ И АНАЛИЗА ТЕКСТОВ НА ЕСТЕСТВЕННОМ ЯЗЫКЕ С ИСПОЛЬЗОВАНИЕМ ЛОКАЛЬНЫХ БОЛЬШИХ ЯЗЫКОВЫХ МОДЕЛЕЙ

  Али Махмуд Мансур , Жуман Хуссайн Мохаммад , Ю.А. Кравченко

  159-171

  2025-07-24

  Аннотация ▼

  Исследуются локальные большие языковые модели (Local large language models, Local LLM) и их применение в задачах классификации текста, а также проводится сравнение их производительности с традиционными методами. Статья предоставляет всесторонний обзор ряда ключевых локальных LLM, уделяя особое внимание их архитектурным преимуществам, характеристикам и областям применения. В частности, рассматриваются модели с различным количеством параметров, их способность адаптироваться к специализированным доменам, а также требования к вычислительным ресурсам при их развертывании на локальном оборудовании. Особый акцент делается на компромиссах между производительностью и эффективностью использования ресурсов. В качестве практического вклада разработан чат-бот, использующий локальные LLM (такие как DeepSeek, Gemma и Llama2 через Ollama) для классификации входящих текстов по заранее заданным категориям, демонстрируя работу этих моделей без использования облачных вычислений. Система реализована с модульной архитектурой, позволяющей легко интегрировать новые модели и сравнивать их эффективность. Вычислительный эксперимент включает оценку точности и скорости вывода локальных LLM в сравнении с более простыми методами, такими как Sentence-BERT, TF-IDF и BoWC, выделяя сценарии, в которых локальные модели превосходят традиционные подходы или уступают им. Тестирование проводилось на основе эталонного набора данных BBC. Результаты показывают, что языковые модели (включая модели с 7 миллиардами параметров) демонстрируют сильную и логически обоснованную классификационную производительность при обработке текстов на естественном языке, однако их результаты не являются идеальными для эталонных наборов данных. В частности, обнаружены случаи, когда все тестируемые модели, включая традиционные методы, ошибочно классифицировали документы, что указывает на возможные проблемы в разметке данных. Полученные результаты указывают на необходимость пересмотра эталонных меток в стандартных наборах данных. Это особенно важно для доменов с субъективными категориями, где экспертные оценки могут значительно расходиться. С другой стороны, хотя локальные LLM уступают облачным в скорости, их преимущества в конфиденциальности данных и оффлайн-работе делают их пригодными для специализированных задач.

• ИДЕНТИФИКАЦИЯ КЛЮЧЕВЫХ ТЕХНОЛОГИЙ НА ОСНОВЕ СБОРА И АНАЛИЗА ДАННЫХ ИЗ ОТКРЫТЫХ РУССКОЯЗЫЧНЫХ ИСТОЧНИКОВ

  А.Г. Бондаренко , А.Г. Кравец

  144-159

  2025-07-24

  Аннотация ▼

  Данная статья посвящена разработке и апробации нового подхода к сбору, обработке и анализу открытых данных на русском языке для идентификации ключевых технологических направлений. Для решения задачи формирования и последующего анализа структурированных датасетов разработаны и программно реализованы методы веб-скрейпинга, обработки естественного языка и анализа временных рядов. Описанный в статье подход впервые применен для извлечения и структурирования информации из научных статей, новостных ресурсов и патентной документации на русском языке. В результате анализа полученного датасета научных публикаций выделены 30 наиболее часто упоминаемых биграмм и столько же триграмм технологических терминов.
  На основе анализа частотности биграмм и триграмм выделены ключевые технологические термины, которые затем использованы для комплексной фильтрации по ключевым технологиям. Комплексная фильтрация позволила осуществить поиск русскоязычных патентов и их сбор для дальнейшего анализа. В результате предварительной обработки полученной патентной информации сформированы временные ряды патентной активности. Программная система идентификации ключевых технологий реализована на JavaScript и Python с использованием библиотек Selenium и BeautifulSoup для веб-скрейпинга, NLTK и Scikit-learn для обработки и анализа текстовых данных. Исследование динамики развития ключевых технологий во времени позволило выявить периоды интенсивной патентной деятельности и снижения интереса к той или иной технологии. Результаты, изложенные в статье, создают основу для дальнейшей разработки методов машинного обучения с целью прогнозирования технологического развития и выявления перспективных направлений прикладных исследований.