Найти

Результаты поиска

• МЕТОД НЕЙРОСЕТЕВОГО ИЗВЛЕЧЕНИЯ ПРИЧИННО-СЛЕДСТВЕННЫХ СВЯЗЕЙ НА ОСНОВЕ СРАВНИТЕЛЬНОГО АНАЛИЗА СИНТЕТИЧЕСКИХ И ОТКРЫТЫХ КОРПУСОВ

  А.Н. Целых , И. А. Валухов

  160-169

  2026-09-10

  Аннотация ▼

  Задача автоматического извлечения причинно-следственных связей (ПСС) критически важна для систем поддержки решений, но ее развитие сдерживается дефицитом размеченных корпусов. Цель исследования – сравнительный анализ эффективности трёх типов обучающих данных: открытых экспертных корпусов, реального политического корпуса с ручной разметкой и синтетических данных, генерируемых большой языковой моделью. Эксперименты выполнены на архитектуре DistilBERT с пословной разметкой по схеме BIOES. Синтетические данные генерировались LLM Llama-3 с инкапсуляцией причин и следствий в XML-маркеры и последующей детерминированной конвертацией в формат BIOES. Для сравнения использованы два экспертных корпуса (EventStoryLine, SemEval-2010 Task 8), экспертно размеченный политический корпус PolitiCAUSE и синтетическая выборка объёмом 1100 сбалансированных примеров. Модель, обученная на синтетических данных, достигла Macro F1 = 0,736, что на 6,7% выше результата модели, обученной на экспертных корпусах (0,690). Обучение на политическом корпусе PolitiCAUSE (24417 примеров) дало существенно более низкий результат - Macro F1 = 0,367. Данное расхождение обусловлено дисбалансом классов (около 15% каузальных токенов против 50% в синтетической выборке) и различием в постановке задачи: PolitiCAUSE ориентирован на бинарную классификацию наличия каузальности в предложении, тогда как в настоящей работе выполняется разметка спанов.  Подтверждена гипотеза о приоритете качества и баланса аннотаций над объёмом данных. Предложенный пайплайн LLM-генерации позволяет создавать обучающие выборки, превосходящие по эффективности экспертные корпуса, при отсутствии прямых затрат на ручную аннотацию. Метод рекомендован для быстрого развёртывания систем извлечения каузальных отношений в новых предметных областях

• МАЛОРЕСУРСНАЯ АБСТРАКТИВНАЯ СУММАРИЗАЦИЯ ТЕКСТОВ С ИСПОЛЬЗОВАНИЕМ КОНТРАСТИВНОГО ОБУЧЕНИЯ БЕЗ УЧИТЕЛЯ И ROUGE-ОРИЕНТИРОВАННОЙ ФУНКЦИИ ПОТЕРЬ

  И. Е. Лысенко

  91-101

  2026-09-10

  Аннотация ▼

  Актуальность данной работы определяется тем, что в специализированных предметных областях и малоресурсных языках получение достаточного числа примеров «текст-реферат» для эффективного решения задачи абстрактивной суммаризации текстов оказывается дорогостоящим и практически невыполнимым, тогда как современные модели глубокого обучения требуют крупных размеченных корпусов, а большие объемы неразмеченных текстов остаются неиспользуемыми. Цель исследования заключается в разработке нового метода обучения моделей абстрактивной суммаризации для малоресурсных (10-примерных и 100-примерных) режимов, обеспечивающего рост качества за счет дообучения модели на неразмеченных данных с использованием контрастивного обучения без учителя с аугментацией входа. Из задач исследования выделяются создание новой контрастивной функции потерь и проведение сравнения полученного подхода с существующими методами малоресурсной абстрактивной суммаризации. Методы и подходы включают новую функцию потерь для дообучения трансформера, включающую в себя контрастивную генеративную компоненту дифференцируемой аппроксимации метрики ROUGE-3. Предложены два варианта метода – последовательный «DiffROUGE-seq» и метод с частичным привлечением учителя «DiffROUGE-sim». В качестве базовой модели используется BART-large, а аугментации входа генерируются моделью FLAN-T5-large в 0-примерном режиме. Произведено сравнение на популярных выборках AESLC, Gigaword, XSum и Reddit. Предложенный метод показал заметное улучшение метрик ROUGE в успешных случаях в среднем на 2,69 для 10-примерного режима и в среднем на 2,13 для 100-примерного режима. Таким образом, новый предложенный метод малоресурсной абстрактивной суммаризации, использующий как размеченные, так и неразмеченные данные, заметно более эффективен по метрике ROUGE по сравнению с существующими подходами

• АНАЛИЗ МЕТОДОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, ПРИМЕНЯЕМЫХ ДЛЯ РЕШЕНИЯ ЗАДАЧ ПСИХИАТРИИ

  Е. С. Подоплелова

  2022-05-26

  Аннотация ▼

  Использование методов искусственного интеллекта в области медицины получило
  широкое распространение, помогая диагностировать, анализировать и давать рекоменда-
  ции по лечению. Психиатрия – это область медицины, изучающая психические расстрой-
  ства, методы их диагностики и лечения. В спектр ее задач входит не только диагностика
  и лечение, но также наблюдение, мониторинг и последующая реабилитация пациентов.
  Эта предметная область имеет существенные проблемы, такие как объективность, про-
  тиворечивость диагноза, сложность классификации болезней, непредсказуемость течения
  заболевания. С рядом этих проблем помогает справиться использование методов машин-
  ного обучения и алгоритмы искусственного интеллекта. Данная работа посвящена обзору
  исследований методов искусственного интеллекта, применяемых для решения задач в об-
  ласти психиатрии. Актуальность темы обусловлена высокой потребностью данной пред-
  метной области в улучшениях. Конкретные проблемы представлены в данной статье.
  Среди них были выделены основные направления: деидентификация данных, классификация
  тяжести симптомов, точность прогнозирования состояния. Для их решения авторами
  были применены такие методы как латентный семантический анализ для обработки ес-
  тественного языка, методы классификации, сверточные нейронные сети для прогнозиро-
  вания, когнитивное моделирование. Отдельно отмечена эффективность гибридных сис-
  тем, включающих реализацию сразу нескольких метолов машинного обучения. Целью ис-
  следования было выделить основные направления развития исследований научного сообще-
  ства, которые демонстрируют успешную интеграцию искусственного интеллекта в пси-
  хиатрию, а также сравнение их между собой по полученным оценкам точности моделей.
  Что, в свою очередь, подразумевает разбор и анализ конкретных алгоритмов, их произво-
  дительность для конкретных задач.

• МЕТОДЫ ГЛУБОКОГО ОБУЧЕНИЯ ДЛЯ ОБРАБОТКИ ТЕКСТОВ НА ЕСТЕСТВЕННОМ ЯЗЫКЕ

  В. В. Курейчик , С. И. Родзин , В.В. Бова

  2022-05-26

  Аннотация ▼

  Представлен анализ подходов, основанных на глубоком обучении (DL), к задачам об-
  работки естественного языка (NLP). Исследование охватывает различные задачи NLP,
  реализованные с помощью искусственных нейронных сетей (ANNs), сверточных нейронных
  сетей (CNNs) и рекуррентных нейронных сетей (RNNs). Эти архитектуры позволяют ре-
  шать широкий спектр задач обработки естественного языка, ранее не поддававшихся
  эффективному решению: моделирование предложений, маркировка семантической роли,
  распознавание именованных сущностей, ответы на вопросы, категоризация текста, ма-
  шинный перевод. Наряду с преимуществами использования CNN для решения задач NLP
  имеются проблемы, связанные с большим числом варьируемых параметров сети и выбором
  ее архитектуры. Мы предлагаем для оптимизации архитектур сверточных нейронных
  сетей эволюционный алгоритм. Алгоритм инициализирует случайную популяцию из малого
  числа агентов (не более 5) и с помощью фитнесс функции получает оценки каждого агента
  в популяции. Затем проводится турнирная селекция между всеми агентами и применяется
  оператор кроссинговера между выбранными агентами. Алгоритм обладает таким пре-
  имуществом как малый размер популяции сетей, он использует несколько типов слоев
  CNN: сверточный слой, максимальный слой пулинга (субдискретизации), средний слой пу-
  линга и полносвязный слой. Алгоритм тестировался на локальном компьютере с графиче-
  ским процессором ASUS Cerberus GeForce ® GTX 1050 Ti OC Edition 4 ГБ GDDR5, 8 ГБ
  оперативной памяти и процессором Intel(R) Core(TM) i5-4670. Результаты экспериментов
  показали, что предлагаемый нейроэволюционный подход способен достаточно быстро
  найти оптимизированную архитектуру CNN для заданного набора данных с приемлемым
  значением точности. Для завершения выполнения алгоритма потребовалось около 1 часа.
  Для создания и обучения CNN был использован популярный фреймворк TensorFlow.
  Для оценки алгоритма использовались общедоступные наборы данных: MNIST и MNIST-RB.
  Наборы содержали черно-белые изображения рукописных букв и цифр с 50000 обучающими
  образцами и 10000 тестовыми образцами.

• ИДЕНТИФИКАЦИЯ КЛЮЧЕВЫХ ТЕХНОЛОГИЙ НА ОСНОВЕ СБОРА И АНАЛИЗА ДАННЫХ ИЗ ОТКРЫТЫХ РУССКОЯЗЫЧНЫХ ИСТОЧНИКОВ

  А.Г. Бондаренко , А.Г. Кравец

  144-159

  2025-07-24

  Аннотация ▼

  Данная статья посвящена разработке и апробации нового подхода к сбору, обработке и анализу открытых данных на русском языке для идентификации ключевых технологических направлений. Для решения задачи формирования и последующего анализа структурированных датасетов разработаны и программно реализованы методы веб-скрейпинга, обработки естественного языка и анализа временных рядов. Описанный в статье подход впервые применен для извлечения и структурирования информации из научных статей, новостных ресурсов и патентной документации на русском языке. В результате анализа полученного датасета научных публикаций выделены 30 наиболее часто упоминаемых биграмм и столько же триграмм технологических терминов.
  На основе анализа частотности биграмм и триграмм выделены ключевые технологические термины, которые затем использованы для комплексной фильтрации по ключевым технологиям. Комплексная фильтрация позволила осуществить поиск русскоязычных патентов и их сбор для дальнейшего анализа. В результате предварительной обработки полученной патентной информации сформированы временные ряды патентной активности. Программная система идентификации ключевых технологий реализована на JavaScript и Python с использованием библиотек Selenium и BeautifulSoup для веб-скрейпинга, NLTK и Scikit-learn для обработки и анализа текстовых данных. Исследование динамики развития ключевых технологий во времени позволило выявить периоды интенсивной патентной деятельности и снижения интереса к той или иной технологии. Результаты, изложенные в статье, создают основу для дальнейшей разработки методов машинного обучения с целью прогнозирования технологического развития и выявления перспективных направлений прикладных исследований.