Перейти к основному контенту Перейти к главному меню навигации Перейти к нижнему колонтитулу сайта
##common.pageHeaderLogo.altText##
Известия ЮФУ
Технические науки
  • Текущий выпуск
  • Предыдущие выпуски
    • Архив
    • Выпуски 1995 – 2019
  • Редакционный совет
  • О журнале
    • Официально
    • Основные задачи
    • Основные рубрики
    • Специальности ВАК РФ
    • Главный редактор
ISSN 1999-9429 print
ISSN 2311-3103 online
  • Вход
  1. Главная /
  2. Найти

Найти

Расширенные фильтры
Опубликовано после
Опубликовано до

Результаты поиска

Найден один результат.
  • АЛГОРИТМ ФИЛЬТРАЦИИ «ИНЪЕКЦИЙ ПОДСКАЗОК» ПРИ ИСПОЛЬЗОВАНИИ ПРОСТРАНСТВЕННОЙ ИНФОРМАЦИИ

    С.Л. Беляков , Л.А. Израилев , О.Н. Покусаев
    32-45
    2026-07-07
    Аннотация ▼

    Интеграция больших языковых моделей (LLM) в геоинформационные системы (ГИС) открывает новые возможности для пространственного анализа, однако сопровождается специфическими уязвимостями типа «инъекция подсказок» (промпт-инъекции). Такие атаки позволяют злоумышленникам обходить защитные механизмы LLM, манипулировать выдачей, получать доступ к конфиденциальной информации и нарушать целостность данных. Использование пространства позволяет обратиться к объекту не напрямую, а через его пространственные отношения с другими объектами. Существующие методы фильтрации по ключевым словам или шаблонам не обеспечивают надёжной защиты из-за постоянного появления новых сценариев атак. Это определяет актуальность разработки адаптивных, самообучающихся алгоритмов фильтрации запросов на предмет промт-инъекций к большим языковым моделям. Целью исследования является разработка алгоритма фильтрации промпт-инъекций для LLM, на основе метода прецедентного анализа (Case-Based Reasoning, CBR). В работе предлагается алгоритм сравнения запросов к LLM с базой ранее известных промт-инъекций. Проведенный эксперимент показал, что по мере накопления базы прецедентов точность выявления промпт-инъекций возрастает с 42% до 83%. При этом время обработки одного запроса увеличивается незначительно (с 0,18 до 0,19 секунд при росте базы на 23%). Также были предложены подходы к обобщению базы прецедентов и самоанализу базы прецедентов. Предложенный алгоритм позволяет повысить защищённость систем с
    LLM-интерфейсом от промпт-инъекций за счёт адаптивности и самообучения. Практическая значимость заключается в возможности внедрения разработанного фильтра в информационные системы для предотвращения утечек и манипуляций с пространственными данными. Дальнейшие исследования связаны с развитием методов автоматического обобщения прецедентов и интеграцией дополнительных контекстных анализаторов.

1 - 1 из 1 результатов

links

Для авторов
  • Подать статью
  • Требования к рукописи
  • Редакционная политика
  • Рецензирование
  • Этика научных публикаций
  • Политика открытого доступа
  • Сопроводительные документы
Язык
  • English
  • русский

journal

* не является рекламой

index

Индексация журнала
* не является рекламой
Информация
  • Для читателей
  • Для авторов
  • Для библиотек
Адрес редакции: 347900, г. Таганрог, ул. Чехова, д. 22, А-211 Телефон: +7 (8634) 37-19-80 Электронная почта: iborodyanskiy@sfedu.ru
Публикация в журнале бесплатна
Больше информации об этой издательской системе, платформе и рабочем процессе от OJS/PKP.
logo Сайт разработан командой ЦИИР