НЕКОТОРЫЕ АСПЕКТЫ ПРИМЕНЕНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЗАДАЧАХ ЗАЩИТЫ ИНФОРМАЦИИ (ОБЗОР)

Аннотация

Технологии искусственного интеллекта (ИИ) являются одной из наиболее динамично разви-
вающихся областей обработки информации. Технологии ИИ используются как для обеспечения
защиты информации, так и для организации атак на средства ее защиты. Сами системы ИИ
могут содержать уязвимости и быть подвержены атакам различного рода. В статье анализи-
руются некоторые аспекты применения технологий ИИ в задачах защиты информации. В рамках
задачи биометрической идентификации рассматриваются угрозы подделки биометрических
идентификационных признаков с целью получения прав доступа, и способы противодействия та-
ким угрозам. Анализируются преимущества использования ИИ при защите информации в компь-
ютерных системах и сетях по сравнению с традиционными средствами защиты. На примере аку-
стического канала утечки информации от клавиатуры иллюстрируется использование техноло-
гий ИИ для обработки данных из технических каналов утечки. Рассматриваются методы повы-
шения информативности таких каналов, использующие временные сверточные сети и модели
классификации изображений, а также способы противодействия им. Отдельное внимание уделе-
но вопросам информационной безопасности в набирающих популярность системах сжатия и пе-
редачи информации без значительных смысловых потерь (направление Semantic Communications).
Рассматриваются ряд вопросов информационной безопасности, возникающих при использовании
больших языковых моделей типа ChatGPT, способных массово генерировать уникальный «челове-
коподобный» контент и использовать его для организации фишинговых и других атак социальной
инженерии. Описана атака на системы ИИ с использованием скрытого канала. Уделено внимание
необходимости развития технологий доверенного искусственного интеллекта