Анализ угроз нейросетевым моделям: систематизация по типам атак в контексте обеспечения доверия к технологиям искусственного интеллекта
Ключевые слова:
нейросетевые модели, угрозы информационной безопасности, атаки уклонения, отравление данных, подмена модели, состязательные атаки, безопасность ИИ, банк данных угроз ФСТЭКАннотация
В статье рассматривается современная проблематика угроз безопасности нейросетевым моделям как ключевому компоненту систем искусственного интеллекта.
На основе анализа нормативно-методических документов ФСТЭК России, научных исследований и экспертных оценок систематизируются четыре фундаментальных типа угроз: атаки уклонения (evasion attacks), атаки отравления (poisoning attacks), атаки подмены данных (data substitution attacks) и атаки подмены модели (model substitution attacks). Особое внимание уделяется механизмам реализации каждой категории угроз, экспериментальным данным об их эффективности и формирующимся требованиям
к обеспечению безопасности. Делается вывод о необходимости комплексного подхода
к защите нейросетевых моделей на всех этапах их жизненного цикла.
Библиографические ссылки
ФСТЭК России определилась со списком угроз для ИИ-систем [Электронный ресурс] / Татьяна Никитина // Anti-Malware.ru. – 23 декабря 2025. – Режим доступа: https://www.anti-malware.ru/news/2025-12-23-114534/48537 (дата обращения: 06.03.2026).
ФСТЭК России обновила Банк данных угроз безопасности информации [Электронный ресурс] // iTPROTECT. – 28 декабря 2025. – Режим доступа: https://itprotect.ru/mediacenter/news/obnovlenie-bdu/ (дата обращения: 06.03.2026).
Universal LLM Jailbreak Using HiddenLayer's Policy Puppetry Attack [Electronic resource] / randalltr // GitHub. – April 2025. – Available at: https://github.com/randalltr/ universal-llm-jailbreak-hiddenlayer (accessed: 06.03.2026).
Джейлбрейк атаки срещу GenAI: Какво представляват и как да ги предотвратим [Электронный ресурс] // LayerX Security. – 2 октября 2025. – Режим доступа: https://layerxsecurity.com/bg/generative-ai/jailbreak/ (дата обращения: 6.03.2026).
Новые виды атак на ИИ-ассистентов и чат-ботов [Электронный ресурс] // Kaspersky. – 29 сентября 2025. – Режим доступа: https://www.kaspersky.ru/blog/new-llm-attack-vectors-2025/40523/ (дата обращения: 06.03.2026).
Why Prompt Injection Still Works [Electronic resource] // Deepchecks. – July 2025. – Available at: https://www.deepchecks.com/why-prompt-injection-still-works/ (accessed: 06.03.2026).
Атаки на генеративные модели ИИ. Обзор угроз и меры защиты [Электронный ресурс] // IT-World.ru. – 5 октября 2025. – Режим доступа: https://www.it-world.ru/security/kn1wpvukmv448wswc40sss8scgkg8s8.html (дата обращения: 06.03.2026).
Всего 250 вредных документов способны «отравить» ИИ-модель любого размера, подсчитали в Anthropic [Электронный ресурс] / Павел Котов // 3DNews. – 16 декабря 2025. – Режим доступа: https://3dnews.ru/1133995/vsego-250-vrednih-dokumentov-sposobni-otravit-iimodel-lyubogo-razmera-podschitali-v-anthropic (дата обращения: 06.03.2026).
Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию [Электронный ресурс] / Екатерина Быстрова // Anti-Malware.ru. – 14 августа 2025. – Режим доступа: https://www.anti-malware.ru/news/2025-08-14-111332/46990 (дата обращения: 06.03.2026).
ФСТЭК России обновила Банк данных угроз безопасности информации (декабрь 2025) [Электронный ресурс] // Аналитический центр Anti-Malware.ru. – 29 декабря 2025. – Режим доступа: https://www.anti-malware.ru/analytics/ Threats_Analysis/ fstek-update-bdu-december-2025 (дата обращения: 06.03.2026).
Загрузки
Опубликован
Как цитировать
Выпуск
Раздел
Лицензия
Copyright (c) 2026 Молодёжный вестник Новороссийского филиала Белгородского государственного технологического университета им. В. Г. Шухова
Это произведение доступно по лицензии Creative Commons «Attribution-NonCommercial-NoDerivatives» («Атрибуция — Некоммерческое использование — Без производных произведений») 4.0 Всемирная.
Copyright information
Тексты данной электронной статьи защищены (cc) Creative Commons Attribution-NonCommercial-NoDerivs 3.0 Unported License.
Вы можете свободно:
Делиться (You are free: to Share) – копировать, распространять и передавать другим лицам данную электронную книгу при обязательном соблюдении следующих условий:
– Атрибуция (Attribution) – Вы должны атрибутировать произведения (указывать автора и источник) в порядке, предусмотренном автором или лицензиаром (но только так, чтобы никоим образом не подразумевалось, что они поддерживают вас или использование вами данного произведения).
– Некоммерческое использование (Noncommercial use) – Вы не можете использовать эти произведения в коммерческих целях.
– Без производных произведений – Вы не можете изменять, преобразовывать или брать за основу эту электронную книгу или отдельные произведения.
Licensed under the Creative Commons Attribution-NonCommercial-NoDerivs 3.0 Unported License.
To view a copy of this license, visit https://creativecommons.org/licenses/by-nc-nd/4.0/
or send a letter to Creative Commons, 444 Castro Street, Suite 900, Mountain View, California, 94041, USA.
You are free:
to Share — to copy, distribute and transmit the work
Under the following conditions:
Attribution — You must attribute the work in the manner specified by the author or licensor (but not in any way that suggests that they endorse you or your use of the work).
Non-commercial — You may not use this work for commercial purposes.
No Derivative Works — You may not alter, transform, or build upon this work.
Any of the above conditions can be waived if you get permission from the copyright holder.
