Моделирование сценариев деструктивного воздействия на целостность моделей машинного обучения

Статья посвящена разработке моделей деструктивного воздействия на целостность моделей машинного обучения на основе SIR-прогнозирования масштаба угроз и рисков при различных сценариях развития компьютерных атак. В статье представлена оригинальная модель угроз информационной безопасности техническим компонентам искусственного интеллекта в условиях разнородно массовых компьютерных атак, отображающая уязвимые места и способы возможных действий злоумышленников. Авторами разработана методология адаптации модернизированных SIR-моделей природных эпидемий для выявления подобия и аналогов в характере распространения деструктивных сбоев в системах ИИ, вызванных разнородно-массовыми и таргетированными воздействиями. Выявленные закономерности позволили оценить риски возможного ущерба целостности и разработать эффективные стратегии предотвращения и исправления искажений моделей машинного обучения.

1. Qin Y. et al. Artificial intelligence and economic development: An evolutionary investigation and systematic review //Journal of the Knowledge Economy. – 2024. – vol. 15. – №. 1. – p. 1736-1770.

2. Менисов А. Б., Ломако А. Г., Сабиров Т. Р. Метод тестирования лингвистических моделей машинного обучения текстовыми состязательными примерами //Научно-технический вестник информационных технологий, механики и оптики. – 2023. – т. 23. – №. 5. – с. 946-954.

3. Papagianni A. et al. Frugal and Robust AI for Defence Advanced Intelligence //Paradigms on Technology Development for Security Practitioners. – Cham: Springer Nature Switzerland, 2024. – p. 427-437.

4. Weng Y., Wu J. Leveraging artificial intelligence to enhance data security and combat cyber attacks //Journal of Artificial Intelligence General science (JAIGS) ISSN: 3006-4023. – 2024. – vol. 5. – №. 1. – p. 392-399.

5. Nguyen T. T. et al. Manipulating recommender systems: A survey of poisoning attacks and countermeasures //ACM Computing Surveys. – 2024. – vol. 57. – №. 1. – p. 1-39.

6. Rosenblatt M. et al. Data leakage inflates prediction performance in connectome-based machine learning models //Nature Communications. – 2024. – vol. 15. – №. 1. – p. 1829.

7. Kim S. et al. Propile: Probing privacy leakage in large language models //Advances in Neural Information Processing Systems. – 2024. – vol. 36.

8. Менисов, А. Б. Ландшафт угроз систем искусственного интеллекта: монография / А. Б. Менисов. — Москва: Ай Пи Ар Медиа, 2023. — 126 c.

9. Костогрызов А. И., Нистратов А. А. Анализ угроз злоумышленной модификации модели машинного обучения для систем с искусственным интеллектом //Вопросы кибербезопасности. – 2023. – №. 5. – с. 9.