Сбер опубликовал обновлённый список угроз для систем искусственного интеллекта
Сбер представил обновлённую модель угроз кибербезопасности для ИИ-систем – AI 2.0. Она учитывает распространение генеративных моделей, RAG, ИИ-агентов и мультиагентных архитектур. Документ ориентирован на разработчиков, MLOps-инженеров, архитекторов и специалистов по ИБ.
В модели описаны 37 угроз и 51 способ их реализации с указанием последствий, затрагиваемых свойств информации, объектов атаки, типов нарушителей и этапов жизненного цикла. В числе рисков есть утечки и искажение данных, сбои в работе сервисов, компрометация моделей и инфраструктуры, а также несанкционированные действия ИИ-агентов.
Снижение риска утечек данных
Документ AI 2.0 может использоваться как практическая основа при проектировании защиты ИИ-продуктов в банковской сфере, государственных информационных системах, промышленности, медицине, телекоммуникациях и других отраслях.
Для рядовых граждан страны применение таких моделей угроз может означать снижение рисков утечек персональных данных, ошибок автоматизированных сервисов и неправомерных действий автономных ИИ-агентов. Для России в целом публикация формирует собственную методическую базу безопасного внедрения ИИ и снижает зависимость от иностранных подходов в области безопасности искусственного интеллекта.
Разработка корпоративных моделей угроз
Компании и госструктуры могут использовать документ при создании и модернизации ИИ-систем, охватывая все этапы их жизненного цикла – от подготовки данных и обучения моделей до внедрения и эксплуатации. Также его можно применять для разработки корпоративных моделей угроз, аудита генеративных и агентных решений, создания средств защиты и мониторинга, подготовки специалистов и адаптации ИИ к требованиям государственных систем и критической инфраструктуры.
Значимость таких подходов растёт на фоне усиления регулирования. С марта 2026 года действует приказ ФСТЭК России №117, который предусматривает защиту информации при использовании ИИ в государственных системах. Регулятор при этом отдельно учитывает риски, связанные с моделями, датасетами и RAG-компонентами.
Внимание к рискам автономных ИИ-инструментов
Первую комплексную модель угроз для ИИ Сбер презентовал в 2025 году. Она включала 70 рисков для предиктивных и генеративных систем и охватывала работу с данными, моделями, программными компонентами и инфраструктурой. В тот же период YandexCloud выпустил практическое руководство по безопасности ИИ-агентов с мерами защиты от prompt injection, атак на RAG-компоненты и несанкционированного выполнения команд.
В 2025–2026 годах стартовало формирование регулирования. Ранее упомянутый приказ ФСТЭК России №117 закрепил требования по защите информации при использовании ИИ в государственных системах, а Банк данных угроз стал учитывать уязвимости, связанные с моделями машинного обучения. Параллельно с этим OWASP обновил перечень ключевых рисков для больших языковых моделей и генеративного ИИ. Угрозы и методы защиты были систематизированы.
В 2026 году повысилось внимание к рискам автономных ИИ-инструментов. По данным экспертов по кибербезопасности, ИИ всё чаще применяется как объект атак и инструмент злоумышленников, в том числе для поиска уязвимостей и автоматизации отдельных этапов кибератак.
Основа для аудита и тестирования
Публикация AI 2.0 отражает переход российского рынка от обсуждения рисков ИИ к формированию прикладных инструментов защиты. В модели учтены современные архитектуры – RAG, ИИ-агенты, мультиагентные системы и LLM-адаптеры. Они взаимодействуют с корпоративными данными и внешними сервисами.
Согласно прогнозам, в ближайшие годы такие модели будут обновляться по мере развития технологий и появления новых атак, создавая основу для аудита, тестирования и мониторинга ИИ-систем.
Открытая публикация задаёт единый методический подход для рынка, но её эффективность зависит от практического применения – внедрения технических мер защиты, контроля доступа, мониторинга и обновления механизмов безопасности на постоянной основе.
