iTPROTECT вывела на рынок целый пакет решений для защиты ИИ-инструментов
Он включает 15 продуктов, разделенных по пяти ключевым направлениям.
Все больше российских компаний внедряют в свою инфраструктуру элементы искусственного интеллекта. С одной стороны, это сильно упрощает работу. Однако эксперты предупреждают, что без должной защиты они могут стать серьезным источником угроз для информационной безопасности. Поэтому на рынке появляется все больше инструментов, которые помогают снижать риски при взаимодействии с ИИ.
Блокировка потенциально опасных обращений
Теперь в этом направлении начинает работать и интегратор iTPROTECT. Компания начала предлагать решения по защите ИИ, сейчас список включает 15 продуктов, которые разделены по пяти ключевым направлениям.
Так, AI Firewall направлен на контроль обращений ко внутренним и внешним ИИ-системам. Для предотвращения утечек данных тут предусмотрена возможность автоматической блокировки нелегитимных запросов и ответов. Решение находит и маскирует чувствительные данные, разграничивает к ним доступ сотрудников и фильтрует ответы языковых моделей.
AI/ML-автопентест проверяет интеллектуальные модели и приложения на базе ИИ на устойчивость к 40 видам атак. Приложения могут исследоваться еще до их непосредственного ввода в эксплуатацию. Кроме того, здесь предусмотрена отдельная функция сканирования потенциальных угроз, связанных с утечками данных.
Контроль за действиями ИИ-агентов
Специальные инструменты защиты ИИ-агентов позволяют контролировать их работу в реальном времени с учетом их привилегий и политик безопасности. Тут отслеживаются не только действия агентов, но и то, какими источниками информации они пользуются. Также предусмотрена блокировка опасных команд и обнаружение аномалий в запросах. Таким образом, сотрудники служб информационной безопасности компаний видят, какие ИИ-инструменты используются в инфраструктуре, и могут сократить поверхность атаки.
В рамках нового направления специалисты iTPROTECT также внедряют в защищенном контуре заказчика безопасных корпоративных ИИ-агентов на базе специализированной платформы. Такой подход помогает справиться с «теневыми ИИ», когда сотрудники пользуются внешними нейросетями, неконтролируемыми службой безопасности компании.
Еще одно направление связано с тестированием больших языковых моделей. Тут проверяется их устойчивость к джейлбрейкам, многошаговым атакам и обходу защитных механизмов, возможность извлечения конфиденциальной информации через документы и запросы, риски несанкционированного доступа к данным, злоупотребления инструментами и эскалации привилегий.
Реакция на изменения рынка
По словам представителей компании, запуск новых решений связан с изменениями на российском ИТ-рынке. Согласно опросу iTPROTECT, почти каждая четвертая российская компания (24%) уже активно использует ИИ в рабочих процессах или рассматривает его внедрение как приоритетное направление. При этом 40% руководителей по информационной безопасности из этой группы считают, что использование ИИ расширяет поверхность атаки, и продумывают меры защиты от такого рода рисков для бизнеса.
Работа, связанная с защитой от угроз при использовании искусственного интеллекта, ведется в России уже несколько лет. В 2024 году «Лаборатория Касперского» сообщила о запуске обучающего курса по безопасному использованию нейросетей на платформе Kaspersky Automated Security Awareness Platform. Программа предназначалась для сотрудников организаций и не требовала специальных технических знаний.
В июне текущего года Банк России опубликовал методические рекомендации по обеспечению информационной безопасности при разработке и применении ИИ на финансовом рынке. Документ систематизирует риски использования ИИ и рекомендует финансовым организациям разрабатывать собственные модели угроз и политики информационной безопасности. Для критически важных операций с высокими рисками рекомендуется оставлять принятие всех ключевых решений за «живыми» сотрудниками, а не отдавать их на откуп автоматике.
Специалисты уверены, что спрос на защиту ИИ-решений в России будет расти параллельно с расширением применения данных инструментов. Поэтому сейчас разработчики уже предлагают не отдельные продукты, а целые экосистемы, призванные обеспечить максимально безопасный и предсказуемый процесс эксплуатации искусственного интеллекта.
