ГК Softline запустила направление услуг по безопасности систем искусственного интеллекта
ГК Softline запустила новое направление услуг по обеспечению безопасности систем искусственного интеллекта. Оно основывается на базе Infosecurity «Софтлайн Решения»
Компания предлагает оценку зрелости защиты ИИ, анализ рисков, Red Teaming LLM-приложений (метод моделирования атак), внедрение LLMSecOps (набор технологических и процессуальных мер, которые обеспечивают безопасность больших языковых моделей), разработку корпоративных программных платформ управления ИИ и поддержку при подготовке к сертификации по стандарту ISO/IEC 42001.
Управляемое внедрение ИИ
Речь идёт о расширении линейки услуг крупного отечественного ИТ-интегратора в быстро растущем сегменте AI Security. Это заметное событие для рынка: компании всё активнее используют ИИ в разработке, аналитике и клиентских сервисах. Параллельно с этим они сталкиваются с рисками утечек данных через ИИ-сервисы, теневого применения нейросетей сотрудниками и уязвимостей LLM-приложений.
Такой тренд может означать косвенное повышение безопасности банковских данных, телеком, государственных, медицинских и образовательных сервисов, где используется ИИ. Для бизнеса и госструктур это шаг к более управляемому внедрению искусственного интеллекта – с проверкой, не приведут ли новые решения к утечкам и ошибочным решениям.
Запуск нового направления ГК Softline вписывается в мировой тренд: безопасность ИИ как самостоятельное направление кибербезопасности, а не просто часть обычного ИТ-аудита.
Переход к регулируемой эксплуатации ИИ
Такой запуск может послужить на пользу формированию отдельного рынка услуг по защите ИИ-систем. По мере внедрения генеративного ИИ, LLM-приложений, AI-ассистентов и интеллектуальных сервисов в банках, ритейле, промышленности, госсекторе и разработке ПО спрос на подобные услуги будет расти, к тому же на фоне общего увеличения российского рынка информационной безопасности и внимания регуляторов к рискам ИИ.
Экспортный потенциал направления ограничен высокой конкуренцией и жёсткими требованиями иностранных регуляторов и стандартов доверенного ИИ. А вот на внутреннем рынке перспективы весьма осязаемые. Компаниям нужна не единичная проверка моделей, а регулярный контур управления рисками – от регламентов использования нейросетей сотрудниками до регулярного тестирования LLM-приложений на утечки данных, промпт-инъекции (атаки на LLM) и обход ограничений. Это и подталкивает рынок к переходу от экспериментов с ИИ к его промышленной эксплуатации.
Спрос на внешние услуги по оценке рисков
Регулирование и практики ответственного использования ИИ формируются в стране с 2021 года. Сперва был принят Кодекс этики искусственного интеллекта, который заложил базовые принципы доверия, ответственности и защиты прав человека. Следом Национальный центр развития искусственного интеллекта (НЦРИИ) и партнеры запустили индекс ИИ-готовности отраслей, где безопасность рассматривается как элемент зрелого внедрения технологий. В 2024–2025 годах Росстандарт обнародовал набор стандартов по искусственному интеллекту – от терминологии до требований к применению. Это заложило базу для более формализованного аудита и управления ИИ-системами.
Тема безопасности ИИ зазвучала заметно громче в 2025 году. На конференциях по кибербезопасности уже обсуждают не столько пользу нейросетей, сколько риски для корпоративных процессов и защиты данных. А ФСТЭК и вовсе прямо выделила технологии ИИ как источник киберугроз в своем банке данных угроз – от атак на модели и датасеты до RAG-систем (генерация с дополнительной выборкой).
На этом фоне особенно показательна статистика: почти 50% отечественных компаний, внедряющих ИИ, пока не выделяют отдельный бюджет на его защиту. Лишь у 25% есть формализованная политика. Всё это создаёт запрос на внешние услуги по оценке рисков, Red Teaming (метод имитации кибератак) и построению LLMSecOps-контуров.
Масштабы рынка
Наработка ГК Softline фиксирует переход отечественного рынка от этапа массового внедрения ИИ к задаче обеспечения его надёжности и кибербезопасности. Для компании это шанс закрепиться в нише на стыке ИИ-консалтинга, информационной безопасности и управления рисками.
Согласно прогнозам, в ближайшие годы услуги по защите ИИ могут превратиться в обязательную частью крупных проектов по внедрению нейросетей в финансах, промышленности, телеком- и госсекторе. Самый высокий спрос эксперты ожидают в Red Teaming LLM-приложений, аудите рисков утечек данных, контроле теневого использования нейросетей сотрудниками и разработке внутренних правил безопасной работы с ИИ.
