Поделиться
Эксперты Swordfish Security: в 2026 году мы увидим громкие инциденты с участием ИИ
Об основных трендах на рынке кибербезопасности рассказали представители компании, работающей в области безопасности ИИ на российском рынке. В 2025 г. в группе компаний выпустили первый отечественный инструмент анализа защищенности ИИ-систем на устойчивость к атакам, который уже внедряют в контур несколько крупных финтех-компаний. О переходе от безопасной разработки к концепции доверенного ПО рассказали управляющий партнер группы Swordfish Security Юрий Сергеев и генеральный директор Swordfish Security Александр Пинаев.
CNews: Каковы основные тренды в развитии кибербезопасности сегодня? Можно ли говорить о том, что рынок требует от игроков принципиально новых решений?
Александр Пинаев: Главный фактор, изменивший ИБ-рынок навсегда, — смещение ожиданий в сторону зрелых продуктов для решения задач кибербезопасности, а также защиты самого ИИ. Сегодня основной запрос рынка в том, чтобы не просто разработать инструменты для поиска уязвимостей, а создать единое платформенное решение, которое позволит контролировать разрастающийся список рисков, связанных с массовым внедрением ИИ в бизнес, и реагировать на них комплексно. То есть, пройти путь, который классический DevSecOps преодолевал около 10 лет, сейчас необходимо «пробежать» за год. Искусственный интеллект ускорил и изменил условия для обеих сторон — и атакующей, и защищающей.
Юрий Сергеев: Можно сказать, что ИИ сделал хакерство «народным». Если раньше нужно было искать слабые места в коде и писать специальный софт, то сегодня достаточно уметь по-разному формулировать запросы на естественном языке, без кодинга. Российский бизнес, массированно внедряющий ИИ, пока не осознал этих рисков. В том числе и потому, что пока не было громких случаев утечек данных. Но это не значит, что злоумышленники уже не начали проверять корпоративные ИИ-системы на прочность.
CNews:: Как считаете, когда можно ожидать первые случаи взломов?
Александр Пинаев: По нашим прогнозам, уже в 2026 году мы, возможно, увидим какие-то громкие случаи — если не на российском рынке, то на мировом точно. Центр тяжести сместится в сторону ИИ-агентов: им дадут доступ к конфиденциальным данным, и тогда вполне вероятно могут случиться масштабные инциденты.
Юрий Сергеев: Большие языковые модели и искусственный интеллект, в частности, не существуют в вакууме. Они интегрированы с приложениями и цифровыми сервисами. Этот конвейер разработки состоит из нескольких векторов и для приложений (это DevSecOps), и для данных (DataOps), и для моделей ИИ (AISecOps). Чтобы сломать его и увести данные, можно напрямую атаковать модель, а можно и любое звено цепочки. Достаточно внедрить кусочек уязвимой библиотеки или устаревшей версии зловредного фреймворка, который попадет в итоге в промышленную эксплуатацию, и уже через этот никому не заметный элемент атаковать весь производственный конвейер и любой софт, который на нем создается. Такого рода вещи случаются всё чаще и чаще, как в традиционных приложениях, так и, естественно, в ИИ-системах. В ответ на это индустрия движется к концепции Trustware — доверенного программного обеспечения, то есть безопасного ПО, в котором всем компонентам и их происхождению можно доверять, и безопасность гарантируется на всех этапах жизненного цикла ПО и искусственного интеллекта.
CNews: Если в прошлом году мы говорили о безопасности искусственного интеллекта в разрезе будущего, то сегодня ИБ-продукты спешно адаптируют под работу с моделями и разрабатывают новые. Как вы оцениваете текущее положение на рынке AI Security?
Александр Пинаев: Российский рынок безопасности ИИ развивается быстрыми темпами. Разработчики трудятся над собственными решениями, создавая уникальную среду для ускоренного созревания отечественных технологий защиты ИИ. Зарубежные Guardrails на нашем рынке слабо применимы: они спроектированы для работы в облаках AWS, Azure, Google и их нельзя импортировать без существенной переработки. Классические файрволы тоже не помогут защитить модели и агентов — там другая логика. Поэтому и систему безопасности предстоит выстраивать принципиально иную: защищающийся должен «думать как ИИ». Для отечественного рынка AI Security это одновременно и вызов, и шанс.
Юрий Сергеев: За 2025-й год, совершенно точно, сфера безопасности ИИ превратилась из экзотики в востребованное направление кибербезопасности. Если посмотреть на весь мировой рынок, можно отметить практически мгновенную стандартизацию, которая произошла ультрабыстрыми темпами. Сейчас появились классификации OWASP LLM Top 10, OWASP Agentic Top 15 и иные. Созданы наработки в области процессных фреймворков. Первый зарегистрированный в реестре ПО отечественный анализатор защиты ИИ мы выпустили в 2025-м. Решение AppSec.GenAI от AppSec Solutions позволяет выявлять уязвимые места в языковых моделях. Над ним мы начали работать более года назад, когда ИИ стал развиваться всё активнее. Мы начали собственные научные изыскания, понимая, что это будущее, которое очень скоро наступит. В данный момент это востребованный продукт на рынке, потому что бизнесу уже сейчас нужна защита, и крупные игроки предпочитают внедрить в контур готовый работающий продукт.
CNews: А какой продукт сейчас самый ожидаемый на рынке безопасности ИИ?
Юрий Сергеев: В первую очередь, конечно, ИИ-файрвол. Протестировать модель на уязвимости – это хорошо, но следующий вопрос – как эти уязвимости блокировать и «закрыться» от атак. ИИ-файрвол должен обеспечивать runtime-защиту моделей, контролировать выполнение политик доступа и предотвращать эксфильтрацию конфиденциальных данных. Мы уже разрабатываем собственный ИИ-файрвол, и многие наши партнеры заявляют, что очень ждут такой продукт. Запрос будет трансформироваться по мере развития этой области безопасности ИИ: появится спрос не просто на ИИ-файервол, а на End-to-End AI Security платформу, которая включит в себя расширенный инструментарий: инвентаризацию доверенных моделей и данных для обучения, цепочки поставок для моделей и данных, снижение и измерение рисков, телеметрию, трассировку и расследование инцидентов с ИИ. Но это, скорее, будущее на ближайшие пару лет.
CNews: В 2025 вы выпустили одними из первых в России фреймворк безопасности ИИ, сделали его бесплатным для всех. Почему?
Александр Пинаев: Прежде всего мы создали его для себя как практический инструмент оценки процессов безопасности с опорой на систематизированную матрицу угроз ИИ (таксономию). Мы взяли срез всех доступных регулирующих документов — ГОСТы, приказы, регламенты ФСТЭК, международные наработки — и свели их воедино. Затем поделились этим документом с рынком, потому что это важно для развития индустрии. Необходимо уже сейчас договориться о терминах и методологии, унифицировать типы угроз.
CNews: Что касается трендов классического DevSecOps. Какие тенденции 2025 вы можете отметить, и что будет актуально в 2026?
Юрий Сергеев: Я бы назвал консолидацию и экосистемность словами 2025 года. Построение конвейера доверия ИИ в концепции «от первого коммита до прода» – это основной тренд, который будет актуален в 2026-м. Причём с обеспечением доказуемой целостности вообще всего процесса разработки кода, подготовки данных, версионирования датасетов, создания и обучения моделей ИИ и т.д. Это связано с ускорением разработки, которая сегодня тоже активно внедряет ИИ-технологии. Производительность генерации кода выросла не в два раза, а в 100, потому что ИИ работает 24/7 и делает это на два порядка быстрее, чем самая продвинутая команда разработчиков. Переход на подход, где ИИ самостоятельно создает ПО по техзаданию на естественном языке, оставляя человеку оценку результата С точки зрения DevSecOps, будет актуальна поддержка такой разработки в совершенно новых объёмах и форматах, а также использование агентной модели для проверки кода, контроль доверия, артефактов и цепочки поставки ИИ. Отдельной важной задачей станет API Security, потому что все компоненты ИИ-системы взаимодействуют через API, в том числе специализированные протоколы (MCP, A2A) как внутри, так и с внешним миром, и вот здесь появится тоже новый периметр угроз.
CNews: А каковы основные итоги компании за 2025 год?
Юрий Сергеев: Это был хороший год. Мы зафиксировали рост бизнеса на 50%. AppSec.GenAI стал самым успешным продуктом за первый год среди всех наших решений. И это та ниша, в который мы планируем развиваться далее. В планах на 2026 год — запуск ИИ-файрвола и развитие инструментов для защиты цепочек поставок и API.
Мы переосмыслили классический подход к статическому анализу кода и реализовали новую концепцию в виде продукта AppSec.Wave, который также, несмотря на недавний запуск, уже имеет коммерческий успех. Кроме того, в экосистеме AppSec Solutions появились еще два новых продукта — протектор мобильных приложений AppSec.Cryptex и артефакторий AppSec.Registry.
Александр Пинаев: Мы разработали совершенно новую AI native архитектуру сервисов, определяющую, как наша методология должна выглядеть в будущем — в том мире, когда к ним будут обращаться не только люди, но и ИИ-агенты. На 2026 год у нас стоит суперзадача — перевести все сервисы на новые рельсы.
Поделиться
Короткая ссылка
