Поделиться
Ученые МГУ повышают устойчивость ИИ-систем к мошенничеству в банковских транзакциях
Исследователи факультета ВМК МГУ имени М.В. Ломоносова разработали новые подходы для повышения надежности систем машинного обучения, применяемых в борьбе с банковским мошенничеством. Работа направлена на улучшение устойчивости моделей к так называемым «состязательным атакам» — случаям, когда злоумышленники подстраивают параметры транзакций, чтобы обмануть автоматические системы детекции. Об этом CNews сообщили представители МГУ.
Согласно отчету Центробанка, в 2023 г. объем операций без согласия клиентов вырос на 11,5% и превысил 136 трлн руб. В таких условиях традиционные методы детекции фрода сталкиваются с трудностями: мошеннические схемы становятся все сложнее, а скорость их появления — выше.
«Машинное обучение дает мощный инструмент для борьбы с фродом, но многие модели оказываются уязвимыми при намеренном искажении входных данных. Мы сосредоточились на повышении устойчивости таких моделей в условиях активного противодействия со стороны злоумышленников», — сказал Евгений Ильюшин, ассистент кафедры информационной безопасности ВМК МГУ.
В своей работе исследователи протестировали несколько популярных алгоритмов машинного обучения — от логистической регрессии до градиентного бустинга — на открытых наборах данных с реальными транзакциями. Первичные результаты показали высокую точность (до 0.99 ROC-AUC), однако при проведении атак, таких как HopSkipJump, ZOO и Boundary, эффективность моделей резко снижалась (до 0.67 ROC-AUC).
Чтобы решить эту проблему, ученые применили методы повышения робастности — устойчивости к внешним вмешательствам. Были протестированы фильтр Калмана, экспоненциальное сглаживание и метод главных компонент (PCA), а также состязательное обучение. В результате удалось существенно повысить надежность: метрики качества при атаке выросли до 0.86 ROC-AUC и 0.81 Average Precision.
«Наши результаты показывают, что повышение робастности — ключ к надежной защите в сфере финансовой безопасности. Модели должны не просто распознавать фрод сегодня, но и оставаться эффективными завтра, когда появятся новые способы обхода систем», — сказала Вероника Ломоносова, соавтор исследования.
Разработка может лечь в основу более защищенных антифрод-систем в банках и платежных сервисах.
Поделиться
Короткая ссылка
