текст
Учёные МГУ повышают устойчивость ИИ-систем к мошенничеству в банковских транзакциях
Исследователи факультета ВМК МГУ имени М.В. Ломоносова разработали новые подходы для повышения надёжности систем машинного обучения, применяемых в борьбе с банковским мошенничеством. Работа направлена на улучшение устойчивости моделей к так называемым «состязательным атакам» — случаям, когда злоумышленники подстраивают параметры транзакций, чтобы обмануть автоматические системы детекции.
Согласно отчёту Центробанка, в 2023 году объём операций без согласия клиентов вырос на 11,5% и превысил 136 триллионов рублей. В таких условиях традиционные методы детекции фрода сталкиваются с трудностями: мошеннические схемы становятся всё сложнее, а скорость их появления — выше.
«Машинное обучение даёт мощный инструмент для борьбы с фродом, но многие модели оказываются уязвимыми при намеренном искажении входных данных. Мы сосредоточились на повышении устойчивости таких моделей в условиях активного противодействия со стороны злоумышленников», — объясняет Евгений Ильюшин, ассистент кафедры информационной безопасности ВМК МГУ.
В своей работе исследователи протестировали несколько популярных алгоритмов машинного обучения — от логистической регрессии до градиентного бустинга — на открытых наборах данных с реальными транзакциями. Первичные результаты показали высокую точность (до 0.99 ROC-AUC), однако при проведении атак, таких как HopSkipJump, ZOO и Boundary, эффективность моделей резко снижалась (до 0.67 ROC-AUC).
Чтобы решить эту проблему, учёные применили методы повышения робастности — устойчивости к внешним вмешательствам. Были протестированы фильтр Калмана, экспоненциальное сглаживание и метод главных компонент (PCA), а также состязательное обучение. В результате удалось существенно повысить надёжность: метрики качества при атаке выросли до 0.86 ROC-AUC и 0.81 Average Precision.
«Наши результаты показывают, что повышение робастности — ключ к надёжной защите в сфере финансовой безопасности. Модели должны не просто распознавать фрод сегодня, но и оставаться эффективными завтра, когда появятся новые способы обхода систем», — подчёркивает Вероника Ломоносова, соавтор исследования.
Исследование было представлено на научной конференции «Ломоносов–2025» и вызвало интерес у специалистов в области кибербезопасности, финансовых технологий и анализа больших данных. Разработка может лечь в основу более защищённых антифрод-систем в банках и платёжных сервисах.
Фото: rupixen, unsplash.com
Технологии
МГУТУ им. К.Г. Разумовского
Машины и Механизмы
Всего 0 комментариев
