Специалистам удалось впервые обмануть программу для выявления дипфейков
Илья Склюев –
Как оказалось, для обхода алгоритмов распознавания поддельных видео злоумышленникам достаточно использовать изменённые входные данные в каждом кадре записи.
Исследователям из Калифорнийского университета в Сан-Диего удалось впервые обмануть алгоритмы определения поддельных видео, созданных с помощью нейросети Deepfake. Об это сообщила пресс-служба учреждения.
Результаты своей работы команда учёных представила на конференции по компьютерному зрению WACV 2021. Как выяснилось, чтобы обойти алгоритмы распознавания поддельных видео, их создателям достаточно использовать так называемые «состязательные» примеры, или изменённые входные данные в каждом кадре записи.
Результаты экспериментов показали, что эффект обмана алгоритмов остаётся в действии даже после сжатия и постобработки видео, а его использование позволяет обойти распознавание даже в случаях с самыми грубыми подделками с некачественным изображением. Исследователи также отметили, что для обхода механизмов анализа злоумышленникам достаточно знать об особенностях работы основанного на них ПО, чтобы создать качественный дипфейк.
Фото: Deepfake Detection Challenge / Kaggle
Это новость от журнала ММ «Машины и механизмы». Не знаете такого? Приглашаем прямо сейчас познакомиться с этим удивительным журналом.