Специалистам удалось впервые обмануть программу для выявления дипфейков

Как оказалось, для обхода алгоритмов распознавания поддельных видео злоумышленникам достаточно использовать изменённые входные данные в каждом кадре записи.

2154 0 0

отправить по e-mail

Специалистам удалось впервые обмануть программу для выявления дипфейков

Исследователям из Калифорнийского университета в Сан-Диего удалось впервые обмануть алгоритмы определения поддельных видео, созданных с помощью нейросети Deepfake. Об это сообщила пресс-служба учреждения.

Результаты своей работы команда учёных представила на конференции по компьютерному зрению WACV 2021. Как выяснилось, чтобы обойти алгоритмы распознавания поддельных видео, их создателям достаточно использовать так называемые «состязательные» примеры, или изменённые входные данные в каждом кадре записи.

Результаты экспериментов показали, что эффект обмана алгоритмов остаётся в действии даже после сжатия и постобработки видео, а его использование позволяет обойти распознавание даже в случаях с самыми грубыми подделками с некачественным изображением. Исследователи также отметили, что для обхода механизмов анализа злоумышленникам достаточно знать об особенностях работы основанного на них ПО, чтобы создать качественный дипфейк.