Рост популярности технологии deepfake пугает людей и политиков

4 мая 2016 года Джимми Фэллон, ведущий телепрограммы NBC The Tonight Show, появился в зарисовке в костюме Дональда Трампа, на тот момент — кандидата в президенты от республиканцев. Надев светлый парик и нанеся на лицо три слоя бронзера, он притворился, что звонит Бараку Обаме, которого играет Дион Флинн, чтобы похвастаться своей последней победой в Индиане. Оба мужчины оказались рядом на разделенном надвое экране, лицом к камере.

Три года спустя, 5 марта 2019 года, похожий материал был размещен на канале в Youtube «derpfakes» под заголовком «Президенты». Первая половина видео показывает 10 секунд эскиза в изначальном эфирном варианте. Затем отснятый материал проигрывается вновь, но при этом лица актеров превращены в лица «настоящих» Трампа и Обамы, которые крайне сложно отличить от реальных.

Видео основано на нейронной сети — она анализирует видеозапись, пока не сможет алгоритмически транспонировать кожу одного человеческого лица в движения другого (эффект латексной маски). Технология известна под названием deepfake.

До сих пор технология использовалась либо в качестве шутки, либо в кинематографе: фанаты помещали героев из старых фильмов в новые или создавали клипы, например, посвященные теме «Звездных Войн». Но настолько похожее на реальность видео с президентами, а также тысячи подобных фальшивых подделок, опубликованных в Интернете за последние два года, встревожили многих: считается, что технология может быть использована для влияния на репутацию политиков и даже фальсификации выборов.

В прошлом месяце на Facebook и Youtube была широко распространена цифровая видеозапись. На ней Нэнси Пелоси, спикер Палаты представителей США, пьяно «отмахивается» от своей речи. Затем Трамп опубликовал ее в Twitter. Видео разоблачили, но после миллионов просмотров.

Facebook» отказался убрать запись, объяснив свое решение следующим заявлением: «После того, как видео было проверено как ложное, мы резко сократили его распространение».

В ответ команда художников две недели назад разместила в Instagram пост, где владелец социальной сети Марк Цукерберг хвастается, что он «полностью контролирует миллиарды украденных данных людей, все их секреты, их жизни, их фьючерсы». Проверка реакции на компрометирующие видео, наносящее вред репутации самой компании, прошла успешно.

«Мы будем относиться к этому контенту так же, как к любой дезинформации в Instagram», - сказал представитель. «Если проверка видео на правдивость покажет, что контент является ложным, мы его удалим».

Фото: theguardian.com