Компания Facebook объявила о намерении бороться с поддельными видео. К этой инициативе присоединились ещё несколько гигантов Кремниевой долины.
Дипфейки в интернете становятся настолько качественными, что все сложнее идентифицировать, где подделка, а где – реальность. Многим компаниям, работающим в онлайн-среде, эта тенденция может сулить большие неприятности, подрывая доверие к тому, что мы видим и что раньше казалось неоспоримым.
Для решения этой проблемы Facebook объединился с командой исследователей Microsoft и несколькими исследовательскими центрами. Вместе они планируют провести “Deepfake Detection Challenge” — исследование по обнаружению проблем в области дипфейков.
Идея состоит в том, чтобы создать базу данных, которая поможет нейронным сетям определить, что является фальшивкой, а что нет. Подобные алгоритмы уже существуют для распознавания речи или обнаружения объектов, но нет ни одного, предназначенного для распознавания дипфейков.
«Дипфейки важны для определения законности информации, представленной в Интернете, – говорится в заявлении Facebook по этому поводу, – это развивающаяся проблема, очень похожая на спам, и мы надеемся, что, помогая индустрии и сообществу искусственного интеллекта объединиться, мы сможем добиться быстрого прогресса».
Дипфейки — это не просто поддельные видео, а ролик, созданный по специальному алгоритму из большого количества картинок. Фактически программа собирает все доступные изображения с определенной личностью, монтирует и производит принципиально новый продукт. Основная опасность дипфейков заключается в том, что программа может заставить человека на видео сказать то, чего он никогда не произносил в реальности.
Фото: futurism.com
Это новость от журнала ММ «Машины и механизмы». Не знаете такого? Приглашаем прямо сейчас познакомиться с этим удивительным журналом.