#deepfake
Эффект зловещей долины: как распознать дипфейк
🎥Рэпер Моргенштерн в видеоролике обещает подарить до 100 000 рублей всем, кто перейдет по ссылке: «Осталось три часа. Забирай свои 100 000 рублей скорее». На самом деле это
видео — дипфейк (deepfake), проще говоря подделка, созданная при помощи искусственного интеллекта и нейронных сетей.
🙈Дипфейки часто используют в виде безобидной шутки, например, заменив лицо актера своим лицом, но случается что преступники используют порно-дипфейки для
шантажа и вымогательства. Количество дипфейков растет стремительно. Если в декабре 2019 года Sensity AI обнаружила около 24 000 подделок, то к концу 2020 года — уже 85 047 фейковых видео. Как распознать подделку?
🕵️♀️Для создания дипфейк-видео используются разные приложения, например,
RefaceAI (более 100 млн скачиваний в Google Store), или более продвинутые программы с готовыми библиотеками, такие как
DeepFaceLab и
SimSwap, замечает
Владимир Калугин, руководитель отдела специальных проектов департамента Digital Risk Protection Group-IB. Некоторые из приложений, по словам эксперта, требуют минимальных технических навыков и позволяют создавать дипфейк-видео на основании лишь одного фото.
🖥Несмотря на то, что технологии становятся все реалистичнее, они пока не смогли преодолеть так называемый эффект «
зловещей долины» (uncanny valley) — явление, при котором малейшая неестественность во внешнем виде и поведении объекта или робота, выглядящего и действующего как человек, вызывает у наблюдателя тревогу, неприязнь, а порой и отвращение.
👉Эксперт советует обратить внимание на пять основных моментов:
📌 излишняя пикселизация, дефекты, нечеткое и смазанное изображение, дублирование элементов;
📌 неестественная мимика, особенно при моргании, движении бровей и губ;
📌низкое качество видео, за которым нередко пытаются скрыть некорректную работу нейросетей;
📌отличия в телосложении, прическе и голосе от оригинала. Злоумышленники нередко подбирает похожих по типажу актеров, а голос может быть также скорректирован с помощью специальной технологии, например, в программах RealTimeVoiceCLoning, Resemble и Descript;
📌 в наиболее популярных решениях заменяется только лицо, поэтому можно заметить границу наложения лица, различие в тенях, освещенности и оттенке кожи.
👉Кроме того, обращайте внимание на то, кто, где и как распространяет видео, не доверяйте роликам с непроверенных и сомнительных сайтов.
