Новости

Aug 31, 2023

Что такое дипфейки? Как обнаружить поддельное аудио и видео AI

Компьютеры становятся все лучше в моделировании реальности. СМИ, созданные с помощью искусственного интеллекта (ИИ), попали в серьезные заголовки — особенно видео, созданное для имитации кого-то.

Компьютеры становятся все лучше в моделировании реальности. СМИ, созданные с помощью искусственного интеллекта (ИИ), попали в серьезные заголовки — особенно видеоролики, созданные для того, чтобы имитировать кого-то, создавая впечатление, будто он говорит или делает что-то, на самом деле это не так.

Стримера Twitch поймали на веб-сайте, известном тем, что он создавал порнографию о своих сверстниках с помощью искусственного интеллекта. Группа нью-йоркских студентов сняли на видео, как их директор высказывает расистские высказывания и угрожает ученикам. В Венесуэле созданные видеоролики используются для распространения политической пропаганды.

Во всех трех случаях видео, созданное ИИ, было создано с целью убедить вас в том, что кто-то сделал то, чего на самом деле никогда не делал. Для такого рода контента есть слово: Deepfakes.

Дипфейки используют искусственный интеллект для создания совершенно нового видео или аудио с конечной целью изобразить то, чего на самом деле не произошло в реальности.

Термин «дипфейк» происходит от базовой технологии — алгоритмов глубокого обучения, — которые учатся решать проблемы с большими наборами данных и могут использоваться для создания фейкового контента от реальных людей.

«Дипфейк — это кадры, созданные компьютером, обученным на основе бесчисленных существующих изображений», — сказала Кристина Лопес, старший аналитик Graphika, фирмы, которая исследует потоки информации в цифровых сетях.

Дипфейки — это не просто фальшивые или вводящие в заблуждение изображения. Созданный ИИ Папа в пуховике или фейковые сцены ареста Дональда Трампа, которые распространялись незадолго до предъявления ему обвинения, созданы ИИ, но это не дипфейки. (Подобные изображения в сочетании с вводящей в заблуждение информацией обычно называют «поверхностными фейками».) Дипфейк отличает элемент человеческого вклада.

Когда дело доходит до дипфейков, пользователь может решить только в самом конце процесса генерации, является ли созданное тем, что он хочет, или нет; Помимо адаптации обучающих данных и ответа «да» или «нет» на то, что компьютер генерирует постфактум, они не имеют никакого права голоса в том, как компьютер решит это сделать.

Примечание: Компьютерные технологии, такие как Photoshop и CGI, обычно используются для создания медиа, но разница в том, что люди участвуют в каждом этапе процесса, за исключением недавних разработок, таких как генеративный инструмент Adobe Firefly. «У вас есть большая помощь ИИ в компьютерной графике, но, в конце концов, есть человек с человеческой точкой зрения, контролирующий то, каким будет результат», — сказал Лопес.

Существует несколько методов создания дипфейков, но наиболее распространенный основан на использовании глубоких нейронных сетей, использующих технику подмены лиц. Сначала вам нужно целевое видео, которое можно использовать в качестве основы для дипфейка, а затем коллекцию видеоклипов человека, которого вы хотите вставить в цель.

Видео могут быть совершенно не связаны между собой; целью может быть, например, отрывок из голливудского фильма, а видео человека, которого вы хотите вставить в фильм, могут быть случайными клипами, загруженными с YouTube.

Программа угадывает, как выглядит человек с разных точек зрения и в разных условиях, а затем сопоставляет этого человека с другим человеком в целевом видео, находя общие черты.

К этой смеси добавляется еще один тип машинного обучения, известный как генеративно-состязательные сети (GAN), который обнаруживает и исправляет любые недостатки в дипфейках в течение нескольких раундов, что усложняет их декодирование детекторами дипфейков.

Хотя процесс сложен, программное обеспечение довольно доступно. Некоторые приложения упрощают создание дипфейков даже новичкам — например, китайское приложение Zao, DeepFace Lab, FakeApp и Face Swap — а большое количество программного обеспечения для дипфейков можно найти на GitHub, сообществе разработчиков с открытым исходным кодом.

Технология Deepfake исторически использовалась в незаконных целях, в том числе для создания порнографии без согласия. В июне 2023 года ФБР опубликовало публичное объявление, предупреждающее общественность об опасностях генеративного искусственного интеллекта и о том, как он используется для «создания явного контента», «секс-вымогательства» и «преследований».