Создатель Deepfake

Если ты используешь Kapwing на бесплатном аккаунте, то все экспорты — включая Deepfake Maker от Kapwing — будут содержать водяной знак. Как только ты перейдёшь на Pro аккаунт, водяной знак полностью исчезнет из твоих работ.

Термин «deepfake» — это комбинация «deep learning» (подмножество AI) и «fake», что отражает метод создания контента и его обманчивую природу. Развитие технологий AI позволило создавать невероятно реалистичные изображения, видео и аудио, которые выглядят аутентично, но на самом деле манипулируются или полностью сфабрикованы. В видео и аудио форме deepfake часто включают замену или изменение лица, голоса или движений человека таким образом, чтобы казалось, что он говорит или делает что-то, чего он никогда на самом деле не делал. Хотя deepfake часто используются в творческих, развлекательных и образовательных целях, они также вызывают этические и юридические опасения из-за их способности распространять дезинформацию и нарушать приватность. Поэтому Kapwing гарантирует, что весь контент deepfake четко помечен несъемным водяным знаком «AI-generated».

Нет, дипфейк-видео не являются незаконными, и в Соединённых Штатах нет федерального законодательства, которое запрещало бы или регулировало дипфейки. Однако десять штатов США имеют законодательство, которое специально нацелено на тех, кто создаёт и распространяет откровенный контент с дипфейками, включая Калифорнию, где находится Kapwing.

В январе 2024 года Тейлор Свифт стала жертвой утечки дипфейка. Поддельные видео, которые обманули широкую публику, распространялись в социальных сетях, и одно видео набрало 47 миллионов просмотров на X (Twitter) перед тем, как оно было удалено. Инцидент вызвал возмущение американских политиков, требующих нового законодательства. Тем не менее, семь месяцев спустя, в августе 2024 года, Дональд Трамп поделился коллекцией сгенерированных ИИ изображений, которые ложно изображали Тейлор Свифт и её поклонников, поддерживающих его президентскую кампанию. Исследование Kapwing в области ИИ также показало, что Тейлор Свифт занимает третье место среди 10 самых часто дипфейкируемых знаменитостей в интернете.

Kapwing поддерживает контроль и безопасность контента с дипфейками, и наши инженеры усердно работают, чтобы убедиться, что контент ИИ не может быть использован для откровенных, вводящих в заблуждение или неуместных целей.

Смотрите наши Условия обслуживания, чтобы узнать больше о том, как мы гарантируем, что контент ИИ не причиняет вреда.

Обычному пользователю социальных сетей крайне сложно заметить deepfake контент — только 17% людей прошли AI Quiz от Kapwing, где нужно определить, реальны ли речи знаменитостей или нет. Самые очевидные признаки — это рассинхронизированная речь, несоответствия в фоне, странные движения конечностей или лица, глюки видео и размытие. Исследователи, технологические компании и видеоэксперты используют покадровый анализ вместе со специальным ПО для обнаружения deepfake, чтобы сделать интернет безопаснее. Ты также можешь пожаловаться на вредоносный deepfake контент прямо в приложении или на сайте, где ты его нашел.

История контента deepfake берёт своё начало в начале 1990-х годов, когда развитие CGI стало катализатором для дальнейшего развития deepfake. Но термин 'deepfake' придумали только в конце 2017 года — пользователь Reddit поделился видео, созданными с помощью ИИ, где обычные лица заменили на лица знаменитостей. Вот тогда deepfake и 'родились'.

Технология deepfake использует продвинутый AI, особенно алгоритмы глубокого обучения, такие как Generative Adversarial Networks (GANs), чтобы создавать очень реалистичные поддельные видео, изображения или аудио. Это работает путём обучения модели на большом наборе данных лица или голоса человека, что позволяет ей копировать его выражения, движения и речь. В результате получается контент, который выглядит или звучит как настоящий человек, хотя на самом деле он полностью сфабрикован.

Да, дипфейки набирают популярность по всему миру. Kapwing проанализировала глобальный интерес к дипфейкам и выяснила, что только Южная Корея (13 399), Чехия (11 356) и Швеция (10 443) были единственными странами с более чем 10 000 поисков, связанных с дипфейками, на миллион человек.