딥페이크 메이커

'딥페이크'라는 용어는 AI의 한 하위 분야인 '딥러닝'과 '가짜'를 결합한 말로, 콘텐츠 제작 방식과 그 속이는 본질을 반영해요. AI 기술의 발전으로 마치 진짜처럼 보이지만 조작되거나 완전히 만들어진 매우 사실적인 이미지, 동영상, 음성을 만들 수 있게 됐어요. 동영상과 음성에서 딥페이크는 보통 사람의 얼굴, 목소리, 움직임을 대체하거나 바꿔서 실제로 하지 않은 말이나 행동을 하는 것처럼 보이게 해요. 딥페이크는 종종 창의적이고 엔터테인먼트, 교육적 목적으로 사용되지만, 허위 정보를 퍼뜨리고 프라이버시를 침해할 수 있어 윤리적, 법적 우려도 있어요. 이런 이유로 Kapwing은 모든 딥페이크 콘텐츠에 제거할 수 없는 'AI 생성' 워터마크를 명확하게 표시해요.

딥페이크 기술은 첨단 AI, 특히 생성적 적대 신경망(GANs)과 같은 딥러닝 알고리즘을 활용해 정말 사실적인 가짜 동영상, 이미지, 또는 음성을 만들어. 이 기술은 특정 사람의 얼굴이나 목소리에 대한 대량의 데이터셋으로 모델을 학습시켜 그 사람의 표정, 움직임, 말투를 그대로 따라할 수 있어. 결과적으로 완전히 조작된 콘텐츠임에도 마치 진짜 사람처럼 보이고 들리는 콘텐츠가 만들어지는 거야.

아니, 딥페이크 동영상은 불법이 아니고 미국에는 딥페이크를 금지하거나 규제하는 연방법이 없어요. 하지만 10개 주에서는 노골적인 딥페이크 콘텐츠를 만들고 공유하는 사람들을 특별히 겨냥한 법률이 있고, Kapwing가 기반을 둔 캘리포니아도 그중 하나예요.

2024년 1월, Taylor Swift는 딥페이크 유출의 피해자가 됐어요. 대중을 속인 가짜 동영상들이 소셜 미디어에 퍼졌고, 한 동영상은 X(Twitter)에서 4,700만 뷰를 기록한 후 삭제됐어요. 이 사건으로 미국 정치인들이 새로운 법안을 요구했죠. 그럼에도 불구하고 7개월 후인 2024년 8월, Donald Trump는 Taylor Swift와 그녀의 팬들이 그의 대통령 캠페인을 지지한다고 허위로 묘사한 AI 생성 이미지 모음을 공유했어요. Kapwing의 AI 연구에 따르면 Taylor Swift는 인터넷에서 10대 딥페이크 유명인 중 3위를 차지해요.

Kapwing는 딥페이크 콘텐츠의 통제와 안전을 지지하고, 우리 엔지니어들은 AI 콘텐츠가 노골적이거나 오해의 소지가 있는 또는 부적절한 주제에 사용되지 않도록 열심히 노력하고 있어요.

AI 콘텐츠가 해를 끼치지 않도록 하는 방법에 대해 더 알고 싶다면 이용약관을 확인해보세요.

평균적인 소셜 미디어 사용자가 딥페이크 콘텐츠를 감지하기는 정말 어려워요 — 겨우 17%의 사람들만이 유명인의 연설이 진짜인지 가짜인지 판단하는 Kapwing의 AI 퀴즈를 통과했어요. 가장 뚜렷한 특징들은 말소리와 입 움직임이 안 맞는 점, 배경 세부사항의 이상한 점, 이상한 팔다리나 얼굴 움직임, 비디오 결함, 그리고 흐릿함 등이에요. 연구자들, 기술 기업, 그리고 비디오 전문가들은 프레임별 분석과 딥페이크 탐지 소프트웨어를 활용해 딥페이크 콘텐츠를 찾아내고 인터넷을 안전하게 유지해요. 해로운 딥페이크 콘텐츠는 해당 앱이나 웹사이트에서 신고할 수 있어요.

딥페이크 콘텐츠의 역사는 1990년대 초반 CGI의 발전이 앞으로의 딥페이크 여정에 촉매제 역할을 했을 때로 거슬러 올라갑니다. 하지만 2017년 후반, Reddit 사용자가 '딥페이크'라는 용어를 만들어내고 유명인의 얼굴로 대체된 AI 생성 동영상을 공유하기 전까지는 아무도 몰랐죠. 바로 그때 딥페이크가 '발명'된 순간이었습니다.

고품질 딥페이크 콘텐츠를 만드는 데 필요한 첨단 기술 때문에, 무료로 고품질 딥페이크 생성기를 찾기는 어려워요. 하지만 Kapwing을 사용하면 Deepfake Video Maker를 테스트하기 위해 1분의 무료 비디오 콘텐츠를 생성할 수 있어요. 도널드 트럼프나 테일러 스위프트 같은 페르소나를 선택하거나 자신의 비디오를 업로드하고, 아바타가 말하는 내용을 편집할 수 있어요. 음성과 입술 움직임을 동기화하여 내보내고 다운로드하세요. 새로운 페르소나를 사용해 정기적인 콘텐츠를 만들고 싶다면 구독 패키지를 통해 Kapwing에 가입할 수 있어요.

Kapwing의 무료 계정을 사용하고 있다면, 딥페이크 메이커를 포함한 모든 내보내기에 워터마크가 포함됩니다. Pro 계정으로 업그레이드하면 워터마크가 완전히 제거됩니다.

맞아, 딥페이크가 전 세계적으로 인기를 얻고 있어. Kapwing에서 딥페이크에 대한 글로벌 관심을 분석했더니 한국(13,399), 체코(11,356), 스웨덴(10,443)이 백만 명당 10,000건 이상의 딥페이크 관련 검색을 기록한 유일한 국가들이었어.