딥페이크 메이커

Kapwing의 무료 계정을 사용 중이라면 Kapwing의 Deepfake Maker를 포함한 모든 내보내기에 워터마크가 포함돼요. Pro 계정으로 업그레이드하면 당신의 작품에서 워터마크가 완전히 제거될 거예요.

'딥페이크'라는 용어는 '딥러닝'(AI의 한 분야)과 '페이크'를 합친 말로, 콘텐츠를 만드는 방식과 그 기만적인 특성을 반영하고 있어요. AI 기술의 발전으로 진짜처럼 보이지만 조작되거나 완전히 만들어진 매우 현실적인 이미지, 영상, 음성을 만들 수 있게 됐어요. 영상과 음성 형태의 딥페이크는 보통 어떤 사람의 얼굴, 목소리, 움직임을 바꾸거나 조작해서 그 사람이 실제로 한 적 없는 말을 하거나 행동을 하는 것처럼 보이게 만들어요. 딥페이크는 창의적이고 오락적, 교육적 목적으로 자주 사용되지만, 잘못된 정보를 퍼뜨리고 개인정보를 침해할 수 있다는 점 때문에 윤리적, 법적 문제를 야기하기도 해요. 이 때문에 Kapwing은 모든 딥페이크 콘텐츠에 제거할 수 없는 'AI 생성' 워터마크를 명확하게 표시하고 있어요.

아니요, 딥페이크 영상은 불법이 아니며 미국에는 딥페이크를 금지하거나 규제하는 연방 법안이 없습니다. 하지만 미국의 10개 주에서는 Kapwing이 기반을 두고 있는 캘리포니아를 포함하여 명시적인 딥페이크 콘텐츠를 만들고 공유하는 사람들을 대상으로 하는 법안을 가지고 있습니다.

2024년 1월, Taylor Swift는 딥페이크 유출의 피해자였어요. 일반 대중을 속인 가짜 영상이 소셜 미디어에 퍼졌으며, 한 영상은 삭제되기 전에 X (Twitter)에서 4,700만 조회수에 도달했어요. 이 사건으로 인해 미국 정치인들이 새로운 법안을 요구하는 목소리가 높아졌습니다. 그럼에도 불구하고 7개월 후인 2024년 8월, Donald Trump는 Taylor Swift와 그녀의 팬들이 자신의 대선 캠프를 지지하는 것처럼 거짓으로 묘사한 AI 생성 이미지 모음을 공유했어요. Kapwing의 AI 연구에 따르면 Taylor Swift는 인터넷에서 가장 많이 딥페이크된 유명인 10명 중 3위예요.

Kapwing은 딥페이크 콘텐츠의 통제와 안전을 지지하며, 우리의 엔지니어들은 AI 콘텐츠가 명시적이고 오도적이거나 부적절한 주제에 사용될 수 없도록 열심히 노력하고 있어요.

우리의 이용약관을 참고하여 AI 콘텐츠가 어떻게 해를 끼치지 않도록 보장하는지 자세히 알아보세요.

평균적인 소셜 미디어 사용자가 딥페이크 콘텐츠를 감지하기는 정말 어려워. 유명인의 연설이 실제인지 가짜인지 판단해야 하는 Kapwing의 AI Quiz를 완료한 사람은 겨우 17%밖에 없거든. 가장 명백한 단서들로는 음성과 영상의 불일치, 일관성 없는 배경 디테일, 어색한 팔다리나 얼굴 움직임, 영상 글리치, 그리고 흐릿함 같은 게 있어. 연구원, 기술 회사, 그리고 영상 전문가들은 프레임 단위 분석과 딥페이크 탐지 소프트웨어를 함께 사용해서 딥페이크 콘텐츠를 식별하고 인터넷을 안전한 공간으로 유지하고 있어. 너도 해로운 딥페이크 콘텐츠를 발견하면 그 콘텐츠가 있는 앱이나 웹사이트에 신고할 수 있어.

딥페이크 콘텐츠의 역사는 1990년대 초로 거슬러 올라가는데, 당시 CGI 개발이 딥페이크 여정의 촉매제 역할을 했어. 하지만 2017년 말이 되어서야 Reddit 사용자가 '딥페이크'라는 용어를 만들었고, 유명인의 얼굴로 일반인의 얼굴을 바꾼 AI 생성 영상을 공유했어. 이것이 바로 딥페이크가 '탄생'한 순간이야.

딥페이크 기술은 고급 AI, 특히 생성적 적대 신경망(GAN)과 같은 딥러닝 알고리즘을 사용해서 엄청 현실적인 가짜 영상, 이미지, 음성을 만들어내. 이건 어떤 사람의 얼굴이나 목소리에 대한 대규모 데이터셋으로 모델을 학습시켜서 작동하는데, 그러면 그 사람의 표정, 움직임, 말투를 따라 할 수 있게 돼. 결과물은 실제 사람처럼 보이거나 들리지만, 사실은 완전히 만들어진 거야.

네, 딥페이크가 전 세계적으로 인기를 얻고 있어요. Kapwing이 딥페이크에 대한 전 세계적 관심을 분석했는데 한국(13,399), 체코(11,356), 스웨덴(10,443)이 인구 100만 명당 딥페이크 관련 검색이 10,000건을 넘는 유일한 국가였어요.