डीपफेक मेकर

अगर तुम Kapwing को फ्री अकाउंट पर इस्तेमाल कर रहे हो, तो सभी एक्सपोर्ट्स — Kapwing के Deepfake Maker सहित — में वॉटरमार्क होगा। जब तुम प्रो अकाउंट में अपग्रेड करते हो, तो वॉटरमार्क पूरी तरह से हट जाएगा।

'डीपफेक' शब्द 'डीप लर्निंग' (AI का एक उपसमूह) और 'फेक' के संयोजन से बना है, जो सामग्री बनाने की विधि और उसकी भ्रामक प्रकृति को दर्शाता है। AI तकनीक में प्रगति ने अत्यंत यथार्थवादी चित्र, वीडियो और ऑडियो बनाने की अनुमति दी है जो मूल रूप से प्रामाणिक लगते हैं लेकिन हेरफेर किए गए या पूरी तरह से बनावटी होते हैं। वीडियो और ऑडियो में, डीपफेक अक्सर किसी व्यक्ति के चेहरे, आवाज या हलचल को बदलने या संशोधित करने में शामिल होते हैं ताकि ऐसा लगे कि वह कुछ कह या कर रहा है जो उसने वास्तव में कभी नहीं किया। हालांकि डीपफेक अक्सर रचनात्मक, मनोरंजन और शैक्षिक उद्देश्यों के लिए उपयोग किए जाते हैं, वे गलत सूचना फैलाने और गोपनीयता का उल्लंघन करने की क्षमता के कारण नैतिक और कानूनी चिंताएं भी उठाते हैं। इसके कारण, Kapwing सुनिश्चित करता है कि सभी डीपफेक सामग्री को एक गैर-हटाने योग्य 'AI-जनित' वॉटरमार्क के साथ स्पष्ट रूप से लेबल किया जाए।

नहीं, डीपफेक वीडियो गैरकानूनी नहीं हैं और अमेरिका में डीपफेक को रोकने का कोई राष्ट्रीय कानून नहीं है। हालांकि, दस राज्यों में ऐसे कानून हैं जो विशेष रूप से उन लोगों को निशाना बनाते हैं जो स्पष्ट डीपफेक सामग्री बनाते और शेयर करते हैं, जिनमें Kapwing वाला कैलिफोर्निया भी शामिल है।

जनवरी 2024 में, टेलर स्विफ्ट डीपफेक लीक का शिकार हुईं। फर्जी वीडियो जिन्होंने लोगों को धोखा दिया, सोशल मीडिया पर फैल गए, जिनमें से एक वीडियो ने X पर 47 मिलियन व्यूज़ पाए जब तक कि इसे हटाया नहीं गया। इस घटना ने अमेरिकी नेताओं को नए कानून के लिए दबाव डालने को मजबूर किया। फिर भी, आठ महीने बाद अगस्त 2024 में, डोनाल्ड ट्रंप ने AI-जनित तस्वीरों का एक संग्रह शेयर किया जिसमें गलत तरीके से टेलर स्विफ्ट और उनके फैंस को राष्ट्रपति अभियान के समर्थन में दिखाया गया। Kapwing के AI अनुसंधान में यह भी पाया गया कि टेलर स्विफ्ट इंटरनेट पर 10 सबसे ज्यादा डीपफेक्ड सेलिब्रिटीज़ में तीसरे स्थान पर हैं।

Kapwing डीपफेक सामग्री के नियंत्रण और सुरक्षा का समर्थन करता है, और हमारे इंजीनियर कड़ी मेहनत करते हैं ताकि AI सामग्री का इस्तेमाल साफ़, भ्रामक या अनुचित विषयों के लिए न हो सके।

देखें हमारी सेवा शर्तें यह जानने के लिए कि हम कैसे सुनिश्चित करते हैं कि AI सामग्री किसी को नुकसान न पहुंचाए।

औसत सोशल मीडिया उपयोगकर्ता के लिए डीपफेक सामग्री का पता लगाना काफी मुश्किल है — बस 17% लोगों ने Kapwing का AI क्विज़ पूरा किया है जिसमें सेलिब्रिटी के भाषणों को असली या फर्जी पहचानना होता है। कुछ सबसे स्पष्ट संकेत हैं अजीब बोली, बैकग्राउंड में बेतुके विवरण, अनोखे अंग या चेहरे की हरकतें, वीडियो में गड़बड़ी, और धुंधलापन। शोधकर्ता, टेक कंपनियां, और वीडियो विशेषज्ञ फ्रेम-दर-फ्रेम विश्लेषण और डीपफेक पहचान सॉफ्टवेयर का इस्तेमाल करके डीपफेक सामग्री को पकड़ने और इंटरनेट को सुरक्षित रखने में मदद करते हैं। तुम भी ऐप या वेबसाइट पर जहां यह दिखाई देता है, हानिकारक डीपफेक सामग्री को रिपोर्ट कर सकते हो।

डीपफेक की कहानी 1990 के दशक में शुरू होती है, जब सीजीआई के विकास ने डीपफेक की यात्रा को एक नई दिशा दी। लेकिन असली मशहूरी 2017 में आई, जब एक Reddit यूजर ने 'डीपफेक' शब्द गढ़ा और सेलिब्रिटी के चेहरों को अन्य चेहरों में बदलने वाले एआई वीडियो शेयर किए। यही वो पल था जब डीपफेक ने असली पहचान पाई।

आप Kapwing के 'शैक्षणिक' अनुभाग का उपयोग यह समझने के लिए कर सकते हैं कि नवीनतम ओपन-सोर्स लिप सिंक तकनीकों का उपयोग करके डीपफेक सामग्री कैसे बनाई जाती है। टेलर स्विफ्ट, एलन मस्क और डोनाल्ड ट्रंप जैसी सेलिब्रिटीज को अध्ययन के उदाहरणों के रूप में चुना गया है। तुम केवल उन लोगों के वीडियो अपलोड कर सकते हो जिनकी अनुमति तुम्हें मिली है। अपना वीडियो इस्तेमाल करो, एक अनुमोदित स्टॉक Persona चुनो, या किसी और के वीडियो को Persona के रूप में इस्तेमाल करने के लिए साफ़ अनुमति लो। किसी सेलिब्रिटी या किसी अन्य व्यक्ति का उपयोग करना जिसकी अनुमति तुम्हारे पास नहीं है, मना है और Kapwing के सेवा की शर्तों के खिलाफ़ है।

डीपफेक तकनीक उन्नत AI का मजेदार इस्तेमाल करती है, खासकर जेनरेटिव एडवर्सेरियल नेटवर्क (GANs) जैसे डीप लर्निंग एल्गोरिदम, जो बेहद असली जैसे फर्जी वीडियो, चित्र या ऑडियो बनाते हैं। यह किसी व्यक्ति के चेहरे या आवाज के बड़े डेटासेट पर एक मॉडल को प्रशिक्षित करके काम करता है, जिससे वह उनके भावों, हलचल और बोली को नकल कर सकता है। नतीजा ऐसी सामग्री होती है जो असली व्यक्ति जैसी लगती या सुनाई देती है, हालांकि यह पूरी तरह से बनावटी होती है।

बिल्कुल, डीपफेक पूरी दुनिया में तेजी से फैल रहे हैं। Kapwing ने डीपफेक में वैश्विक रुचि का अध्ययन किया और पाया कि दक्षिण कोरिया (13,399), चेक गणराज्य (11,356), और स्वीडन (10,443) वे कुछ ऐसे देश हैं जहाँ हर मिलियन लोगों में 10,000 से ज्यादा डीपफेक से जुड़ी खोजें हुई हैं।