डीपफेक मेकर

अगर तुम Kapwing को फ्री अकाउंट पर इस्तेमाल कर रहे हो, तो सभी एक्सपोर्ट्स — Kapwing के Deepfake Maker सहित — में वॉटरमार्क होगा। जब तुम प्रो अकाउंट में अपग्रेड करते हो, तो वॉटरमार्क पूरी तरह से हट जाएगा।

'डीपफेक' शब्द 'डीप लर्निंग' (AI का एक उपसमूह) और 'फेक' के संयोजन से बना है, जो सामग्री बनाने की विधि और उसकी भ्रामक प्रकृति को दर्शाता है। AI तकनीक में प्रगति ने अत्यंत यथार्थवादी चित्र, वीडियो और ऑडियो बनाने की अनुमति दी है जो मूल रूप से प्रामाणिक लगते हैं लेकिन हेरफेर किए गए या पूरी तरह से बनावटी होते हैं। वीडियो और ऑडियो में, डीपफेक अक्सर किसी व्यक्ति के चेहरे, आवाज या हलचल को बदलने या संशोधित करने में शामिल होते हैं ताकि ऐसा लगे कि वह कुछ कह या कर रहा है जो उसने वास्तव में कभी नहीं किया। हालांकि डीपफेक अक्सर रचनात्मक, मनोरंजन और शैक्षिक उद्देश्यों के लिए उपयोग किए जाते हैं, वे गलत सूचना फैलाने और गोपनीयता का उल्लंघन करने की क्षमता के कारण नैतिक और कानूनी चिंताएं भी उठाते हैं। इसके कारण, Kapwing सुनिश्चित करता है कि सभी डीपफेक सामग्री को एक गैर-हटाने योग्य 'AI-जनित' वाटरमार्क के साथ स्पष्ट रूप से लेबल किया जाए।

नहीं, डीपफेक वीडियो गैरकानूनी नहीं हैं और अमेरिका में डीपफेक को रोकने का कोई राष्ट्रीय कानून नहीं है। हालांकि, दस राज्यों में ऐसे कानून हैं जो विशेष रूप से उन लोगों को निशाना बनाते हैं जो स्पष्ट डीपफेक सामग्री बनाते और शेयर करते हैं, जिनमें Kapwing वाला कैलिफोर्निया भी शामिल है।

जनवरी 2024 में, टेलर स्विफ्ट डीपफेक लीक का शिकार हुईं। फर्जी वीडियो जिन्होंने लोगों को धोखा दिया, सोशल मीडिया पर फैल गए, जिनमें से एक वीडियो ने X पर 47 मिलियन व्यूज़ पाए (Twitter) इसे हटाए जाने से पहले। इस घटना ने अमेरिकी नेताओं को नए कानून की मांग करने के लिए उकसाया। फिर भी, अगस्त 2024 में सात महीने बाद, डोनाल्ड ट्रंप ने AI द्वारा बनाई गई तस्वीरों का एक संग्रह शेयर किया जिसमें गलत तरीके से टेलर स्विफ्ट और उनके फैंस को राष्ट्रपति अभियान का समर्थन करते हुए दिखाया गया। Kapwing के AI अनुसंधान में यह भी पाया गया कि टेलर स्विफ्ट इंटरनेट पर 10 सबसे ज्यादा डीपफेक्ड सेलिब्रिटीज़ में तीसरे स्थान पर हैं।

Kapwing डीपफेक सामग्री के नियंत्रण और सुरक्षा का समर्थन करता है, और हमारे इंजीनियर पूरी कोशिश करते हैं ताकि AI सामग्री का इस्तेमाल साफ़, भ्रामक या अनुचित विषयों के लिए न हो।

देखो हमारी सेवा शर्तें यह जानने के लिए कि हम कैसे सुनिश्चित करते हैं कि AI सामग्री किसी को नुकसान न पहुंचाए।

औसत सोशल मीडिया उपयोगकर्ता के लिए डीपफेक सामग्री का पता लगाना काफी मुश्किल है — बस 17% लोगों ने Kapwing का AI क्विज़ पूरा किया है जिसमें सेलिब्रिटी के भाषणों को असली या फेक बताना होता है। कुछ सबसे स्पष्ट संकेत हैं: बेमेल बोली, अजीब पृष्ठभूमि, असामान्य शरीर या चेहरे की हरकतें, वीडियो में गड़बड़, और धुंधलापन। शोधकर्ता, टेक कंपनियां और वीडियो विशेषज्ञ हर फ्रेम को देखकर और डीपफेक पहचान टूल्स से इंटरनेट को सुरक्षित बनाने में मदद कर रहे हैं। तुम भी जहां भी ऐसी हानिकारक सामग्री दिखे, उसे रिपोर्ट कर सकते हो।

डीपफेक की कहानी 1990 के दशक में शुरू होती है, जब सीजीआई के विकास ने डीपफेक की यात्रा को एक नई दिशा दी। लेकिन असली मशहूरी 2017 में आई, जब एक Reddit यूजर ने 'डीपफेक' शब्द गढ़ा और सेलिब्रिटी के चेहरों को अन्य चेहरों में बदलने वाले एआई वीडियो शेयर किए। यही वो पल था जब डीपफेक ने असली पहचान पाई।

डीपफेक तकनीक उन्नत AI का मजेदार इस्तेमाल करती है, खास तौर पर जेनरेटिव एडवर्सेरियल नेटवर्क (GANs) जैसे डीप लर्निंग एल्गोरिदम, जो बेहद असली जैसे फर्जी वीडियो, चित्र या ऑडियो बनाते हैं। यह किसी व्यक्ति के चेहरे या आवाज के बड़े डेटासेट पर एक मॉडल को प्रशिक्षित करके काम करता है, जिससे वह उनके भावों, हलचल और बोली को नकल कर सकता है। नतीजा ऐसी सामग्री होती है जो असली व्यक्ति जैसी दिखती या सुनाई देती है, हालांकि यह पूरी तरह से बनावटी होती है।

बिल्कुल, डीपफेक पूरी दुनिया में तेजी से फैल रहे हैं। Kapwing ने डीपफेक में वैश्विक रुचि का अध्ययन किया और पाया कि दक्षिण कोरिया (13,399), चेक गणराज्य (11,356), और स्वीडन (10,443) वे कुछ ऐसे देश हैं जहाँ हर मिलियन लोगों में 10,000 से ज्यादा डीपफेक से जुड़ी खोजें हुई हैं।