יוצר וידאו מזויף

אם אתה משתמש ב-Kapwing בחשבון חינמי, אז כל הייצואים - כולל Deepfake Maker של Kapwing - יכילו סימן מים. ברגע שתשדרג לחשבון Pro, סימן המים יוסר לחלוטין מהיצירות שלך.

המונח 'דיפייק' הוא שילוב של 'למידה עמוקה' (תת-תחום של AI) ו-'מזויף', המשקף את השיטה ששימשה ליצירת התוכן ואת אופיו המטעה. התקדמויות בטכנולוגיית AI אפשרו יצירה של תמונות, סרטונים וקול מאוד אמיתיים שנראים אותנטיים אך למעשה מניפולטיביים או מזויפים לחלוטין. בצורת וידאו וקול, דיפייקים לרוב כוללים החלפה או שינוי של פני אדם, קולו או תנועותיו באופן שנראה כאילו הוא אומר או עושה דברים שמעולם לא עשה באמת. למרות שדיפייקים משמשים לעתים למטרות יצירתיות, בידור וחינוך, הם מעוררים חששות אתיים ומשפטיים בשל היכולת שלהם להפיץ מידע כוזב ולפגוע בפרטיות. בשל כך, Kapwing מוודאת שכל תוכן דיפייק מסומן באופן ברור עם סימן מים 'מיוצר על ידי AI' שלא ניתן להסירו.

לא, סרטוני דיפייק אינם בלתי חוקיים ואין חקיקה פדרלית בארצות הברית שאוסרת או מסדירה דיפייקים. עם זאת, עשרה מדינות בארה"ב יש חקיקה שמכוונת במיוחד למי שיוצרים ומשתפים תוכן דיפייק מפורש, כולל קליפורניה, שם Kapwing ממוקמת.

בינואר 2024, Taylor Swift הייתה קורבן של דליפת דיפייק. סרטונים מזויפים שהטעו את הציבור הופצו ברשתות החברתיות כאשר סרטון אחד הגיע ל-47 מיליון צפיות ב-X (Twitter) לפני שהוסר. האירוע הוביל לזעקה של פוליטיקאים אמריקאים הקוראים לחקיקה חדשה. למרות זאת, שבעה חודשים לאחר מכן באוגוסט 2024, Donald Trump שיתף אוסף של תמונות שנוצרו על ידי AI שהציגו בצורה שקרית את Taylor Swift ואוהדיה כמי שמגבים את מסע הבחירות שלו. המחקר של Kapwing מצא גם כי Taylor Swift דורגה שלישית מבין 10 האישים המדופפקים ביותר באינטרנט.

Kapwing תומכת בבקרה ובטיחות של תוכן דיפייק, והמהנדסים שלנו עובדים קשה כדי להבטיח שתוכן AI לא יכול לשמש למטרות מפורשות, מטעות או לא הולמות.

עיינו ב-תנאי השירות שלנו כדי לקרוא עוד על האופן שבו אנחנו מבטיחים שתוכן AI לא יגרום נזק.

זה ממש קשה למשתמש הממוצע ב-מדיה חברתית לזהות תוכן דיפייק - רק 17% מהאנשים עברו את Kapwing's AI Quiz שמאתגר אותם לזהות אם נאומים של אישי ציבור הם אמיתיים או מזויפים. כמה מהסימנים הכי בולטים הם סינכרון דיבור לא מדויק, רקע לא עקבי, תנועות גוף או פנים לא טבעיות, באגים בווידאו, והטשטוש. חוקרים, חברות טכנולוגיה ומומחי וידאו משתמשים בניתוח פריים-אחר-פריים יחד עם תוכנות זיהוי דיפייק כדי לעזור לזהות תוכן דיפייק ולשמור על האינטרנט כמרחב בטוח. את/ה יכול/ה גם לדווח על תוכן דיפייק מזיק באפליקציה או באתר שבו הוא מופיע.

ההיסטוריה של תוכן דיפייק יכולה להיות מעוקבת עד לתחילת שנות ה-90, כאשר פיתוח ה-CGI שימש כזרז למסע הדיפייק שעמד לפנינו. אבל זה לא היה עד סוף 2017, כאשר משתמש ב-Reddit טבע את המונח 'דיפייק', ושיתף סרטונים שנוצרו על ידי בינה מלאכותית שהחליפו פרצופים רגילים בפרצופים של אישי פופולריים. זה היה הרגע שבו הדיפייקים 'נולדו'.

טכנולוגיית דיפייק משתמשת בבינה מלאכותית מתקדמת, במיוחד אלגוריתמי למידה עמוקה כמו רשתות GAN, כדי ליצור סרטונים, תמונות או אודיו מזויפים שנראים מאוד אמיתיים. זה עובד על ידי אימון מודל על מאגר נתונים גדול של פני אדם או קולו, ומאפשר לו לחקות את הבעותיו, תנועותיו ודיבורו. התוצאה היא תוכן שנראה או נשמע כמו האדם האמיתי, למרות שהוא מזויף לחלוטין.

כן, דיפייקים כבר תופסים תאוצה ברחבי העולם. Kapwing בחנה את העניין העולמי בדיפייקים וגילתה שדרום קוריאה (13,399), הרפובליקה הצ'כית (11,356), ושבדיה (10,443) היו המדינות היחידות עם יותר מ-10,000 חיפושים הקשורים לדיפייקים למיליון אנשים.