אין עדיין פתרון לסרטוני הדיפ פייק

ijump_728x90


תחרות זיהוי תמונות וסרטוני דיפ פייק שארגנה פייסבוק הניבה תוצאות עגומות, הפתרון המנצח סיפק רמת דיוק של כ-65% כך לפי הודעתה של פייסבוק בפוסט שפרסמה בסוף השבוע
בבלוג חטיבת הבינה המלאכותית שלה.


 

קראו עוד בכלכליסט:

התחרות נערכה בקרב אלפי חוקרים שפיתחו עשרות אלפי אלגוריתמים שנועדו לזהות מדיה שעברה מניפולציה מבוססת דיפ פייק.

 

ימי הקורונה והמחאה החברתית של תנועת  “חיי שחורים חשובים” הם כר פורה לקמפיינים מסיביים של דיסיאינפורציה ברשתות החברתיות. אחד הכלים היעילים והנפוצים ביותר לייצר אותם מתבססים על טכנולוגיית “דיפ פייק” או deepfake. הבעיה קשה ביותר ובעיקר עבור פייסבוק שמנסה כבר תקופה ארוכה למצוא פתרון תוכנה שיאפשר לה למחוק את הסרטונים הללו בסיטונות.

 

היתרון הגדול של הטכנולוגיה הזו הוא באפשרות להפוך בקלות סרטון למשהו שונה לגמרי ללא עריכה מגמתית או שינוי בחומר הגלם המקורי. השיטה עובדת כך: יוצר הדיפ פייק משתמש בסרטון אמיתי וקיים ובעזרת אפליקציית בינה מלאכותית, משתיל אלמנטים שהוא בוחר בתוכו. המחשב לאחר מכן עושה את רוב העבודה ומסוגל להפיק סרטון או תמונה שנראים לנו אמיתיים מאוד.

 

 


מארק צוקרברג צילום: איי אף פי

 

השימוש הפופולרי ביותר הוא להשתיל פנים של סלבריטאיות על סרטוני פורנו, אך כבר נצפו סרטונים בהם בוצעה מניפולציה שגורמת גם לפוליטיקאי לומר משהו שהוא מעולם לא הצהיר. סרטון שהופץ לפני כשנתיים ביוטיוב הראת
כיצד ניתן לגרום לנשיא ארה”ב לשעבר ברק אובמה לומר דברים שהוא לא אמר מעולם.

 

בכל מקרה, הסכנה המיידית היא כמובן המניפולציה שניתן לבצע. הטכנולוגיה עדיין לא שימשה בפועל להפצה של פייק ניוז (עד כמה שאנחנו יודעים), אך היא כן שימשה להטרדות מיניות של שחקניות קולנוע ידועות וגם של נשים שסבלו מנקמה של בן זוג לשעבר חסר מצפון. מספיק סרטון אחד כזה שמופץ במדיה החברתית כדי לייצר נזק פסיכולוגי והשפלה פומבית גם אם לא מדובר במצב אמיתי.  


(אילוסטרציה) צילום: Nvidia

 

התחרות של פייסבוק כללה כ-2,100 משתתפים שיצרו כ-35 אלף אלגוריתמים שונים. כל אחד מהם ניסה לזהות סרטון דיפ פייק מתוך מאגר של כ-100 אלף קליפים. כדי להמחיש עד כמה פייסבוק לוקחת את הסכנה הזו ברצינות, היא שכרה כ-3,000 שחקנים כדי שישתתפו ביצירת הקליפים לתחרות. המניפולציה בוצעה על ידי הדבקה של פני שחקן אחד על פניו של שחקן אחר או שינוי הקול כדי שיאמר משהו אחר לגמרי.

 

הבעיה העיקרית בדיפ פייק היא הקלות היחסית בה ניתן ליצור אותם. אם בעבר כדי לזייף סרטון נדרשו אנשי מקצוע וציוד אולפנים יקר, תוכנות דיפ פייק בקוד פתוח לא עולות כסף וניתן להפעיל אותן על כל מחשב ביתי בעל עוצמה סבירה. בנוסף, הן לא דורשות כישורים טכניים יוצאי דופן ואפשר ללמוד לייצר סרטון כזה די מהר.

 

כאשר המפתחים “אימנו” את האלגוריתמים שלהם על סרטונים שפייסבוק יצרה, אלה הניבו תוצאות של כ-82% זיהוי. אך כאשר הועלתה דרגת הקושי והם נדרשו לזהות סרטונים שלא הכירו לפני כן, רמת ההצלחה ירדה דרמטית לכ-65%. שזה לא רע, אבל רחוק מלהספיק כדי להפעיל מערכות זיהוי ממוכנות כפי שפייסבוק זקוקה.

 


עם זאת בחברה שוקדים בימים אלה על פיתוח מערכת זיהוי פנימית זאת לאחר שאסרה על הפצת סרטונים ותמונות דיפ פייק בפלטפורמות שלה בשנה שעברה. בחירות 2020 לנשיאות מהוות את קו הסיום ובחברה מאוד מעוניינים להיות מסוגלים להיאבק בסרטונים האלה לפני קו הסיום של הקמפיינים הפוליטיים שצפויים לצבור תאוצה בחודשים הקרובים.



קישור לכתבת המקור

Travazor

אודות המחבר

כתבות נוספות

Travazor