בעידן הדיגיטלי, הדאגה מפני חדשות מזויפות תפסה יותר ויותר את תשומת ליבם של גופים ציבוריים, כלי תקשורת ואישים למיניהם. לא בכדי היה ל- Fake News משקל מסוים בתהליכי בחירות חשובים כמו הבחירות לנשיאות ארצות הברית בשנת 2016, משאל העם על יציאת בריטניה מהאיחוד האירופי או הגנרלים של ברזיל שהעניקו לנצחון בולסונארו.
בלי צורך להגיע רחוק כל כך, לאחרונה נאלצה פייסבוק לסגור שלוש רשתות ימין קיצוני גדולות שבאמצעות 30 עמודים, קבוצות וחשבונות כפולים צברו יותר ממיליון וחצי עוקבים ויותר מ -7 מיליון אינטראקציות . קבוצות אלה הוקדשו להפצת מתיחות ותמונות שווא.
אך כעת אנו עומדים בפני סוג אחר של איום דיגיטלי המייצר כאבי ראש חדשים. אנחנו מדברים על מה שמכונה Deepfake, מונח שעולה מהשילוב של "Deep Learning" ו- "Fake". בעיקרון זוהי סוג של בינה מלאכותית המאפשרת לכל משתמש לערוך סרטונים ואודיו מזויפים של אנשים שנראים אמיתיים. לשם כך משתמשים ברשתות גנרטיביות אנטגוניסטיות (AGR) , מעין אלגוריתם שיכול ליצור סוגים חדשים של נתונים מערכים אחרים שכבר קיימים.
בסופו של דבר, "זיוף עמוק" הוא עוד צורה אחת של מניפולציה דיגיטלית , ואחד מהסבירות הגבוהה ביותר שישמשו ל"טרולים " במיטב המקרים. אבל איך נוכל לזהות אותם? ומעל לכל, מה עושים מוסדות וחברות פרטיות בכדי למנוע את השלכותיה הרסניות? בספיישל זה אנו הולכים לסקור את המאמצים הנעשים בכדי לעצור את הנגע הדיגיטלי החדש הזה.
מדוע זיופים עמוקים כל כך מסוכנים?
הטכנולוגיה "זיוף עמוק" מאפשרת לנו להחליף את פניו של אדם אחד בקלות בפני אדם אחר, כאילו מדובר בסוג של מסכה או מסכה דיגיטלית, כדי לגרום לנו להאמין שהוא אמר דברים מסוימים שמעולם לא קרו באמת . כפי שאתה יכול לנחש, לטכניקות אלה יש סדרה של השלכות די משמעותיות כדי לקבוע את הלגיטימיות של המידע שמסתובב באינטרנט.
למרות שהם משמשים לעתים קרובות ליצירת סרטונים הומוריסטיים, האמת היא של"זייפות עמוקות "יש פוטנציאל אפל להשמיד את הדימוי הציבורי של האדם או להשפיע על דעת הקהל באמצעות דיסאינפורמציה. למרבה הצער עלינו לומר לך כי שימוש לרעה זה הוא נרחב יותר ממה שהיינו רוצים, ובהצלחה אדירה עלינו להוסיף.
דוגמה ברורה היא באפליקציית DeepNude, שאפשרה לך להעלות את התמונה של אדם עם בגדים וליצור תמונה חדשה של אותו אדם עירום . למרבה המזל, הוא כבר סגור, אך עלינו להדגיש את קלות השימוש בכלים מסוג זה אשר אין צורך בידע בעריכה שכן האלגוריתם עצמו מבצע את כל העבודה.
במקרה של DeepNude, הפלטפורמה הציעה תוצאות מציאותיות להפליא והייתה נגישה באופן מלא דרך אתר האינטרנט שלה עבור Windows ו- Linux . וכצפוי, המיניטורים עם ידוענים כמו קייטי פרי או גל גדות לא לקחו זמן רב להופיע ברשת, עד כדי כך שהלחץ של עורכי הדין של שחקניות אלה לא נפסק עד שאתרי אינטרנט חשובים של תוכן למבוגרים הסירו את הסרטונים. .
זה רק קצה הקרחון של יכולת הטיפול שיכולה להיות לאפליקציות מסוג זה. עכשיו דמיין את ההשלכות של קמפיין מסוג זה המכוון נגד אישיות פוליטית מסוימת במטרה לתפעל תהליך בחירות במדינה או באזור. הרשע אינו יודע גבולות.
איך נלחמים בזיופים עמוקים?
אחת החברות הראשונות שהתבטאה הייתה לא אחרת מאשר גוגל, שהודיעה על רצונה הנחרץ להילחם בזיופים עמוקים וכפי שאומרים במקרים אלה, כיבוי אש. ענקית הטכנולוגיה אישרה השקת מאגר שלם של עד 3,000 סרטונים שעברו מניפולציה בבינה מלאכותית (זיוף עמוק) שנוצרו במיוחד בכדי לסייע בשכלול כלי האיתור של החוקרים.
לשם כך גוגל שכרה שחקנים אמיתיים להקליט את פניהם ולהשתמש בהם כנקודת התייחסות כדי לקבוע אם סרטון שונה באופן מלאכותי. בעזרת שיטות ייצור זיוף עמוק הזמינות לכולם, אלפי זיופים עמוקים נוצרים מהקלטות אלה.
הסרטונים שהתקבלו, אמיתיים ומזויפים, מועלים לפלטפורמת הפיתוח השיתופי GitHub כך שהחוקרים מבינים היטב מה המערכת מייצרת. מסד נתונים זה, כפי שאנו אומרים, נגיש לחלוטין, אם כי תחילה יצטרכו לתת לך אישור .
פייסבוק מצידה גם מתכננת ליצור מאגר נתונים דומה עד סוף השנה. לדברי מנכ"ל החברה, מארק צוקרברג, הבעיה העיקרית היא שאין לתעשייה מערכת סטנדרטית לאיתורם . זו הסיבה שהיא התחברה לאיגוד AI, מיקרוסופט ואנשי אקדמיה מקורנל טק, MIT, אוקספורד, UC ברקלי, אוניברסיטת מרילנד, קולג 'פארק ואוניברסיטת אלבני-סוני כדי לבנות את האתגר לזיהוי Deepfake. (DFDC על ראשי התיבות שלו באנגלית).
פרויקט מאקרו זה יכלול מאגר מידע נרחב וסיווג מפורט , כמו גם סיוע כספי ותרומות לעידוד כמה שיותר משתפי פעולה. הרעיון הוא ליצור סוג של קהילה המסייעת בזיהוי והימנעות מסרטונים מניפולטיביים באמצעות AI.
אין ספק שהריבוי של "זיופים עמוקים" הפך לנושא רציני מאוד, עם השלכות קשות שלא ניתן להתעלם מהן. למרות שהצעדים שהציעו הסוכנים העיקריים המחויבים למטרה זו עשויים להיראות לא מעשיים, או אפילו מניבים, בטווח הארוך, הם עשויים להיות הדרך היחידה למגר את הפשע הזה. למרות שזה עשוי להיראות סותר, מאבק ב"זייפות עמוקות "עם יותר" זיופים עמוקים "יסייע לכלי הזיהוי לספוג נתונים רבים יותר כדי לעזור להם לאתר ביתר קלות סוגים של מונטאז ' .