דיפ-פייקים

המילה דיפ-פייק היא קיצור של “deep learning” ו”fake”. מכסה משפחה של טכניקות — החלפת פנים, שיבוט קול, דימויים סינתטיים מלאים — שבהן חומר אודיו-ויזואלי יכול להיות מזויף באיכות מספקת לרמייה. עד 2024, הסף הטכני לזיופים משכנעים ירד לחומרת צרכן.

שני אירועים

סרטון זלנסקי 2022. בשבועות הראשונים של מלחמת רוסיה-אוקראינה, סרטון מזויף הופיע על אתרי תקשורת אוקראיניים פרוצים, מציג את הנשיא זלנסקי דורש מהכוחות האוקראיניים להניח את נשקם. הזיוף לא היה משכנע וזוהה תוך שעות.

הודעה קולית של ביידן בניו המפשייר 2024. בימים לפני פריימריס דמוקרטי, מצביעים קיבלו טלפון רובוטי בקול שלא ניתן להבחין מהקול של הנשיא ביידן, דורש ממצביעים דמוקרטיים לדלג על הפריימריס.

מה משתנה כשזיופים נעשים זולים

נטל ההוכחה על תוכן אמיתי.

דיבידנד השקרן. מונחם של צ’סני וציטרון.¹

עלויות אמון רוחביות.

גילוי ומקור

גילוי. לאמן מסווגים. עובד עבור זיופים מהדור הנוכחי, נכשל עבור הבא.

מקור. יוזמת אותנטיות התוכן ותקן C2PA.

מה אפשר לעשות פוליטית

• להפליל מקרי שימוש לרעה ספציפיים.
• לחייב חשיפה.
• לחזק מערכות זהות מאומתת.
• לחנך.