טקסונומיה של מניפולציית בינה מלאכותית

המילה מניפולציה יושבת באי-נוחות בכתיבה טכנית. היא נושאת האשמה; היא מרמזת על שחקן עם כוונה. בהקשר של בינה מלאכותית, השחקן הוא לפעמים אדם, לפעמים חברה, לפעמים מודל, ולפעמים שום דבר זיהוי — אפקט תוצרת של אופטימיזציה למעורבות. הטקסונומיה של ז’נו ב-§4.2 עושה את העבודה השימושית של הפרדת טכניקה מכוונה, כך שאותה מפה יכולה לתאר גם פעולת תעמולה גלויה וגם ממליץ ממקסם- תשומת-לב ש”רק” מקדם את מה שמעורר את התגובה החזקה ביותר.

מה שעוקב היא הטקסונומיה הזו, מצומצמת. שישה תאים. רוב המקרים האמיתיים משלבים יותר מאחד.

I. ניצול הטיות קוגניטיביות (היפר-נדג’ים)

הטכניקה: לזהות הטיה פסיכולוגית ידועה במשתמש ספציפי ולהציג חומר שמנצל אותה. תפריט ההטיות ממופה היטב — confirmation bias, anchoring, availability, loss aversion, אפקט המסגור — ובינה מלאכותית מביאה שני מרכיבים חדשים. זיהוי בקנה מידה: מערכת המלצה יכולה להסיק את ההטיות שלך מהיסטוריית הקליקים שלך, מהר ומדויק יותר ממה שתודה בהן. מסירה מותאמת אישית: אותו רעיון יכול להיארז בשש דרכים, והמערכת מגישה לך את זו שפרופיל ההטיה שלך מנבא שתקבל.

הביטוי העכשווי הוא היפר-נדג’: דחיפה מותאמת למשתמש בודד, בזמן אמת, על ידי מערכת שמכירה אותו טוב יותר ממה שהוא מכיר את עצמו.

II. פרסונליזציה אלגוריתמית (סינון מותאם אישית)

הטכניקה: לבחור מה כל משתמש רואה ממאגר תוכן בלתי-סופי ביעילות, על ידי התייחסות למודל של העדפותיו. נעשה היטב, זה מועיל — סרטים מומלצים, תוצאות חיפוש מותאמות, תיבת דואר ממוינת לפי רלוונטיות. נעשה בקנה מידה, עם מעורבות כמדד, זה מייצר בועות סינון: כל משתמש מוקף בתוכן המחזק את מה שהוא כבר מעדיף לחשוב, מבודד מטיעונים שיהיו מטרידים אותו.

פאריזר נתן שם לבועה ב-2011. עשור וחצי מאוחר יותר, התופעה מתועדת על פני פלטפורמות, מחקרים ממומנים היטב מדדו אותה, ורוב האנשים מאמינים שהם חסינים. החלק השלישי הוא בעצמו הטיה, מנוצלת על ידי הראשון.

III. מניפולציה רגשית (תוכן אפקטיבי)

הטכניקה: לתזמן ולכוון את התוכן למצב הרגשי של המשתמש, באמצעות רגש כמכפיל לתשומת לב. אלגוריתמים מגבירים באופן אמין חומר מפלג, מעורר חרדה או כעס משום שחומר כזה מניע מעורבות; משתמשים חוזרים לאפליקציות שנתנו להם רגשות חזקים גם אם אלה היו לא נעימים. צורה עדינה יותר: הצעות מסחריות בזמני פגיעות רגשית — פרסומת לג’אנק פוד למשתמש שדפוס ההקלדה שלו מצביע על דיכאון; הלוואה בריבית גבוהה למשתמש שמיקומו מצביע על משבר עד יום-המשכורת.

IV. דיסאינפורמציה אוטומטית (בינה מלאכותית גנרטיבית)

הטכניקה: לייצר תוכן מזויף משכנע — טקסט, תמונה, אודיו, וידיאו — בנפח ובאיכות המכריעים את יכולת המקבל לאמת. שני זרמים חשובים יותר.

טקסט: מודלי שפה גדולים מייצרים פרוזה שוטפת בעלות שולית כמעט-אפסית, מה שכבר ארגן מחדש את כלכלת ייצור הפייק-ניוז. מפעיל בודד יכול להריץ כלי תקשורת שלפני עשרים שנה דרש מערכת מעיתונאים.

אודיו-ויזואלי (דיפ-פייקים): החלפות פנים, שכפולי קול, וידיאו מומצא. עד 2024, הסף הטכני לזיופים משכנעים ירד לחומרת צרכן. הדיפ-פייק מ-2024 בניו המפשיר של הודעת קולית מ”הנשיא ביידן” — שדחפה בוחרים דמוקרטיים לדלג על הפריימריס — נוצר על ידי יועץ כדי להדגים את הסכנה והוא הדוגמה הקנונית. התקפה אמיתית לא תכריז על עצמה.

V. השפעה חברתית מסומלצת (בוטים וסוכנים מזויפים)

הטכניקה: להציג חשבונות מבוקרי-בינה כמשתמשים אמיתיים, לייצר מראית קונצנזוס. המנגנון ישן (קלאקות, אנשי-קש, ביקורות בתשלום); בינה מלאכותית מקנה לו קנה מידה. מפעיל בודד יכול להריץ אלפי דמויות נבדלות, לכל אחת היסטוריית פוסטים משכנעת, כל אחת מסוגלת לקיים שיחות משכנעות.

VI. עיצוב משכנע (דפוסים אפלים דינמיים)

הטכניקה: ממשק המשתמש עצמו מעוצב מחדש, בזמן אמת, כדי לדחוף לפעולות מסוימות. דפוסים אפלים — שמה של ספרות העיצוב לבחירות ממשק מטעות במכוון — הופכים דינמיים כשבינה מלאכותית מכוונת אותם לכל משתמש.

דוגמה מעובדת מסאסר ועמיתיו: אתר מסחר אלקטרוני שמעלה את המחיר המוצג כשסוללת הטלפון של הקונה נמוכה, על המודל שמשתמשים עם סוללה נמוכה לחוצים יותר בזמן ופחות סבירים לערוך השוואת קניות.¹

החוט המשותף

שש התאים חולקים תכונה מבנית: הם מגבירים השפעה מכוונת על התנהגות אנושית תוך הפיכת ההשפעה לפחות ניתנת לזיהוי. המילה הקריטית היא ניתנת לזיהוי. אף אחת מהטכניקות הללו אינה חסרת תקדים בסוגה. מה שחסר תקדים הוא האסימטריה בין מודעות היצרן למניפולציה לזו של היעד. תעמולה לפני בינה מלאכותית הניחה קהל ערני ועבדה בכל זאת. מניפולציה בעידן הבינה המלאכותית מניחה שהקהל לא יכול לראותה כלל.