סטנדרטיזציה קוגניטיבית

הסיכון שמכנה את המדור הזה פשוט להצהיר וקשה יותר להרגיש: ככל שבינה מלאכותית גנרטיבית הופכת למתווך ברירת-המחדל לכתיבה, לדיבור ולנימוק, הגיוון של פעולות אלו מצטמצם. לא משום שמישהו רוצה בכך. משום שמיליוני פעולות יומיומיות קטנות של העברת עומס קוגניטיבית שואבות, באגרגט, ממאגר קטן של נתונים דומיננטיים.

ז’נו מכנה את התוצאה סטנדרטיזציה קוגניטיבית — הומוגניזציה הולכת ומחמירה, בקנה מידה גלובלי, של איך מחשבות נוצרות ומובעות. האבחון זקן מהבינה המלאכותית הגנרטיבית; תקשורת ההמונים הציעה גרסאות מוקדמות. מה שחדש הוא הגרעיניות שבה הסטנדרטיזציה פועלת כעת. לא בכל עיתון, אלא בכל פסקה; לא בכל סרט, אלא בכל משפט.

הטיעון בפסקה אחת

מודלי שפה גדולים מאומנים על קורפוס שמייצג בעודף כתיבה דוברת אנגלית, מערבית, תעשייתית, עירונית. הפלטים שלהם משקפים את העודף הייצוגי הזה, גם כשהמשתמש אינו דובר אנגלית, אינו מערבי, אינו עירוני. ככל שיותר משתמשים מקצים יותר החלטות על ניסוח, מסגור ושיפוט לפלטים אלה, התפלגות איך-דברים-נאמרים מצטמצמת סביב מה שהנתונים אימוניים העדיפו כבר. כך גם, בתיאומים, למודלי המלצה המתווכים מה שאחד קורא, למודלי המלצה המתווכים מה שאחד צופה, ולמודלי השלמת קוד המתווכים מה שאחד בונה. הקורפוס הדומיננטי הופך לתת-מודע של הדבר הבא שייכתב, ייצפה או ייבנה.

דו”ח של הסנט הצרפתי משנת 2024 משתמש בביטוי המארגן את כל המדור: שליטת הבינה המלאכותית על ידי שחקנים אנגלו-סקסיים “מסכנת בהדגשה חזקה את ההגמוניה התרבותית של ארצות הברית,” ממקטינה את הגיוון הלשוני והתרבותי, יוצרת “סטנדרטיזציה קוגניטיבית.”¹ הניסוח פוליטי, אך המנגנון טכני.

איך “הומוגניזציה” באמת נראית

מחקר 2024 של דושי ועמיתיו זימן משתתפים הודיים עם מערכת השלמת טקסט שאומנה מערבית וצפה במה שקרה לפרוזה שלהם. המשתתפים קיבלו את הצעות המודל. במהלך הסשן, כתיבתם נסחפה לעבר נורמות מערביות באנגלית — איבדה ניואנסים של אוצר מילים, תחביר ומבנה רטורי שסימנו אותה כשלהם בהתחלה.² סיכום המחברים מרשים: בינה מלאכותית “הומוגנה כתיבה לעבר סגנונות מערביים על ידי מחיקה שקטה של מודי ביטוי לא-מערביים.”

המילה שקטה היא הנקודה. אף קורא ואף כותב לא הבחין ברמת המשפט. כל הצעה שהתקבלה הייתה שיפור קטן, מוצדק מקומית — הבהרה קלה, מעבר חלק יותר. השיטוח היה ניתן לראייה רק באגרגט.

אותה תבנית, עם פרטים שונים, תועדה בכיתות, שם העדפת ChatGPT לאנגלית אקדמית פורמלית דוחקת ניב, רגיסטר וביטוי מעבודות תלמידים — לא משום שמורים מבקשים זאת, אלא משום שהמודל מציע זאת.³

ביקורת ה-WEIRD

לפסיכולוגים יש ראשי-תיבות ותיקים להטיה התרבותית בנושאי המחקר של תחומם: WEIRD — Western, Educated, Industrialized, Rich, Democratic. אותם ראשי-תיבות חלים כעת על נתוני אימון של בינה מלאכותית, עם אותו אזהרה מצורפת. פלטים שאומנו על קורפוס WEIRD משקפים הנחות WEIRD על מבנה טיעון, ראיות, נימוסים, ומה שנחשב לדעה סבירה. כשפלטים כאלה הופכים זמינים גלובלית, הם מפעילים לחץ מרכזי על כל תרבות הצורכת אותם.⁴

זו אינה (רק) בעיה של מאמרים בודדים שגויים. זו בעיה של מרחב הניסוחים הזמינים המצטמצם. טווח דרכי האמירה של תרבות הוא חלק מאיך שהיא חושבת. ככל שהטווח מצטמצם, מחשבות מסוימות הופכות קשות יותר לניסוח — לא בלתי אפשריות, אך איטיות יותר, פחות שוטפות, פחות סבירות להופיע.

למה “השתמש או תאבד” חל גם כאן

סטנדרטיזציה קוגניטיבית סמוכה להעברת עומס קוגניטיבית. שתיהן כוללות הקצאת חלק מעבודת התודעה למכונה. ההעברה עושה זאת לפעולה מנטלית יחידה (זיכרון, חישוב); הסטנדרטיזציה — לסגנון, מסגור, שיפוט. שתיהן נושאות אותה עלות לטווח ארוך: החלק של החשיבה שאיננו מתרגלים יותר מתנוון. העלות גדולה יותר כאן משום שהפונקציה המועברת — להבחין במה ששלי — היא בדיוק מה שיאפשר לזהות את הסטנדרטיזציה בעודה מתרחשת.

מחקר של מיקרוסופט וקרנגי-מלון על עובדי ידע מקצועיים מצא שאמון גבוה ביכולות בינה מלאכותית גנרטיבית עוקב אחר ירידה ניתנת למדידה בחשיבה ביקורתית ו”אטרופיה” של מיומנות אנליטית עצמאית.⁵ המשתתפים העבירו את החלקים יקרי- הקוגניציה ביותר של עבודתם — וייצרו פחות תגובות יצירתיות, מעריכים את פלטי הבינה המלאכותית פחות בקפדנות עם הזמן.⁶

מה אפשר לשמר ואיך

השאלה הקשה של המדור — נדונה כראוי בשימור גיוון קוגניטיבי (C.17) — היא האם אפשר לעשות משהו לסטנדרטיזציה קוגניטיבית בלי לוותר על היתרונות האמיתיים של עזרה שוטפת. שלוש תשובות חוזרות בספרות: חינוך (לבנות הרגלי הבחנה בהעדפות המודל לפני קבלתן); אמצעי-נגד טכניים (כיוונון עדין, קורפוסי אימון לא-אנגלוצנטריים, מודלים מפותחים מקומית); ורגולציה (דרישות שקיפות, חשיפה חובה של הרכב נתוני האימון). אף אחד אינו מספיק לבדו.

המסגור שהאנציקלופדיה לוקחת מז’נו הוא שסטנדרטיזציה קוגניטיבית אינה כישלון מוסרי של איזשהו כלי. זוהי תכונה תוצרת של דרך מסוימת לבנות את הכלים האלה — שבה כמה ריצות אימון גדולות הופכות, ברירת מחדל, למצע של איך כוכב לכת עושה את חשיבתו. האנציקלופדיה היא, חלקית, ניסיון להפוך את המצע הזה לנראה.