לפסיכולוגיה יש את בעיית WEIRD שלה כבר דור. המונח, מעבודה משנת 2010, מצביע שרוב המחקרים הפסיכולוגיים מנוהלים על נושאים מערביים, משכילים, תעשייתיים, עשירים ודמוקרטיים. הספרות על קורפוסי אימון של AI אימצה את אותם ראשי התיבות מאותה סיבה. WEIRD-AI.
איך נראית ההטיה
לשונית. קורפוס האימון אנגלי באופן מכריע.
תרבותית. מבנים של טיעון, נורמות אטיקט, דוגמאות וברירות מחדל סבירות משקפות את הרגיסטר המערבי האקדמי-תאגידי.
אפיסטמית. מה שהמודל מתייחס אליו כ”סביר” משקף את מה שקורפוס האימון מתייחס אליו כסביר.
למה ההטיה מבנית
זמינות נתונים. הקורפוס משקף את מה שדיגיטלי, מקוון.
אותות אופטימיזציה. האותות מגיעים מפרשנים דוברי אנגלית.
כובד כלכלי. הלקוחות הגדולים ביותר הם מערביים.
מה אפשר לעשות
מודלים שפותחו מקומית. המאמץ הצרפתי של Mistral, AI21 בעברית, BLOOM המולטילינגאלי.
פלורליזם בהערכה. סוויטות בנצ’מרק רב-לשוניות.
הכשרת מודעות. ללמד משתמשים שלמודל יש משתמש ברירת מחדל, ושייתכן שהם לא הוא.