עיפרון ונייר הם העברת עומס קוגניטיבית. כך גם מחשבון, יומן, קשר על ממחטה. המעשה זקן יותר מהכתב: בני האדם תמיד דחפו חלקים של החשיבה שלהם החוצה לעולם, כדי שהעולם יחזיק את מה שהתודעה הייתה צריכה אחרת להחזיק. מה שמשתנה עם הבינה המלאכותית הוא הסוג של חשיבה שאנו מעבירים, השטף של בן-הזוג המקבל, והתדירות שבה אנו עושים זאת.
הגדרה עובדת
העברת עומס קוגניטיבית היא הקצאה מכוונת או רגילה של פעולה מנטלית למשהו מחוץ לראש. הפעולה יכולה להיות אחסון (לרשום מה שלא רוצים לשכוח), חשבון (מחשבון), ניווט (GPS), או — חדש — טיוטת פרוזה, סינתזת קוד, שיפוט תחת אי-ודאות (מודל שפה גדול). בן-הזוג המקבל יכול להיות כלי, פריט כתוב, אדם אחר, או עכשיו מכונה המייצרת טקסט שוטף לפי דרישה.
ריסקו וגילברט בסקירתם משנת 2016 מתייחסים להעברת עומס כאחת האסטרטגיות האדפטיביות הבסיסיות של הקוגניציה — לא כשל, אלא כתכונה.1 הזיכרון הפעיל קטן; העולם גדול; אנחנו נבונים שמשתמשים בעולם.
אפקט גוגל ומה שלמדנו ממנו
ב-2011, ספארו ועמיתיו הראו שכאשר משתתפים ידעו שהמידע יישמר, הם זכרו את המיקום של המידע ולא את המידע עצמו.2 הביטוי שנטבע לכך — “אפקט גוגל” — החליק לתוך השפה היומיומית. הוא מציין מהפך אמיתי: האינטרנט שינה לא האם אנשים זוכרים, אלא מה הם זוכרים. יחידת הזיכרון נדדה מהעובדה לכתובת.
אפקט גוגל הוא מקרה פרטי של זיכרון טרנזקטיבי — הרעיון של דניאל וגנר משנת 1987 שזוגות וקבוצות קטנות מחלקים את משימת הזכירה בין החברים, כשכל אחד מכיר שאפשר להסתמך על חברי הקבוצה האחרים בנוגע למידע שלא שמר. זוגות שיחד עשרות שנים מציגים גרסה מפורסמת: היא זוכרת שמות; הוא זוכר תאריכים. אפקט גוגל הפך את האינטרנט לבן-זוג טרנזקטיבי. בינה מלאכותית גנרטיבית הופכת אותו לשוטף.
מה משתנה עם בן-זוג שוטף
עיפרון ונייר מעבירים רק את מה שכתבת. מנוע חיפוש מעביר אחזור אך משאיר לך להעריך תוצאות. מודל שפה גדול מעביר משהו שונה: ייצור של הסקה, פרוזה ושיפוט בצורה שנראית כאילו כבר הוערכה.
שני תוצאות נובעות. ראשית, עלות ההעברה יורדת לכמעט אפס — אין תעתיק, אין ניסוח שאילתה, אין סריקת תוצאות. החיכוך היה בלם; הבלם הוסר. שנית, צעד ההערכה — בדיקה של מה שבן-הזוג החזיר — דורש כעת יותר מאמץ מהפעולה המועברת עצמה, מכיוון שלהעריך פסקה של פרוזה משכנעת קשה יותר מלהעריך רשימת תוצאות חיפוש. הכלכלה מתהפכת.
זוהי הסיבה המבנית שהעברת עומס בעידן הבינה המלאכותית אינה רק יותר מאותו דבר. עם עיפרון ונייר אתם מעבירים עומס כדי לשמור על תודעתכם פנויה לבעיה הקשה יותר. עם בן-זוג שוטף אתם יכולים להעביר את הבעיה הקשה יותר עצמה.
”השתמש בזה או תאבד זאת”
ריסקו וגילברט ציינו שהעברת עומס “יכולה גם להוביל לירידה במעורבות הקוגניטיבית ובפיתוח מיומנויות” אם היא הופכת מוגזמת.1 לביטוי יש את צורת אמרת-עם מסיבה — המנגנון הבסיסי גנרי. מיומנויות שלא מאומנות נחלשות. הספרות הרפואית על אטרופיה משימוש-לא-נכון בשרירים אינה מטאפורה למה שקורה למיומנויות מנטליות מוזנחות; זוהי תופעה מאותו סוג בשכבה אחרת של הגוף.
השאלה האמפירית היא האם המיומנויות המנטליות שמעבירות הבינה המלאכותית עמידות מספיק כדי לשרוד אי-שימוש חלקי. חלקן בוודאי כן: חשבון שרד מחשבונים; איות צולע עם תיקון אוטומטי. אחרות אולי לא. היכולת לגבש עמדה לפני התייעצות עם אורקל — לייצר טיוטת טיעון מהחומרים שלך לפני ששואלים מה המודל חושב — היא מיומנות, וכמו כל מיומנות אפשר לאבדה דרך אי-תרגול.
לולאת האמון
ככל שמשתמשת מאמינה יותר לבינה מלאכותית, כך פחות היא בודקת את התפוקה שלה, וכך יותר היא מקצה בפעם הבאה.1 זוהי לולאה, ולולאות מצטברות. מחקרים אחרונים בכיתה מדווחים על הצורה החזויה: סטודנטים המדרגים בן-זוג בינה מלאכותית כאמין משקיעים פחות באימות מקורות, מה שעם הזמן מקלקל את עצם המיומנויות המעריכות שיאפשרו להם לגלות מתי בן-הזוג טועה.1
מילה קטנה ומכוערת לשיווי המשקל שלולאה זו נוטה אליו היא תלות קוגניטיבית — מצב שבו המשתמשת לא יכולה עוד לבצע את הפעולה המועברת ללא בן-הזוג, ולא יכולה לזהות מתי בן-הזוג טועה. המצב אינו חדש בהיסטוריה האנושית. מה שחדש הוא היקפו.
תכנון להעברה שניתן לחזור ממנה
קריאה פסימית של כל זה היא שכלי בינה מלאכותית צריכים להיות מתוכננים עם “חיכוך” — מכשולים קטנים המאלצים את המשתמש לעסוק. קריאה אופטימית היא שהכלים צריכים להיות מתוכננים לקריאות: בן-הזוג מראה את עבודתו, המשתמש יכול לחזור ללולאה בכל רגע, וצעד ההערכה נתמך במקום ננטש. שתי הקריאות אינן מנוגדות. שתיהן שואלות את אותה שאלה: באילו מיומנויות אנו רוצים להמשיך להשתמש, ומה זה יעלה להמשיך להשתמש בהן?
השאלה הזו, נשאלת ברצינות, היא הקשה. העברת עומס קוגניטיבית אינה כישלון מוסרי או הכרח טכני. זו החלטת תכנון, מקבלת פעמים רבות ביום, בעיקר בלי לשים לב. תפקיד ערך אנציקלופדי הוא להפוך את ההחלטה לנראית.