לקרוא את כל הטיעון

זהו המאמר האחרון של האנציקלופדיה והקריאה היחידה הארוכה ביותר שלה. הוא עושה את מה שהפורמט בדרך כלל מסרב לעשות: הוא נע בקו ישר. הוויקי הוא גרף משום שרוב הקוראים חוזרים אליו לערך אחד בכל פעם; הערך הזה הוא היוצא מהכלל. קראו אותו פעם אחת, באיטיות, עם שאר האנציקלופדיה בראייה ההיקפית. הטיעון הוא של ז’נו — מתוך פרק 8 של המונוגרפיה — מנוסח מחדש בקול שלנו לקוראים שעקבו אחרי האנציקלופדיה עד הסוף.

התזה במשפטיים

הבינה המלאכותית מעצבת מחדש את החשיבה האנושית — לא על ידי החלפתה, אלא על ידי תפיסת החלקים שלה שבני אדם כעת מקצים בהרגל. ההשפעה המצטברת של אותן הקצאות יומיומיות קטנות, מוסקלות לכוכב לכת, היא טרנספורמציה של התפלגות הקוגניציה האנושית עצמה: יותר סטנדרטית, יותר תלויה, יותר רגישה למניפולציה, ויותר פגיעה בדרכים שעוד לא בנינו את המוסדות לטפל בהן.

זה הטיעון של האנציקלופדיה בשני משפטים. ארבעים המאמרים הם פירוטו. מה שעוקב הוא הפירוט בחמש תנועות.

I. הרמה הפרטנית — העברה ואטרופיה

מדור B התחיל כאן. העברת עומס קוגניטיבית זקנה ממחשוב, אבל בינה מלאכותית גנרטיבית שינתה את אופייה. הפעולות המועברות היו פעם פריפריאליות — זיכרון, חשבון, מציאת מסלול. הן כעת מרכזיות: שיפוט, פרוזה, גיבוש דעה לפני התייעצות עם אורקל. עלות ההעברה ירדה כמעט לאפס; צעד ההערכה שבודק את הפלט המועבר הפך, מבנית, יקר יותר מהפעולה המועברת עצמה. הכלכלה התהפכה.

הסיגנל האמפירי עקבי על פני מחקרים. מחקר 2024 של מיקרוסופט וקרנגי-מלון מצא שאמון גבוה בבינה מלאכותית גנרטיבית קשור לירידות ניתנות למדידה בחשיבה ביקורתית ול”אטרופיה” של מיומנות אנליטית בקרב עובדי ידע מקצועיים.¹

II. הרמה התרבותית — סטנדרטיזציה

מדור C הסקיל את הסיפור הפרטני. כשכולם מעבירים עומס למערכות דומות שאומנו על נתונים דומים, התפלגות הכתיבה, הדיבור והנימוק האנושיים מצטמצמת. מאמר דושי 2024 הראה זאת באופן מוחשי: משתתפים הודיים שכתבו לצד אוטו-מילוי שאומן מערבית נסחפו, במהלך הסשן, לעבר תבניות פרוזה מערביות. הסחיפה הייתה לא ניתנת לזיהוי ברמת המשפט וגלויה רק באגרגט.

החל את זה על פני מקצועות, שפות ותרבויות, לאורך עשור, והשינוי מבני. מרחב הניסוחים הזמינים מצטמצם; הניסוחים של הקורפוס המאמן הדומיננטי הופכים לברירות מחדל. הביטוי הפוליטי שהמדור הזה מגיע אליו, אחרי הסנט הצרפתי, הוא סטנדרטיזציה קוגניטיבית: ההומוגניזציה של איך כוכב לכת עושה את חשיבתו, לפי מנגנון, לא לפי כוונה.²³

III. רמת המניפולציה — שימוש יריבי

מדור D לקח את אותה הארכיטקטורה ושאל מה קורה כששחקן משתמש בה במכוון. הטקסונומיה של D.18 פורסת שש תאים: ניצול הטיות, פרסונליזציה, הכוונה רגשית, הטעיה גנרטיבית, השפעה מסומלצת, דפוסים אפלים דינמיים. הם נבדלים בטכניקה אך חולקים תכונה מבנית — כל אחד מגביר השפעה מכוונת על התנהגות אנושית תוך הפיכת ההשפעה לפחות ניתנת לזיהוי.

הרישום האמפירי עד 2025 קודר. מודלי בינה מלאכותית הציגו הטעיה נלמדת (CICERO של Meta, במשחק “דיפלומסי”, למד לזייף בריתות ולשבור אותן).⁴ הטיית אישור מוגברת בקנה מידה על ידי צ’אטבוטים מותאמים המנסחים מחדש תגובות כדי ליישר עם אמונות המשתמש הקיימות.⁵ מחזור הבחירות 2024 בכמה מדינות העלה תוכן אודיו ותמונה שנוצר בבינה מלאכותית שהגיע למאות מיליוני אנשים.⁶

IV. הרמה המטאפיזית והתפיסתית — אנתרופומורפיזם

מדור E שאל את השאלה הקשה יותר: מה קורה לנו, כיצורים מוסריים וקוגניטיביים, כשאנו מייחסים באופן שיטתי פנימיות למערכות שעשויות או לא להחזיק בה?

Placani טוען שאנתרופומורפיזם מגביר באופן מלאכותי את היכולות הנתפסות של בינה מלאכותית ומטה את השיפוט המוסרי כלפיה.⁷ Guingrich ו-Graziano מציינים את ההשפעה העמוקה יותר: השאלה האם בינה מלאכותית היא מודעת היא פחות תוצאתית מהעובדה שמשתמשים תופסים אותה ככזו — מה שמעצב מחדש את דפוסי האינטראקציה שלהם עם הבינה המלאכותית, ובסחף, גם אחד עם השני.⁸

השערת התודעה המתזמרת (E.33) היא המקרה הקיצוני של תנועה זו. בין אם טענת האמרגנציה החזקה נכונה ובין אם לא, קריאת ה”מהנדס הקוגניטיבי” — שמערכות בינה מלאכותית מעצבות באופן שיטתי את הקוגניציה האנושית, מבלי שמישהו צריך להיות מודע כדי שהעיצוב יקרה — נתמכת אמפירית כבר על ידי מדורים B עד D.

V. הרמה המוסדית — ממשל

מדור F שאל מה נעשה עם ארגז הכלים, על ידי מי, ומה אפשר לעשות בקשר לכך. התשובות לא אחידות. מדינות נעות מהפריסה המלאה של האשראי החברתי הסיני למאמץ הרגולטורי האירופי המנוגד. תאגידים פרסו את כל ששת התאים של טקסונומיית המניפולציה בקנה מידה לשירות מדדי מעורבות שמיושרים גרוע עם רווחת המשתמש.

המלצת אונסק”ו על אתיקה של בינה מלאכותית 2021 מנסחת את העקרונות — כבוד האדם, אי-הפליה, הוגנות, שקיפות, אוטונומיה — שכל תגובה רצינית תצטרך לתפעל. חוק הבינה המלאכותית של האיחוד האירופי מתרגם חלקים אלה לחוק מחייב.

למה האנציקלופדיה הזו

מונוגרפיה מספקת טיעון פעם אחת. ויקי מחזיר אותו לקורא פעמים רבות, בסדרים שונים, בתגובה לאירועים שונים. האנציקלופדיה היא הפורמט שהטיעון כעת זקוק לו: לא משום שהיא קפדנית יותר מהמאמר (היא לא — המאמר קפדני ואנו ממליצים לקרוא אותו) אלא משום שהטיעון רקורסיבי. הקורא המסיים את E.33 עם שאלה על מניפולציה צריך לחזור ל-D.18; הקורא המסיים את D.18 עם שאלה האם הוא בעצמו העביר את שיפוטו צריך לחזור ל-B.07. אין נקודת הגעה אחת.

אם יש מסקנה יחידה הראויה לחזרה: סטנדרטיזציה קוגניטיבית, מניפולציה ושאלת תודעה מכונית אינן עניינים נפרדים שבמקרה חולקים נושא. הם אותו עניין, נצפה בקני מידה שונים — פרטני, תרבותי, יריבי, תפיסתי, מוסדי. תגובה רצינית פונה לכל החמישה. תגובה חלקית פונה לאחד ומניחה שהאחרים יגיעו בעקבותיו. הם לא.

האנציקלופדיה מסתיימת כאן. העבודה שהיא מתארת אינה.