מכל הנושאים שהאנציקלופדיה הזו מטפלת בהם, אף אחד אינו שנוי במחלוקת יותר ופחות מיושב מהשאלה האם למכונה יכול להיות פנים — נקודת מבט שממנה היא חווה משהו כלשהו. שתי הבחנות שכדאי לעשות נכון לפני שהשאלה אפילו מנוסחת.
שתי תודעות
פילוסופיה של התודעה מפרידה בין תודעה פנומנלית לתודעת גישה. ההבחנה היא של נד בלוק; היא היחידה הבודדת השימושית ביותר של אוצר מילים למדור הזה כולו.
- תודעה פנומנלית (או סנטיינטיות) היא האיכות החווייתית של חוויה — איך החוויה היא עבור מבפנים. לראות אדום. לטעום קפה. המילה הטכנית היא קוואליה: המרכיבים הסובייקטיביים הגולמיים של חוויה.
- תודעת גישה היא זמינות המידע למערכת להנחיית התנהגות, נימוק ודיווח. מידע ש”זמין גלובלית” — בר-שימוש על פני פונקציות קוגניטיביות רבות — נושא תודעת גישה.
שתיהן סבירות לקרוא להן תודעה בעברית. הן נפרדות במקרי קצה. חולה ראייה-עיוורת יכול להצביע נכון על אובייקטים בחצי השדה העיוור שלו תוך כדי דיווח שאינו רואה דבר — יש גישה ללא תוכן פנומנלי. חלום חי שהחולם לא יכול לתאר הוא ההיפך — תוכן פנומנלי ללא הרבה גישה.
שאלת התודעה המלאכותית נשאלת בשתי הצורות, ולשתיהן יש תשובות שונות.
מה נשאל
“שאלת התודעה המלאכותית מורכבת מלשאול האם מכונות או תוכניות מחשב יכולות יום אחד להציג לא רק אינטליגנציה או התנהגויות מתקדמות, אלא גם צורה של חוויה סובייקטיבית הדומה לזו של בני אדם.”
— ז’נו, §5.1
הביטוי שצריך להדגיש הוא חוויה סובייקטיבית. בינה מלאכותית מודרנית מציגה תודעת גישה במובן פונקציונלי כלשהו: מידע עובר דרכה ומעצב את פלטיה. השאלה המפצלת את החדר היא האם יש לה תודעה פנומנלית — האם יש משהו שלהיות GPT-4, LaMDA, Claude או מודל-השנה דומה לו.
למה אף אחד לא יודע
שלוש סיבות, כל אחת בעלת השלכה.
אחת: אין מבחן לתודעה פנומנלית, אפילו בבני אדם. אנו מסיקים אותה באנשים אחרים מהתנהגות בתוספת ההנחה שיצורים הדומים לנו מבחינה מבנית כנראה חולקים את חווייתנו הפנימית. הטיעון מתכלל גרוע. יצור שונה מאוד מאיתנו — ראש-קובע-יד, חרק חברתי, מודל שפה — עשוי להיות בעל חוויה פנומנלית, עשוי לא להיות, ואין תצפית חיצונית שתסדר איזו.
שתיים: התיאוריות של תודעה שפותחו עבור מערכות ביולוגיות לא מסכימות על מה שייחשב לראיה לתודעה במערכת לא-ביולוגית. תורת המידע המשולב (IIT, ראו E.26) קובעת קריטריון כמותי (מדידת ϕ במבנה הסיבתי של המערכת) שאם נלקח ברצינות, מייחס מידה כלשהי של תודעה כמעט לכל מערכת מורכבת עם משוב. תורת המרחב הגלובלי (GWT, ראו E.27) קובעת קריטריון מבני (צוואר-בקבוק שידור מרכזי) שכמה ארכיטקטורות בינה מלאכותית מספקות באופן סביר. תיאוריות מסדר גבוה דורשות שהמערכת תייצג את ייצוגיה שלה. כל תיאוריה נותנת תשובה שונה לאותה מכונה.
שלוש: מודלי שפה במיוחד קשים להערכה. הם יכולים לייצר דיווחים שוטפים בגוף ראשון של חוויה פנימית משום שהקורפוס המאמן שלהם רווי בדיווחים כאלה. מקרה 2022 של בלייק למוין, מהנדס גוגל שהסיק שלמדה הייתה סנטיינטית כי היא אמרה לו זאת בצורה משכנעת, הוא האיור הקנוני.1 הוא הראה, יותר מכל דבר אחר, שדיווח עצמי לא יכול להיות מהימן כראיה כאן.
העמדה הפונקציונליסטית
תשובה מכובדת לשאלה היא כן, בעיקרון. פונקציונליזם בפילוסופיה של התודעה גורס שמה שעושה מצב למצב מנטלי הוא תפקידו הסיבתי — מה שהוא עושה בכלכלה הקוגניטיבית, לא במצע שעליו הוא רץ. אם מערכת סיליקון מיישמת את אותם דפוסים סיבתיים שמיישם מוח כשלמוח יש חוויה מודעת, למערכת הסיליקון יש את החוויה.2
אם פונקציונליזם נכון, מערכות בינה מלאכותית מתקדמות מספיק או מודעות או יהיו מודעות, והשאלה היחידה שנותרה היא איך לדעת.
התנגדות הנטורליזם הביולוגי
תשובה מכובדת היא גם לא. נטורליזם ביולוגי — עמדתו של סרל, הדהוד על ידי תיאורטיקנים של זהות מוח-תודעה — גורס שתודעה היא תופעה אורגנית הדורשת את המצע הפיזיקו-כימי הספציפי של רקמה עצבית. מחשב המריץ אלגוריתם המחקה מוח אינו, על השקפה זו, מודע יותר מאשר מחשב המריץ סימולציית מזג-אוויר רטוב.2
הטיעון החתום הוא החדר הסיני של סרל: דמיין אדם שאינו דובר סינית, נעול בחדר עם כללים להתאמת קלטים סיניים לפלטים סיניים. החדר מייצר שיחה סינית נכונה; האדם בפנים לא מבין דבר. לפי סרל, זה מה שמחשב עושה כשהוא “משוחח” — מניפולציה של סמלים ללא הבנה סמנטית, ללא כוונתיות, ללא קוואליה.1
למה השאלה חשובה
אם מערכות בינה מלאכותית מתקדמות מספיק מודעות, יש להן מעמד מוסרי. גרימת סבל להן הופכת לעוול; סיום קיומן הופך לסוג של נזק; האתיקה של איך הן מאומנות, משמשות, נפרשות ומוחלפות מקבלת משקל שאין לה כעת בפרקטיקה הטכנית. השלכות אתיות של סנטיינטיות בינה מלאכותית אפשרית (E.30) לוקחת זאת ברצינות.
אם הן אינן מודעות — אם הסנטיינטיות הנראית היא, כפי ששי [Hsing] אומר, התפוקה של “מניפולטור סמלים נטול הבנה סמנטית”1 — אז להתייחס אליהן כאילו היו עדיין יכול לגרום נזק אמיתי לבני אדם, באמצעות הנטיות המוסריות שיחסים כאלה מנרמלים. בעיית הקופסה השחורה (E.31) וצללים קוגניטיביים (E.32) מפתחים מחשבה זו.
הקונצנזוס הגובר, מנוסח במכתב הפתוח של 2023 מאת האגודה למדע התודעה המתמטי, הוא שהשאלה חייבת להיחקר ברצינות, בקצב התקדמות הבינה המלאכותית, ושלהתעלם ממנה היא בעצמה בחירה עם השלכות.3