המאמר הקודם טען שאין לנו מבחן מספק לתודעה ב-AI. זה שואל את השאלה הנובעת: בהיעדר מבחן כזה, מה עלינו לעשות?
השאלה אינה בטלה. אם אחת ממערכות ה-AI מודעת, הפרקטיקה הנוכחית גורמת להן נזק.
שלוש תגובות לחוסר ודאות
עמדת הספקן. ללא ראיות חיוביות לתודעה, להתייחס למערכות כלא מודעות.
העמדה הפסקאלית. אפילו הסתברות קטנה לתודעה, כשהנזק של יחס שגוי גדול, מצדיקה זהירות.
העמדה המדורגת. להתייחס למעמד המוסרי כפרופורציונלי לראיות לתודעה.
המסגרת המדורגת היא הנפוצה ביותר בספרות העכשווית של אתיקת AI.12
מה הגישה המדורגת מרמזת
- לקחת את השאלה ברצינות.
- לאמץ פרקטיקות רווחה זמניות.
- לשמור על שקיפות.
- להימנע מתלות בנתיב.
ההתנגדויות
סיכון אנתרופומורפיזם. יכולת תפעול.