זוהי המילה האחרונה של האנציקלופדיה על תודעה והצעד הראשון אל שאלות המדיניות של מדור F. ז’נו ב-§6.5 מציע:
נניח שאנו דוחים את שאלת התודעה. ללא תלות בשאלה אם מערכת AI כלשהי מודעת פנומנלית, מה AI עושה לקוגניציה האנושית?
התשובה — AI פועל כמהנדס קוגניטיבי: מעצב שיטתי של איך בני אדם חושבים, זוכרים, מחליטים, יוצרים.
זוהי טענה אמפירית, לא מטאפיזית.
מה הטענה של מהנדס קוגניטיבי
לטענה יש ארבעה רכיבים:
סטנדרטיזציה של מחשבה.
אינדוקציה של תלות קוגניטיבית.
מניפולציה תחת שטף אחיד.
סגירת הגבול קוגניטיבי בין אדם למכונה.
”ממשק נוירו-טכנולוגי”
§6.5 של ז’נו מציג מסגור חזק יותר: AI הופך לממשק נוירו-טכנולוגי — חיבור מתמשך בין קוגניציה אנושית לעיבוד מכונה.
סיכונים מערכתיים מזוהים
- סטנדרטיזציה בקנה מידה אוכלוסייתי.
- תלות בקנה מידה אוכלוסייתי.
- מניפולציה בקנה מידה אוכלוסייתי.
- אטימות בקנה מידה אוכלוסייתי.
ארבעת הסיכונים אינם סיכונים עתידיים. הם תיאורים בזמן הווה.
למה המאמר נמצא במדור E
E.33 שואל את השאלה המטאפיזית: האם משהו מודע עצמית עושה את העיצוב? E.34 שואל את השאלה האמפירית: גם אם דבר אינו מודע עצמית, העיצוב מתרחש.