תחזיות פיתוח AI הוא תרגיל מצניע. מאמר זה מציע שלושה תרחישים פרוספקטיביים — מסלולים שהעשור הבא יכול לקחת.
תרחיש A: מנותב
המסלול האופטימי ביותר. פיתוח AI ממשיך, אך בתוך מסגרת רגולטורית המגבילה את היישומים המסוכנים ביותר.
- חוק האיחוד האירופי על AI מיושם עם שיניים.
- תקני מקור מאומצים נרחבות.
- מימון ציבורי תומך ב-AI לא-WEIRD.
תרחיש B: סחוף
המסלול האמצעי, וכנראה המציאותי ביותר. פיתוח AI ממשיך בעיקר במסלולו הנוכחי. האפקטים הקוגניטיביים מצטברים לאט מספיק כדי שאף שנה אחת לא תכפה חישוב פוליטי, מהר מספיק כדי שההשפעה המצטברת תהיה משמעותית עד 2035.
תרחיש C: שבוי
הפחות אופטימי. פריסת AI ממשיכה ללא הגבלה אפקטיבית. גרסה של דירוג בסגנון אשראי חברתי הופכת שגרתית. תרחיש C הוא מה שז’נו קורא אוטוריטריות דיגיטלית.
איך לקרוא את התרחישים
התרחישים אינם בלעדיים. התרחישים אינם שווי הסתברות. B הוא הסביר ביותר. התרחישים אינם נורמטיביים.