የጥቁር ሳጥን ችግር

ዘመናዊ AI ስርዓቶች ውጤታቸውን በውስጣዊ ውክልና ቀለበት ተለዋጭ ሥራዎች ይስባሉ፣ በሰዎች ሊነበቡ አይችሉም።

አለመታወቅ ምን ማለት ነው

ኒውራል ኔትወርክ በቢሊዮኖች ፓራሜትሮች ለ ውጤት ሚሊዮኖች ስሌቶችን ያደርጋል። ፓራሜትሮቹ አልተሰለፉም፤ ተገኝተዋል — የማመቻቸት ውጤት።

ምን ተሞከረ

• ሥፍራዊ ማብራራቶች (LIME, SHAP)።
• ሥርዓታዊ ትርጓሜ — በ Anthropic ይከታተላል።¹
• ሥራ መከታተል።

ለምን ያስፈልጋል

• እምነት።
• ደህንነት።
• ንቃተ-ህሊና።

ጥቁር ሳጥን ጊዜያዊ ቴክኒካዊ ችግር አይደለም። የቤት ሰራነበት AI ዓይነት መዋቅራዊ ባህሪ ነው።