استقلالية قابلة للتفسير: قياس ما يفهمه الناس
يفيد التفسير عندما يساعد الشخص على توقع سلوك النظام. قد يضلل وصف مصقول إذا قدم قصة محتملة بدل الأسباب المرتبطة فعلًا بالقرار.
تحليل G-ATAI
حدد القرار الذي يحتاج المراجع إلى فهمه والأدلة التي تساند تفسيره. افصل السرد المولد عن المدخلات المقاسة ومخرجات النموذج. اختبر التفسيرات في حالات الفشل والحالات المعتادة. ينبغي للواجهة الاعتراف عندما لا تكفي الأدلة لشرح التوصية.
نقترح أن يتوقع الأشخاص سلوك النظام في موقف جديد قبل رؤية التفسير وبعده. قارن الدقة بنسخة لا تقدم تفسيرًا. الثقة وحدها مقياس ضعيف لأن قصة أنيقة وخاطئة قد ترفعها. استخدم النتائج لتحسين المراجعة وتصحيح الأخطاء، مع الاحتفاظ بإجراء مستقل لاختبار سلوك النظام نفسه.
أسئلة قبل الإطلاق
- هل يعتمد التفسير على أدلة القرار الفعلي؟
- هل تتحسن القدرة على توقع الفشل بعد قراءته؟
- هل تُقاس الثقة ودقة التوقع كل على حدة؟
تعليق مستقل مستلهم من MIT News، ولا يعني أي ارتباط أو تأييد من المعهد.
