shap
شرح تنبؤات النماذج باستخدام SHAP
متاح أيضًا من: davila7
غالباً ما تعمل نماذج التعلم الآلي كصناديق سوداء. يوفر SHAP إطاراً موحداً لشرح أي تنبؤ للنموذج من خلال حساب مساهمات السمات باستخدام قيم Shapley من نظرية الألعاب. استخدم هذه المهارة لتصور أهمية السمات، وتصحيح سلوك النموذج، وتنفيذ الذكاء الاصطناعي القابل للتفسير.
تنزيل ZIP المهارة
رفع في Claude
اذهب إلى Settings → Capabilities → Skills → Upload skill
فعّل وابدأ الاستخدام
اختبرها
استخدام "shap". شرح تنبؤات نموذج XGBoost الخاص لانقطاع العملاء
النتيجة المتوقعة:
- أهم محركات الانقطاع: نوع العقد (0.25)، الرسوم الشهرية (0.18)، مدة الاشتراك (0.15)
- العملاء بدون عقود سنوية أكثر عرضة للانقطاع بنسبة 25%
- الرسوم الشهرية الأعلى تزيد احتمالية الانخفاض عندما تكون مدة الاشتراك منخفضة
- العملاء المخلصون (36+ شهراً) لديهم خطر انقطاع أقل بنسبة 60%
استخدام "shap". لماذا رفض طلب القرض هذا
النتيجة المتوقعة:
- العوامل الرئيسية التي تقلل احتمالية الموافقة: نسبة الدين إلى الدخل المرتفعة (-0.22)، تاريخ العمل القصير (-0.15)، نسبة استخدام الائتمان المنخفضة (-0.12)
- العوامل الإيجابية: الدخل المستقر (+0.08)، تاريخ الدفع الجيد (+0.05)
- العوامل المفقودة: عدم وجود استفسارات ائتمانية حديثة ساعدت قليلاً (+0.03)
التدقيق الأمني
آمنDocumentation-only skill with no executable code. All 295 static findings are false positives: markdown code blocks flagged as shell backticks, 'SHAP' acronym flagged as SHA cryptographic algorithm, GitHub URL path component flagged as C2, and standard documentation URLs. This is a pure reference guide for the SHAP machine learning library.
عوامل الخطر
⚙️ الأوامر الخارجية (5)
🌐 الوصول إلى الشبكة (2)
درجة الجودة
ماذا يمكنك بناءه
تصحيح سلوك النموذج
حدد سبب ارتكاب النموذج للأخطاء من خلال فحص قيم SHAP للعينات المصنفة خطأ واكتشاف تسرب البيانات.
إضافة تفسيرات إلى واجهات البرمجة
دمج تفسيرات SHAP في خدمات التنبؤ الإنتاجية مع إسناد السمات لكل تنبؤ.
التحقق من عدالة النموذج
تحقق من التنب المتحيز عبر المجموعات الديموغرافية من خلال مقارنة قيم SHAP للسمات المحمية.
جرّب هذه الموجهات
أنتج رسم بياني SHAP beeswarm لإظهار أهمية السمات لنموذج XGBoost الخاص بي المدرّب على مجموعة البيانات الجدولية الخاصة بي. اعرض أهم 15 سمة مع توزيعاتها.
اشرح لماذا توقع النموذج نتيجة معينة لعينة واحدة. أنتج رسم waterfall يُظهر كيف ساهمت كل سمة في التنبؤ.
قارن أهمية السمات بين نماذج Random Forest و XGBoost الخاصة بي باستخدام SHAP. اعرض أي السمات تُرتّب بشكل مختلف بين النموذجين.
حلل نموذجي للتحيز المحتمل عبر مجموعات الجنس والعمر. قارن قيم SHAP للسمات المحمية وحدد是否存在 أي وسطاء.
أفضل الممارسات
- استخدم TreeExplainer للنماذج القائمة على الأشجار بدلاً من KernelExplainer لحساب أسرع
- ابدأ بالرسوم البيانية العامة (beeswarm، bar) لفهم الأنماط العامة قبل فحص الت predictions الفردية
- حدد 50-1000 عينة تمثيلية خلفية لحساب دقيق لقيم SHAP
تجنب
- استخدام KernelExplainer للنماذج الشجرية عندما يتوفر TreeExplainer (أبطأ بكثير)
- تفسير قيم SHAP كعلاقات سببية بدون التحقق من المجال
- تجاهل نوع مخرجات النموذج (log-odds مقابل probability) عند تفسير قيم SHAP