shap
Объяснить предсказания модели с помощью SHAP
También disponible en: davila7
Модели машинного обучения часто работают как черные ящики. SHAP предоставляет единый подход для объяснения любого предсказания модели, вычисляя вклад признаков с использованием значений Шепли из теории игр. Используйте этот навык, чтобы визуализировать важность признаков, отлаживать поведение модели и внедрять объяснимый ИИ.
Descargar el ZIP de la skill
Subir en Claude
Ve a Configuración → Capacidades → Skills → Subir skill
Activa y empieza a usar
Pruébalo
Usando "shap". Explain my XGBoost model's predictions for customer churn
Resultado esperado:
- Основные драйверы оттока: Тип контракта (0.25), Ежемесячные платежи (0.18), Стаж (0.15)
- Клиенты без годовых контрактов на 25% чаще уходят
- Более высокие ежемесячные платежи повышают вероятность оттока при низком стаже
- Лояльные клиенты (36+ месяцев) имеют на 60% меньший риск оттока
Usando "shap". Why was this loan application denied
Resultado esperado:
- Ключевые факторы, снижающие вероятность одобрения: Высокое отношение долга к доходу (-0.22), Короткая история занятости (-0.15), Низкий коэффициент использования кредита (-0.12)
- Положительные факторы: Стабильный доход (+0.08), Хорошая платежная история (+0.05)
- Отсутствующие факторы: Отсутствие недавних кредитных запросов немного помогло (+0.03)
Auditoría de seguridad
SeguroDocumentation-only skill with no executable code. All 295 static findings are false positives: markdown code blocks flagged as shell backticks, 'SHAP' acronym flagged as SHA cryptographic algorithm, GitHub URL path component flagged as C2, and standard documentation URLs. This is a pure reference guide for the SHAP machine learning library.
Factores de riesgo
⚙️ Comandos externos (5)
🌐 Acceso a red (2)
Puntuación de calidad
Lo que puedes crear
Отладка поведения модели
Определяйте, почему модели допускают ошибки, изучая значения SHAP для неверно классифицированных примеров и выявляя утечки данных.
Добавление объяснений в API
Интегрируйте объяснения SHAP в производственные сервисы предсказаний с атрибуцией признаков для каждого предсказания.
Проверка справедливости модели
Проверяйте смещенные предсказания по демографическим группам, сравнивая значения SHAP для защищенных атрибутов.
Prueba estos prompts
Generate a SHAP beeswarm plot to show feature importance for my XGBoost model trained on my tabular dataset. Show the top 15 most important features with their value distributions.
Explain why my model predicted a specific outcome for a single sample. Generate a waterfall plot showing how each feature contributed to the prediction.
Compare feature importance between my Random Forest and XGBoost models using SHAP. Show which features are ranked differently between the two models.
Analyze my model for potential bias across gender and age groups. Compare SHAP values for the protected attributes and identify if any proxies exist.
Mejores prácticas
- Используйте TreeExplainer для моделей на деревьях вместо KernelExplainer для более быстрых вычислений
- Начинайте с глобальных графиков (beeswarm, bar), чтобы понять общие паттерны перед анализом отдельных предсказаний
- Выбирайте 50-1000 репрезентативных фоновых примеров для точного вычисления значений SHAP
Evitar
- Использование KernelExplainer для деревьев, когда доступен TreeExplainer (гораздо медленнее)
- Интерпретация значений SHAP как причинных связей без проверки предметной областью
- Игнорирование типа выхода модели (log-odds vs probability) при интерпретации значений SHAP