“见微”系列之一：打开AI黑箱，探索可解释性-20191018-太平洋证券-24页_2mb

可解释人工智能（XAI）研究报告总结

核心内容

可解释人工智能（XAI）旨在解决AI模型中“准确性VS可解释性”的两难困境。XAI可以在不显著牺牲模型准确性的同时，提高模型的可解释性，使得模型决策过程更加透明。XAI可以作为独立模块应用于现有的AI系统中，尤其适用于工业界，因其不依赖特定模型且具有较高的适用性。

主要观点

1. XAI的重要性

   • AI模型在提升预测能力的同时，也带来了对模型内部机制理解的困难，特别是在高风险场景下。
   • XAI通过引入可解释性元素，帮助用户理解模型的决策依据，增强信任感并提供模型优化的可能性。

2. XAI的分类框架

   • XAI方法可以根据复杂度分为“事前”与“事后”；
   • 根据解释范围分为“全局”与“局部”；
   • 根据模型相关度分为“模型依赖”与“模型独立”。

3. XAI的常用方法

   • Permutation Importance (PI)：通过打乱特征顺序衡量其对模型预测的影响，适用于多种模型，但可能受多重共线性影响。
   • SHAP (SHapley Additive exPlanation)：基于合作博弈论，计算每个特征对预测的贡献，允许特征交互分析，但计算效率较低。
   • Partial Dependence (PD)：展示特征变化对预测结果的影响，分为PDP（全局）和ICE（局部），但对特征相关性敏感。
   • LIME (Local Interpretable Model-Agnostic Explanations)：使用白箱模型对黑箱模型进行局部近似解释，适用于非结构化数据，但依赖于相近样本的采样。

关键信息

XAI方法的特点

XAI在多因子选股中的应用

• 数据与流程：使用31个因子构建模型，包括估值、盈利、成长、杠杆、规模、反转和波动率等类别。
• 模型选择：采用XGBoost进行训练，使用滚动训练方式，测试区间为2010年1月至2019年8月。
• XAI工具调用：使用Python工具包（如Eli5、shap、PDPbox、LIME）进行模型解释，展示特征重要性、预测贡献和交互效应。

XAI方法的实际结果

• 特征重要性：不同XAI方法（如PI、SHAP、XGBoost内置方法）对特征重要性的评估存在差异。
• 预测贡献：如SHAP展示特征对预测值的正负贡献，PI揭示特征对模型效果的影响。
• 交互效应：PDP和ICE方法展示特征之间的交互作用，帮助理解模型的非线性关系。

风险提示

• XAI方法虽能提高模型的可解释性，但仍有局限性，无法保证在所有场景下都能提供理想的解释。
• 报告内容仅用于工具介绍，不构成任何投资建议。

应用案例与工具推荐

• Eli5：适用于PI方法，提供简洁的调用方式和对sklearn的支持。
• SHAP：提供特征贡献分析和交互效应展示，支持回归和分类任务。
• PDPbox：提供高质量的可视化效果，适合展示特征与预测之间的关系。
• LIME：支持非结构化数据解释，适合局部解释任务。

总结与展望

• XAI研究正处于快速发展阶段，随着AI在各行业的深入应用，其重要性日益凸显。
• 尽管存在诸多限制，XAI仍是提高模型可解释性的重要手段，有助于理解和改进模型。
• 未来需进一步探索深度学习模型的可解释性，以更好地应对复杂模型的解释难题。

参考文献

1. Lundberg, Scott M., and Su-In Lee. “A unified approach to interpreting model predictions.” Advances in Neural Information Processing Systems, 2017.
2. Alvarez-Melis, David, and Tommi S. Jaakkola. “On the robustness of interpretability methods.” arXiv preprint arXiv:1806.08049 (2018).
3. Friedman, Jerome H. “Greedy function approximation: A gradient boosting machine.” Annals of statistics, 2001.
4. Goldstein, Alex, et al. “Peeking inside the black box: Visualizing statistical learning with plots of individual conditional expectation.” Journal of Computational and Graphical Statistics, 2015.
5. Apley, Daniel W. “Visualizing the effects of predictor variables in black box supervised learning models.” arXiv preprint arXiv:1612.08468 (2016).
6. Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. “Model Class Reliance: Variable importance measures for any machine learning model class, from the ‘Rashomon’ perspective.” (2018).
7. Deng, Houtao. “Interpreting Tree Ensembles with inTrees.” arXiv:1408.5456, 2014.
8. Thiagarajan, Jayaraman J., et al. “TreeView: Peeking into deep neural networks via feature-space partitioning.” arXiv preprint arXiv:1611.07429 (2016).
9. Wang, Fulton, and Cynthia Rudin. “Falling rule lists.” Artificial Intelligence and Statistics, 2015.
10. Letham, Benjamin, et al. “Interpretable classifiers using rules and bayesian analysis: Building a better stroke prediction model.” The Annals of Applied Statistics, 2015.
11. Lakkaraju, Himabindu, Stephen H. Bach, and Jure Leskovec. “Interpretable decision sets: A joint framework for description and prediction.” Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining. ACM, 2016.
12. Li, Zairan, et al. “Rule-based back propagation neural networks for various precision rough set presented KANSEI knowledge prediction: a case study on shoe product form features extraction.” Neural Computing and Applications, 2017.
13. Amina Adadi, Mohammed Berrada. “Peeking inside the black-box: A Survey on Explainable Artificial Intelligence(XAI).” IEEE Access, 2018.
14. R. Guidotti, A. Monreale, F. Turini, D. Pedreschi, and F. Giannotti. “A survey of methods for explaining black box models.” arXiv preprint arXiv:1802.01933, 2018.
15. D. V. Carvalho, E. M. Pereira, and J. S. Cardoso. “Machine learning interpretability: A survey on methods and metrics.” Electronics, 8(8):832, 2019.
16. Molnar, Christoph. “Interpretable Machine Learning: A Guide for Making Black Box Models Explainable.” 2019.
17. Ribeiro, Marco Tulio, et al. “Why Should I Trust You?” Explaining the predictions of any classifier. In: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, San Francisco, CA, USA, August 13-17, 2016. pp. 1135-1144.

销售团队