Explainability and Reliability in Large Language Model Systems: A Survey of SHAP, LIME and Attention Frameworks

语言模型在医疗、金融、网络安全、教育等敏感领域的应用日益广泛，这使得开发透明的决策支持系统变得尤为重要。本文综述了用于语言模型和机器学习模型的可解释性技术，包括SHAP、LIME、基于注意力的解释方法，以及将模型输出转化为自然语言解释的框架。现有文献表明，尽管经典语言模型在预测和语义方面表现良好，但缺乏透明度。在这方面，SHAP和LIME有助于识别特征重要性，而框架的组合则使解释更易于用户理解。文献还指出了现有技术的一些局限性，如解释忠实度、幻觉、偏见、隐私问题、计算复杂性以及缺乏评估基准。基于文献中发现的证据，本文讨论了可解释性在医疗、金融、网络安全、工业系统和物联网中的应用。