Mathematical Explainability Index for Artificial Intelligence Decision Systems in Healthcare and Higher Education

方法

构建含透明度、保真度等七维度的归一化加权公式，在医疗与高教数据集验证。

发现

MEI可跨模型比较可解释性，揭示精度与可解释性权衡并指导模型选择。

机会点

可将MEI迁移至农业AI决策系统，构建面向种植/养殖场景的可解释性量化评估基准。

可解释人工智能（Explainable Artificial Intelligence, XAI）对于医疗保健和高等教育等高风险领域中可信的决策支持至关重要，在这些领域中，透明的AI预测会影响决策质量和利益相关者的信心。当前的可解释性技术往往是定性的或针对特定模型的，缺乏统一的定量框架，限制了客观比较和标准化。本研究引入了数学可解释性指数（Mathematical Explainability Index, MEI），这是一个与模型无关的定量框架，它将多个可解释性维度——透明度、可解释性、保真度、稳定性、一致性、复杂性和用户信任——整合为一个归一化的加权公式，产生单一的可解释性得分。MEI能够对机器学习和深度学习模型进行直接比较，同时适用于多样化的应用领域。我们使用具有代表性的医疗保健和高等教育数据集对MEI进行验证，在评估可解释性的同时评估传统的预测指标。对比实验揭示了MEI评估模型、突出准确性与可解释性之间权衡以及指导模型选择的能力。数学证明和敏感性分析表明，该指数在不同数据和模型条件下具有一致性、可扩展性和鲁棒性。总体而言，MEI提供了一种标准化、可解释的定量度量，以推进可信AI并支持关键领域中决策支持系统的透明部署。