知识卡片：Explainability Assistant——解读能耗模型的对话式 XAI 界面

一句话结论

论文提出开源对话式 XAI 系统 Explainability Assistant，利用现代大语言模型（LLM）的 function-calling 能力，让设施管理人员和建筑运营者用自然语言询问能耗预测模型的解释；论文报告意图解析准确率达 94%，并在与能源领域专家的对比评估中获得对传统 XAI dashboard 的一致偏好。更细的系统架构、评估设计和开源仓库信息待核实。

事件概述或研究问题

• 能耗预测依赖越来越复杂的机器学习模型，例如 Genetic Programming-based symbolic regressors，其预测对设施管理人员和建筑运营者而言难以解释。
• 传统 XAI dashboard 虽可提供解释，但通常需要较高技术专长，且对动态、上下文相关的询问灵活性有限。
• 既有对话式 XAI 方法如 TalkToModel 受限于 rigid custom grammars，意图解析准确率为 76.8%。
• 本文研究问题：能否借助现代 LLM 的 function-calling 能力，构建更灵活、可跨不同 ML 问题类型适配的对话式 XAI 系统，并在能源领域专家评估中比较其与传统 XAI dashboard 的表现。

方法/产品要点

• 系统名称：Explainability Assistant。
• 论文称其为 open-source conversational XAI system。
• 核心机制：利用现代 LLM 的 function-calling capabilities，以克服 rigid custom grammars 的限制。
• 支持 flexible natural language interaction。
• 论文称该系统可适应不同 ML problem types，且无需 task-specific fine-tuning。
• 论文展示系统 architecture，并报告与能源领域专家进行的对比评估。
• 具体 LLM 型号/版本、函数调用 schema、支持的解释方法、代码仓库地址与许可证等：待核实。

主要结果或产业意义

• 意图解析准确率：论文报告 94%，对比 TalkToModel 的 76.8%。
• 与能源领域专家进行对比评估，对象为 Explainability Assistant 与 traditional XAI dashboard。
• 评估 suggests improved usability and consistent task accuracy。
• 所有专家一致偏好 conversational interface 用于 practical use。
• 潜在产业意义：在建筑能耗与设施管理场景中，对话式 XAI 可能降低复杂预测模型解释的交互门槛，让运营人员以自然语言追问模型行为；LLM 在此扮演解释与询问界面层，而非自主控制层。
• 专家人数、任务设计、统计显著性、实际部署效果等：待核实。

为什么重要

• 该工作把 LLM 的 function calling 用于 XAI 交互，而非仅作为通用聊天接口；这可能减少对自定义语法和任务特定微调的依赖。
• 与已有“LLM 在建筑能源系统 HVAC 运行中作为语义层/工作流层或人类参与下的辅助工具，而非自主控制器”的综述脉络相衔接：本条同样是 LLM 作为人机解释/交互层的具体应用，增量在于面向能耗预测模型解释，报告 94% 意图解析准确率和能源领域专家偏好证据。它不提供自主控制或持续运营部署证据。
• 若结果可复现，可能帮助设施管理者理解复杂能耗模型，支持模型信任与解释性沟通；但实际节能效果与长期使用影响待核实。

与既有脉络的关系

• 本条可视为“LLM 在能源/建筑场景中作为辅助语义层”脉络下的新案例，但焦点从 HVAC 运行综述转向能耗预测模型的对话式解释界面。
• 相对既有卡片，本条增量信息是：用 LLM function calling 替代 rigid grammar，给出 94% 意图解析准确率，并与传统 XAI dashboard 做能源领域专家对比。
• 不重复“LLM 可作为语义/工作流层而非自主控制器”的总体判断；本条进一步显示该定位可延伸到 XAI 对话界面。

局限与不确定性

• 无法从材料确认：系统架构细节、所用 LLM、函数调用设计、支持的解释类型、能耗数据集与模型细节。
• 评估细节未知：专家数量、领域分布、任务数量、指标定义、是否统计显著、传统 dashboard 的具体配置。
• 94% 意图解析准确率的测试集、语言、意图类别、错误分析未给出。
• “开源”具体许可证、代码与数据可用性待核实。
• 论文发表于 ICECET 2026，DOI 和 journal reference 已给出；全文细节、同行评审状态与最终版差异待核实。
• 实际建筑运营部署证据、长期使用效果、LLM 幻觉与安全风险未在材料中说明。

可用于图书/PPT/简报的角度

• 从 dashboard 到对话：XAI 交互范式的转变。
• LLM function calling 如何替代 rigid grammar，提升意图解析。
• 能耗模型解释的人机接口：让设施管理者用自然语言问“为什么”。
• 传统 XAI 与对话式 XAI 的专家对比：可用性与任务准确率。
• 与“LLM 作为语义/工作流层而非自主控制器”的主题连接。
• 开源 XAI 工具在能源领域的落地边界：解释层可以先行，控制层仍需谨慎。

原始材料

• 英文标题：Explainability Assistant: A Conversational XAI Interface for Interpreting Energy Consumption Models
• 英文关键词（据摘要提取；原文关键词待核实）：Explainable AI; Conversational XAI; Energy Consumption Forecasting; Large Language Models; Intent Parsing; Function Calling
• 作者：Rodion Krjutškov, Eduard Barbu, Nikos Sakkas, Sofia Yfanti
• 发表信息：2026-09-10；arXiv:2609.11860v1 [cs.AI]；categories: cs.AI, cs.LG
• DOI：10.1109/ICECET65726.2026.11632877
• Journal reference：2026 6th International Conference on Electrical, Computer and Energy Technologies (ICECET), Rome, Italy, 2026
• arXiv URL：https://arxiv.org/abs/2609.11860v1
• PDF URL：https://arxiv.org/pdf/2609.11860v1