用户对智能应用可解释性的需求：问题上下文、领域知识和机器学习模型的显式联系

用户对智能应用可解释性的需求驱动着我们在问题上下文、领域知识和机器学习模型之间建立起显式的联系。本文以工业领域应用场景为例，介绍智能应用需求分析的主要步骤和领域知识体系。

例如，如何通过人类可理解的建模方式来定义业务对象的属性和相关关系，如状态机、业务流程图、自动机、实体关系图等，以及如何用工业自动化和控制领域的模型来分析实时反应式系统等。在许多科学和工程相结合的领域中，有特定的数学、物理或化学反应过程模型，如机械工程中的力学模型、化工过程中的化学反应和工艺流程、建筑工程中的结构力学模型等。这些模型表示为数学方程、符号系统、因果网络、结构或动态行为的 3 维仿真建模等[9]。领域知识的显式表达是我们进行工业应用场景需求分析的重要基础，也是对系统设计进行形式化需求验证的工具[10]。

在软件需求工程中，分析师采用多种需求建模方法指导需求工程师完成需求的获取，并用来描述与领域知识体系相关的系统结构和行为约束。例如，面向目标的需求建模方法以用户和设计者的意图和目标为起点，然后通过目标分解和逐级细化所需系统的成功条件和验收标准[11]。在充分理解目标后，需求工程师采用统一建模语言（UML）和系统建模语言的多种图形化模型（SysML）[12]等工具，建立形式化、半形式化的业务模型，以此对领域知识体系所涉及的系统结构和行为模型等开展设计工作。跨行业数据挖掘标准流程（CRISP-DM）[13]将业务理解、数据理解作为数据驱动开发过程中 2 个独立的步骤。当我们在系统解决方案中引入机器学习技术，尤其是大数据驱动的深度学习技术时，数据理解对于模型可解释性有重要影响。在需求分析阶段，数据模型的定义与可视化分析是获取可解释性依据的重要手段。例如，对时序数据的周期性分析、对多个数据特征的相关性分析等。