Comparing Domain-Model Similarity Metrics Against Human Expert Ratings
五种领域模型相似度指标无一全面胜出,选型必须按目标场景实测:如果工程师把某个指标在原始数据集上的表现直接用于自动评分或模型质量度量,可能选错方法。该研究将五种指标放在同一批39组领域模型对上,与人类专家评分比较,为指标选型提供了共同依据。
过去五种领域模型相似度指标分别在独立数据集上验证,工程师缺少共同基准来选择方法。该研究在39组固定模型对上统一比较它们与专家评分的一致性,发现无单一指标全面占优,因此提出多指标集成作为可能方向。
在39组固定领域模型对上,五种相似度指标没有任何一种同时在与专家评分的均值距离和排序一致性上占优;多指标集成是可行替代方向,但仍需实验验证。
1. 旧问题:五种指标各自验证,缺少共同基准,工程选型缺乏依据。 2. 方法:统一实现五指标,在39组固定模型对上按均值距离和排序一致性对照专家评分。 3. 结果:无指标两项全优;应按场景组合指标并重新验证。
评估对象是固定的39组领域模型对,专家评分来自同一已有数据集。候选方法覆盖规则、图编辑距离、UML结构匹配、语义加结构流水线和深度学习五类。RQ1衡量均值距离,RQ2衡量每对排序一致性;结论是不同指标分别在不同标准上表现更好,但摘录未披露具体数值。
- 它要解决什么
- 文献中的领域模型相似度指标能否可靠替代人类专家评分?从业者面对多种指标时,应如何选择并说明理由?
- 研究路径
- 研究先消除实现和数据集差异,把五种指标放到同一批39组模型对上运行。随后用人类专家评分作参照,分别计算均值对齐程度和模型对排序一致性。两类结果分开判断,因此能发现一个指标即使均值接近专家评分,也不一定能保持正确的对间排序。
- 这对工程意味着什么
- 第一步是在自己的目标模型集上取得人类评分,并同时运行多个候选指标。不要直接把某指标在原始独立数据集上的结论搬到新场景,也不要只用一个指标替代人工评分。
- 证据定位
- 评估分为两项:RQ1考察指标结果与专家评分的均值距离,RQ2考察每对模型排序是否一致。结果显示,没有单一指标同时在两项标准上占优;部分指标的均值距离最近,另一些指标更好地保留模型对之间的排序。具体数值未在已提供摘录中披露。(筛选维度:形式化验证、软件工程方法)
- 适用边界
- 比较只覆盖39组固定领域模型对,规模和代表性有限。集成方案只是被提出,尚未实验验证;已提供摘录也没有披露各指标的具体数值,因此无法量化指标之间的差距。
方法与英文摘要
研究者统一实现五种指标:规则型错误检测、基于属性关系图的GED、UML类图UCG结构匹配、语义+结构流水线,以及SimGNN深度学习方法。五种指标都在固定的39组领域模型对上运行,再与同一组模型对的人类专家评分比较。
Domain models are a primary artefact in model-driven software engineering, where they capture the shared understanding between stakeholders and serve as the contractual basis for downstream software development. Automatic comparison of these semantic models has diverse application areas such as requirements engineering, education, automatic generation of domain models and model reuse and repository mining. The literature offers a variety of presented metrics, but for practitioners there is no defensible way to choose between them. The contribution of this paper is the implementation of five such metrics, their execution on a fixed set of 39 domain-model comparisons and the comparison of each metric's output against the human expert ratings produced for the same comparisons. Two research questions are addressed. RQ1 asks how close, on average, each metric is to the human expert rating across the 39 comparisons. RQ2 asks how consistent each metric's per-comparison distance from the human expert rating is. The findings reveal that no single metric achieves dominance across all criteria; rather, different metrics each yield competitive results on individual criteria - some closest on average, others best preserving the per-pair ordering - which suggests that an ensemble approach combining multiple metrics may serve as a viable substitute for human expert grading. The metric implementations are an artefact of this work and are published in accordance with the FAIR4RS recommendations (DOI: 10.5281/zenodo.20942596).