命名实体识别模型评估:两个句子示例
a) 将两个模型的输出还原成真实标签的格式并打印:
第一个句子模型输出还原为真实标签格式为:
[{'NAME': [[0, 2], [2, 4]], 'CITY': [[6, 8]]}]
第二个句子模型输出还原为真实标签格式为:
[{'NAME': [[0, 2], [2, 4]], 'CITY': [[7, 9], [14, 16]]}]
b) 采用严格模式评估模型输出的准确率并打印:
标签级别的准确率计算方式为:将模型输出与真实标签进行比较,计算出预测正确的标签数量除以总的标签数量。
实体级别的准确率计算方式为:将模型输出与真实标签进行比较,计算出预测正确的实体数量除以总的实体数量。
针对第一个句子,模型预测的标签为:
['B-NAME', 'I-NAME', 'B-NAME', 'I-NAME', 'O', 'O', 'B-CITY', 'I-CITY', 'O']
真实标签为:
{'NAME': [[0, 2], [2, 4]], 'CITY': [[6, 8]]}
计算标签级别的准确率:
总标签数为9,预测正确的标签数为8,准确率为8/9=0.89。
计算实体级别的准确率:
总实体数为2,预测正确的实体数为2,准确率为2/2=1.0。
针对第二个句子,模型预测的标签为:
['B-NAME', 'I-NAME', 'B-NAME', 'I-NAME', 'B-NAME', 'I-NAME', 'O', 'O', 'O', 'O', 'O', 'O', 'B-CITY', 'O', 'B-CITY', 'I-CITY']
真实标签为:
{'NAME': [[0, 2], [2, 4]], 'CITY': [[7, 9], [14, 16]]}
计算标签级别的准确率:
总标签数为16,预测正确的标签数为13,准确率为13/16=0.81。
计算实体级别的准确率:
总实体数为4,预测正确的实体数为3,准确率为3/4=0.75。
原文地址: https://www.cveoy.top/t/topic/oRWD 著作权归作者所有。请勿转载和采集!