中国安全科学学报

作者：张念, 周彩凤, 万飞, 刘非, 王耀耀, 徐栋梁

单位：1 太原理工大学 土木工程学院,山西 太原 030024；2 北京交通大学 隧道及地下工程教育部工程研究中心,北京 100044；3 交通运输部 公路科学研究所,北京 100088

关键词：变换器的双向编码器表征(BERT),双向长短时记忆(BiLSTM)网络,条件随机场(CRF),隧道施工,安全领域,命名实体识别(NER),深度学习

基金：中央引导地方科技发展资金资助(YDZJSX20231A021); 交通运输部公路科学研究所(院)交通强国试点项目(QG2021-3-14-1); 隧道及地下工程教育部工程研究中心(北京交通大学)开放研究基金资助(TUC2024-03)

为解决隧道施工安全领域传统命名实体识别(NER)方法存在的实体边界模糊、小样本学习困难、特征信息提取不够全面准确等问题,提出一种基于变换器的双向编码器表征(BERT)-双向长短时记忆(BiLSTM)网络-条件随机场 (CRF)模型的隧道施工事故文本实体识别方法。首先,利用BERT模型将隧道施工事故文本编码得到蕴含语义特征的词向量;然后,将BERT模型训练后输出的词向量输入BiLSTM模型进一步获取隧道施工事故文本的上下文特征并进行标签概率预测;最后,利用CRF层的标注规则的约束,修正BiLSTM模型的输出结果,得到最大概率序列标注结果,从而实现对隧道施工事故文本标签的智能分类。将该模型与其他4种常用的传统NER模型在隧道施工安全事故语料数据集上进行对比试验,试验结果表明:BERT-BiLSTM-CRF模型的识别准确率、召回率和F1值分别达到88%、89%和88%,实体识别效果优于其他基准模型。利用所建立的NER模型识别实际隧道施工事故文本中的实体,验证了其在隧道施工安全领域中的应用效果。

来源：2024年第12期

《中国安全科学学报》期刊编辑部

查看中国安全科学学报杂志2024年第12期