期刊文章详细信息
结合注意力机制的BERT-BiGRU-CRF中文电子病历命名实体识别
Named Entity Recognition for Chinese Electronic Medical Record Based on BERT-BiGRU-CRF and Attention Mechanism
文献类型:期刊文章
CHEN Na;SUN Yan-qiu;YAN Yan(School of Information Engineering,Liaoning University of Traditional Chinese Medicine,Shenyang 110847,China)
机构地区:[1]辽宁中医药大学信息工程学院,沈阳110847
基 金:国家自然科学基金项目(82274580)资助;辽宁省教育厅科学研究项目(L2020059)资助;辽宁省教育厅高等学校基本科研项目(LJKZ0894)资助;辽宁中医药大学人文社科类项目(2021LNZYQN014)资助。
年 份:2023
卷 号:44
期 号:8
起止页码:1680-1685
语 种:中文
收录情况:AJ、BDHX、BDHX2020、CSCD、CSCD_E2023_2024、IC、JST、RCCSE、SCOPUS、ZGKJHX、核心刊
摘 要:为了改善中文电子病历命名实体识别模型的性能,本文提出了基于BERT、双向门控循环单元(Bidirectional Gate Recurrent Unit,BiGRU)与条件随机场CRF相结合的中文电子病历命名实体识别模型,并在此基础上引入了注意力机制.利用BERT(Bidirectional Encoder Representation from Transformers)预训练模型得到结合语境信息的动态字向量,通过双向门控循环单元(Bidirectional Gate Recurrent Unit,BiGRU)提取全局语义特征,利用注意力机制获得增强语义特征,最后通过CRF(Conditional Random Field)解码输出概率最大的全局最优标签序列.利用含有解剖部位、手术、疾病和诊断、药物、实验室检验、影像检查6类实体的CCKS19中文电子病历数据集训练模型.对比实验表明了本文提出的命名实体识别模型的有效性,本文模型在CCKS19数据集上获得了84.11%的F1值。
关 键 词:中文电子病历 命名实体识别 BERT BiGRU 注意力机制
分 类 号:TP391]
参考文献:
正在载入数据...
二级参考文献:
正在载入数据...
耦合文献:
正在载入数据...
引证文献:
正在载入数据...
二级引证文献:
正在载入数据...
同被引文献:
正在载入数据...