基于旋转注意力的命名实体识别模型

doi:10.15966/j.cnki.dnydx.2024.z1.011

全文: PDF( KB)
输出: BibTeX | EndNote (RIS)

摘要

针对命名实体识别中实体词对关系建模分类性能不高的问题，提出一种基于旋转注意力的命名实体识别方法，该方法首先用BERT模型和Bi-LSTM进行编码，然后用卷积神经网络对输入的文本进行特征提取，接着将提取的特征序列输入旋转注意力模型中计算输出概率，最后使用 MLP层对输出进行分类。实验结果表明，本文提出的方法在 CADEC、GENIA 和CoNLL2003等标准英文数据集上均取得了较好的性能，验证其在命名实体识别任务中的有效性和可行性。

	服务
	把本文推荐给朋友
	加入引用管理器
	E-mail Alert
	RSS
	（）
	作者相关文章

关键词 ：命名实体识别, 旋转注意力, 词对关系, 分类

Abstract：Addressing the issue of inadequate classification accuracy in named entity recognition via entity word-to-relationship modeling, we propose a method using rotational attention. Firstly, the text is encoded using the BERT model and Bi-LSTM, fol‐ lowed by extraction of features from input text using convolutional neural networks. Subsequently, the extracted feature sequence is inputted into the rotational attention model for output probability calculations, and the MLP layer is used for output classification. The study's outcomes affirm the efficacy and feasibility of the technique proposed in this paper, as it successfully yields superior re‐ sults on mainstream English databases including CADEC, GENIA and CoNLL2003, for named entity recognition exercise.

Key words： Named Entity Recognition Rotating Attention Word Pair Relationship classification

年卷期日期: 2024-02-01 出版日期: 2024-05-10

引用本文:

来小孟　魏嘉银. 基于旋转注意力的命名实体识别模型[J]. 电脑与电信, 2024, 1(1): 21-25.
LAI Xiao-meng　WEI Jia-yin. A Named Entity Recognition Model Based on Rotational Attention. Computer & Telecommunication, 2024, 1(1): 21-25.

链接本文:

https://www.computertelecom.com.cn/CN/10.15966/j.cnki.dnydx.2024.z1.011 或 https://www.computertelecom.com.cn/CN/Y2024/V1/I1/21

[1]	刘世兴. 基于梯度下降和多指标融合的文本特征选择算法[J]. 电脑与电信, 2023, 1(5): 50-.
[2]	沈雅婷徐志豪. 随机森林在中文图书分类中的应用和改进 [J]. 电脑与电信, 2022, 1(8): 4-7.
[3]	刘逸琛. 基于变分自编码器的商品文本分类算法设计 [J]. 电脑与电信, 2022, 1(6): 37-.
[4]	李清旭张琛成雪. 基于特征融合的文本情感分类 [J]. 电脑与电信, 2022, 1(1-2): 1-6.
[5]	颜谦和颜珍平. 基于AIOT技术的垃圾分类系统方案设计[J]. 电脑与电信, 2021, 1(9): 45-.
[6]	沈雅婷邵莹卞恺. 智慧图书馆图书分类模型技术研究综述 [J]. 电脑与电信, 2021, 1(12): 9-13.
[7]	张宝燕. 基于深度卷积网络的地理图像分类研究 [J]. 电脑与电信, 2021, 0(10): 75-79.
[8]	朱宇轩吴腾飞陈崧. 城市生活垃圾分类自动提醒与查询装置设计[J]. 电脑与电信, 2021, 1(1): 7-10.
[9]	张慧芳宗彩乐张晓琳. 基于分布式框架下的中文文本特征分类[J]. 电脑与电信, 2019, 1(5): 1-7.
[10]	王文溥杜丽美. 大学计算机分类分层教学改革与实践[J]. 电脑与电信, 2019, 1(3): 74-76.
[11]	陈泽波. 基于分类的协同过滤图书推荐系统应用研究[J]. 电脑与电信, 2015, 1(9): 60-62.
[12]	宋倩王, 东明. 基于遗传算法及概率论的文本分类算法[J]. 电脑与电信, 2015, 1(3): 49-52.
[13]	杨靖, 曹永锋. RadarSat-2 全极化数据土地覆盖分类精度评价[J]. 电脑与电信, 2015, 1(1-2): 18-20.
[14]	张晓艳华英 . 文本挖掘的方法及应用研究[J]. , 2011, 1(12): 0-0.
[15]	王玉英沈灵敏. 判别分析在电信客户分类中的应用[J]. , 2011, 1(11): 0-0.