期刊文献+
共找到9篇文章
< 1 >
每页显示 20 50 100
基于BERT嵌入的中文命名实体识别方法 被引量:97
1
作者 杨飘 董文永 《计算机工程》 CAS CSCD 北大核心 2020年第4期40-45,52,共7页
在基于神经网络的中文命名实体识别过程中,字的向量化表示是重要步骤,而传统的词向量表示方法只是将字映射为单一向量,无法表征字的多义性.针对该问题,通过嵌入BERT预训练语言模型,构建BERT-BiGRU-CRF模型用于表征语句特征.利用具有双向... 在基于神经网络的中文命名实体识别过程中,字的向量化表示是重要步骤,而传统的词向量表示方法只是将字映射为单一向量,无法表征字的多义性.针对该问题,通过嵌入BERT预训练语言模型,构建BERT-BiGRU-CRF模型用于表征语句特征.利用具有双向Transformer结构的BERT预训练语言模型增强字的语义表示,根据其上下文动态生成语义向量.在此基础上,将字向量序列输入BiGRU-CRF模型中进行训练,包括训练整个模型和固定BERT只训练BiGRU-CRF2种方式.在MSRA语料上的实验结果表明,该模型2种训练方式的F1值分别达到95.43%和94.18%,优于BiGRU-CRF、Radical-BiLSTM-CRF和Lattice-LSTM-CRF模型. 展开更多
关键词 中文命名实体识别 BERT模型 bigru模型 预训练语言模型 条件随机场
下载PDF
“互联网+”环境下融合多特征的弹幕数据情绪监测模型构建
2
作者 刘家威 郑军红 何利力 《软件导刊》 2024年第2期17-24,共8页
针对企业营销活动中未充分考虑客户情感特征,导致营销效果达不到预期的问题,提出一种融合多特征的ALBERT-SA-BIGRU模型。首先,基于企业营销活动弹幕数据构建表情符号词典及相关语料库。其次,将弹幕文本与弹幕属性共同输入ALBERT模型中... 针对企业营销活动中未充分考虑客户情感特征,导致营销效果达不到预期的问题,提出一种融合多特征的ALBERT-SA-BIGRU模型。首先,基于企业营销活动弹幕数据构建表情符号词典及相关语料库。其次,将弹幕文本与弹幕属性共同输入ALBERT模型中提取弹幕文本的特征表示,并与GloVe预先训练好的表情符号特征融合。再次,利用自注意机制捕捉表情符号与弹幕文本、弹幕属性之间的关系,将捕获的词语特征输入BiGRU中从前向、后向捕获信息,加强语义依赖,提取情感特征。最后,用Softmax逻辑回归进行情感倾向性分类,构建情绪监测图。以某互联网营销平台163253条弹幕数据对模型进行性能验证的结果表明,模型准确率、精确率、召回率分别为88.8%、88.7%、88.9%,相较于其他模型均有一定提升,可为企业在营销活动中实现用户情绪监测智能化精准营销提供支持。 展开更多
关键词 多特征 ALBERT模型 GloVe模型 自注意机制 bigru模型 情绪监测
下载PDF
基于BiGRU模型的多模态网络舆情情感分析
3
作者 张晋敏 李旭芳 樊弟军 《智能计算机与应用》 2024年第1期191-193,199,共4页
情感分析可以挖掘社会热点事件网络舆情的矛盾冲突,加强对多模态信息的分析处理,对网络舆情管理具有重要意义。本文基于BiGRU模型构建多模态网络舆情情感分析框架,运用word2vec提取文本特征,卷积神经网络提取图像特征,采用线性融合进行... 情感分析可以挖掘社会热点事件网络舆情的矛盾冲突,加强对多模态信息的分析处理,对网络舆情管理具有重要意义。本文基于BiGRU模型构建多模态网络舆情情感分析框架,运用word2vec提取文本特征,卷积神经网络提取图像特征,采用线性融合进行特征融合实现情感分析。与基线模型相比,本文的多模态网络舆情情感分析方法准确率、宏平均F1和加权平均F1的结果更优,对现实生活产生的舆情事件具有较好的情感识别效果。 展开更多
关键词 多模态 网络舆情 情感分析 bigru模型
下载PDF
基于词性特征的CNN_BiGRU文本分类模型 被引量:6
4
作者 张小川 刘连喜 +1 位作者 戴旭尧 刘璐 《计算机应用与软件》 北大核心 2021年第11期155-161,共7页
传统词嵌入通常将词项的不同上下文编码至同一参数空间,造成词向量未能有效辨别多义词的语义;CNN网络极易关注文本局部特征而忽略文本时序语义,BiGRU网络善于学习文本时序整体语义,造成关键局部特征提取不足。针对上述问题,提出一种基... 传统词嵌入通常将词项的不同上下文编码至同一参数空间,造成词向量未能有效辨别多义词的语义;CNN网络极易关注文本局部特征而忽略文本时序语义,BiGRU网络善于学习文本时序整体语义,造成关键局部特征提取不足。针对上述问题,提出一种基于词性特征的CNNBiGRU文本分类模型。引入词性特征构建具有词性属性的词性向量;将词性向量与词向量交叉组合形成增强词向量,以改善文本表示;采用CNN网络获取增强词向量的局部表示,利用BiGRU网络捕获增强词向量的全局上下文表示;融合两模型学习的表示形成深度语义特征;将该深度语义特征连接至Softmax分类器完成分类预测。实验结果表明,该模型提高了分类准确率,具有良好的文本语义建模和识别能力。 展开更多
关键词 词性特征 词性向量 增强词向量 CNN网络 bigru网络 CNN--_bigru模型
下载PDF
基于Bahdanau注意力机制的大口径火炮双向GRU轨迹预测
5
作者 彭晨洋 陈龙淼 张鸣洋 《兵器装备工程学报》 CAS CSCD 北大核心 2024年第7期56-64,共9页
针对大口径火炮弹丸轨迹预测问题,提出一种基于Bahdanau注意力机制与双向门控循环单元网络的序列到序列轨迹预测模型(S2S ATT-BiGRU)。通过不同条件下六自由度弹丸运动模型仿真,得到大量弹丸轨迹数据样本,并利用滑动窗口法和差分法构造... 针对大口径火炮弹丸轨迹预测问题,提出一种基于Bahdanau注意力机制与双向门控循环单元网络的序列到序列轨迹预测模型(S2S ATT-BiGRU)。通过不同条件下六自由度弹丸运动模型仿真,得到大量弹丸轨迹数据样本,并利用滑动窗口法和差分法构造仿真数据集;将所提轨迹预测模型与GRU模型在仿真数据集下进行实验。研究结果表明,S2S ATT-BiGRU模型在输入时间为0.5 s预测未来时间为5 s的情况下,其MSE为13.89 m^(2),MAE为1.84 m, MAPE为0.29%,其预测精度远高于GRU模型。在其余情况下S2S ATT-BiGRU模型的预测结果均优于GRU模型。这表明S2S ATT-BiGRU模型具有更强的存储输入轨迹序列信息和自适应关注重要输入轨迹信息的能力,为弹丸轨迹预测研究提供有利参考。 展开更多
关键词 轨迹预测 弹道模型 S2S ATT-bigru模型 深度学习
下载PDF
基于双通道注意力机制的AE-BIGRU交通流预测模型
6
作者 黄艳国 何烜 杨仁峥 《铁道科学与工程学报》 EI CAS CSCD 北大核心 2024年第5期1774-1782,共9页
交通流预测是智能交通系统的关键。针对目前交通流数据复杂的时空关联性以及自身的不确定性,为准确预测高速公路交通流并缓解交通拥堵问题,提出以自编码器网络(AE)和双向门控循环单元(BIGRU)相结合的深度学习组合预测模型(AE-BIGRU),并... 交通流预测是智能交通系统的关键。针对目前交通流数据复杂的时空关联性以及自身的不确定性,为准确预测高速公路交通流并缓解交通拥堵问题,提出以自编码器网络(AE)和双向门控循环单元(BIGRU)相结合的深度学习组合预测模型(AE-BIGRU),并在此基础上引入双通道注意力机制进行模型训练。将预处理后的数据采用滑动窗口的方式作为参数输入模型,通过AE提取交通流的空间特征,得到输入信息特征的最优抽象表示;利用BIGRU从前向和后向传播中获取信息,充分提取交通流的时间相关特征,更全面地捕捉时间演变规律;最后结合双通道注意力机制,增强预测模型的特征提取能力,最大限度地保留特征信息,提升模型的预测精度,从而得到最终短时流量的预测目标值。为验证模型的适用性,采用多组短时交通流数据进行仿真实验,与其他基准模型对比发现:该交通流预测模型能够有效捕获交通流的动态时空特征,加强关键信息的提取,所预测的流量更加接近真实值,具有良好的泛化能力。其中测试集的均方根误差值下降了约0.061~0.604,平均绝对误差值下降了约0.025~0.512,相关系数值R2提高了约0.007~0.062。研究结果表明,随着预测步长的增加,该实验模型在交通流数据的时间特性上仍能表现出稳定的预测性能,所建的组合预测模型在预测精度和鲁棒性方面表现出更高水平。 展开更多
关键词 智能交通 交通流预测 AE-bigru模型 深度学习 双通道注意力机制
下载PDF
基于ERNIE-BiGRU模型的摘要语步自动识别研究 被引量:2
7
作者 温浩 何茜茹 +2 位作者 王杰 乔晓东 张鹏 《中文信息学报》 CSCD 北大核心 2022年第11期91-100,共10页
学术文献的摘要是对文献主要内容的浓缩,摘要不同部分的语步具有不同的信息,语步的自动识别和抽取对于学术摘要的后续研究有着重要的应用价值,而目前语步识别的研究相对较少,并且相关算法的效果还需要提高。针对上述问题,该文提出了一... 学术文献的摘要是对文献主要内容的浓缩,摘要不同部分的语步具有不同的信息,语步的自动识别和抽取对于学术摘要的后续研究有着重要的应用价值,而目前语步识别的研究相对较少,并且相关算法的效果还需要提高。针对上述问题,该文提出了一种基于ERNIE-BiGRU模型的语步识别算法。该算法首先结合中文句法分析理论提出基于句法依存关系的多语步结构拆分法,对学术文献摘要多语步结构进行自动拆分,获得多个单语步结构;然后构建用于训练的单语步结构语料库,并利用知识增强语义表示预训练模型,训练出句子级词向量;最后将训练出的单语步结构词向量信息输入双向门限循环单元(BiGRU)进行摘要语步自动化识别,取得了良好的效果。实验结果表明,该算法具有较好的鲁棒性和较高的识别精度,在结构化和非结构化摘要上的识别准确率分别达到了96.57%和93.75%。 展开更多
关键词 中文句法分析 多语步结构拆分 ERNIE-bigru模型
下载PDF
基于字向量的BiGRU-CRF肺癌医案四诊信息实体抽取研究 被引量:6
8
作者 屈丹丹 杨涛 +1 位作者 朱垚 胡孔法 《世界科学技术-中医药现代化》 CSCD 北大核心 2021年第9期3118-3125,共8页
目的肺癌医案中蕴含丰富的四诊信息,这些四诊信息对肺癌的研究具有重要意义。本文通过基于字向量的BiGRU-CRF方法实现四诊信息实体抽取研究。方法研究利用BERT模型对基于自定义词典自动化标注后的肺癌临床数据进行预训练,得到包含上下... 目的肺癌医案中蕴含丰富的四诊信息,这些四诊信息对肺癌的研究具有重要意义。本文通过基于字向量的BiGRU-CRF方法实现四诊信息实体抽取研究。方法研究利用BERT模型对基于自定义词典自动化标注后的肺癌临床数据进行预训练,得到包含上下文语义的字向量,再将其作为BiGRU-CRF模型输入,实现肺癌医案四诊信息命名实体抽取。结果本文方法对临床表现、舌象、脉象、身体部位、程度副词五类实体抽取的F1值分别为98.17%、99.74%、99.77%、94.72%、93.36%,对比模型BERT-BiLSTM-CRF、BERT模型和Word2vec-BiGRU-CRF模型抽取的F1值分别为(96.46%、99.31%、98.78%、94.95%、92.44%)、(94.38%、95.14%、94.99%、90.89%、91.82%)和(91.27%、97.95%、98.09%、87.01%、86.77%)。结论本文利用基于字向量的BiGRU-CRF方法具有更强的命名实体识别能力,可以更好地应用于中医医案命名实体抽取研究,进而为医案的关系抽取以及知识图谱构建提供支持。 展开更多
关键词 BERT模型 bigru-CRF模型 肺癌 四诊信息 实体抽取
下载PDF
高速公路施工控制区动态交通流预测的LSTM-BiGRU-Attention模型
9
作者 韩晓 陈昕 肇毓 《交通科技与经济》 2024年第1期17-23,共7页
为提前准确预知高速公路施工控制区交通流变化趋势,解决交通流时间序列中的长期依赖问题,文中建立了高速公路施工控制区动态交通流预测的LSTM-BiGRU-Attention模型。首先,将预处理后的动态交通流数据集按时间步长顺序输入到LSTM网络,对... 为提前准确预知高速公路施工控制区交通流变化趋势,解决交通流时间序列中的长期依赖问题,文中建立了高速公路施工控制区动态交通流预测的LSTM-BiGRU-Attention模型。首先,将预处理后的动态交通流数据集按时间步长顺序输入到LSTM网络,对交通流信息建模和学习。然后,引入BiGRU和Attention机制以更好地捕捉上下文信息和提供更具针对性的权重分配。最后,将构建的LSTM-BiGRU-Attention模型与其他模型进行交通流预测对比,评估模型性能。实验以G35济广高速公路某施工控制区交通运行情况为案例进行研究,结果显示该模型的平均绝对误差MAE为1.91,均方根误差RMSE为2.83,决定系数R^(2)为0.79,平均绝对百分数误差MAPE为3.23。对比其他模型,LSTM-BiGRU-Attention模型的4个评估指标均有所下降,说明该模型可为高速公路施工控制区提供更加精准的预测。 展开更多
关键词 交通管理与控制 交通流预测 LSTM-bigru-Attention模型 动态交通流 实验对比
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部