期刊文献+
共找到3篇文章
< 1 >
每页显示 20 50 100
基于RoBERTa-WWM的大学生论坛情感分析模型 被引量:14
1
作者 王曙燕 原柯 《计算机工程》 CAS CSCD 北大核心 2022年第8期292-298,305,共8页
大学生论坛语句具有篇幅短、口语化、多流行用语等特点,传统的情感分析模型难以对其进行精准的语义特征表示,并且未充分关注语句的局部特征与上下文语境。提出一种基于RoBERTa-WWM的大学生情感分析模型。通过RoBERTa-WWM模型将论坛文本... 大学生论坛语句具有篇幅短、口语化、多流行用语等特点,传统的情感分析模型难以对其进行精准的语义特征表示,并且未充分关注语句的局部特征与上下文语境。提出一种基于RoBERTa-WWM的大学生情感分析模型。通过RoBERTa-WWM模型将论坛文本语句转化为语义特征表示,并将其输入到文本卷积神经网络中,以提取语句的局部语义特征,同时利用双向门控循环单元网络对局部语义特征进行双向处理,获得全面的上下文语义信息。在此基础上,通过Softmax分类器计算语句在情感标签中的概率向量,选择最大值表示的情感标签作为最终输出的情感标签。实验结果表明,相比RoBERTa-WWM、EK-INIT-CNN、BERT等模型,该模型在大学生论坛与NLPCC2014数据集上具有较优的分类性能,并且在大学生论坛数据集上宏平均精准率、宏平均召回率、宏平均F1值和微平均F1值分别为89.43%、90.43%、90.12%和92.48%。 展开更多
关键词 深度学习 大学生情感分析 RoBERTa-WWM模型 文本卷积神经网络 双向门控循环单元网络
下载PDF
基于BERT字向量和TextCNN的农业问句分类模型分析 被引量:6
2
作者 鲍彤 罗瑞 +2 位作者 郭婷 贵淑婷 任妮 《南方农业学报》 CAS CSCD 北大核心 2022年第7期2068-2076,共9页
【目的】研究不同词向量和深度学习模型组合对农业问句分类结果的影响,为构建农业智能问答系统提供技术支撑。【方法】通过爬虫获取农业种植网等网站的问答数据,选择20000条问句进行人工标注,构建农业问句分类语料库。采用BERT对农业问... 【目的】研究不同词向量和深度学习模型组合对农业问句分类结果的影响,为构建农业智能问答系统提供技术支撑。【方法】通过爬虫获取农业种植网等网站的问答数据,选择20000条问句进行人工标注,构建农业问句分类语料库。采用BERT对农业问句进行字符编码,利用文本卷积神经网络(TextCNN)提取问句高维度特征对农业问句进行分类。【结果】在词向量对比实验中,BERT字向量与TextCNN结合时农业问句分类F1值达93.32%,相比Word2vec字向量提高2.1%。在深度学习模型的分类精度对比方面,TextCNN与Word2vec和BERT字向量结合的F1值分别达91.22%和93.32%,均优于其他模型。在农业问句的细分试验中,BERT-TextCNN在栽培技术、田间管理、土肥水管理和其他4个类别中分类F1值分别为86.06%、90.56%、95.04%和85.55%,均优于其他深度学习模型。超参数设置方面,BERT-TextCNN农业问句分类模型卷积核大小设为[3,4,5]、学习率设为5e-5、迭代次数设为5时效果最优,该模型在数据样本不均衡的情况下,对于农业问句的平均分类准确率依然能达93.00%以上,可满足农业智能问答系统的问句分类需求。【建议】通过阿里NLP等开源平台提升数据标注质量;在分类过程中补充词频和文档特征,提高模型分类精度;农业相关政府职能部门加强合作,积极探索农业技术数字化推广和服务新模式。 展开更多
关键词 农业问句 智能问答系统 问句分类 预训练语言模型(BERT) 文本卷积神经网络
下载PDF
语义分析在进出口商品申报信息智能判别场景中的应用
3
作者 马群凯 王齐 +2 位作者 冯立胜 李颖 赵碧君 《中国口岸科学技术》 2023年第S01期55-59,共5页
在海关缉私和税收等监管场景中,需要对进出口商品申报信息是否存在伪瞒报情况进行检查,存在传统人工判别效率相对较低,有效甄别单量较少等问题。为解决上述问题,本文引入语义分析方法,构建智能研判模型。首先开展语义分析在词汇、句子... 在海关缉私和税收等监管场景中,需要对进出口商品申报信息是否存在伪瞒报情况进行检查,存在传统人工判别效率相对较低,有效甄别单量较少等问题。为解决上述问题,本文引入语义分析方法,构建智能研判模型。首先开展语义分析在词汇、句子和篇章三个层面的理论研究,随后采用词向量、词嵌入、分词和文本卷积神经网络算法构建报关单商品申报智能归类模型。模型平均准确率达95.17%且未出现过拟合,取得较好应用效果。 展开更多
关键词 语义分析 文本卷积神经网络 机器学习 深度学习
原文传递
上一页 1 下一页 到第
使用帮助 返回顶部