期刊文献+
共找到57篇文章
< 1 2 3 >
每页显示 20 50 100
基于深度学习的ADS-B异常数据检测模型 被引量:30
1
作者 丁建立 邹云开 +1 位作者 王静 王怀超 《航空学报》 EI CAS CSCD 北大核心 2019年第12期162-172,共11页
广播式自动相关监视(ADS-B)是下一代空中交通运输系统的重要组成部分,是新航行系统中非常重要的通信和监视技术,但其协议没有提供相关的信息认证和数据加密,因此极其容易受到欺骗干扰的影响。针对ADS-B报文数据特点,采用深度学习的seq2... 广播式自动相关监视(ADS-B)是下一代空中交通运输系统的重要组成部分,是新航行系统中非常重要的通信和监视技术,但其协议没有提供相关的信息认证和数据加密,因此极其容易受到欺骗干扰的影响。针对ADS-B报文数据特点,采用深度学习的seq2seq模型对ADS-B报文数据进行重构,通过重构误差来检测异常,并对数据进行特征扩展,使模型能更好的捕捉数据的时间依赖性。实验结果表明,所采用的方法优于传统的机器学习方法,且在数据特征扩展后,模型检测效果提升。相比于现有的欺骗干扰检测方法,该方法不需要改变ADS-B系统的协议,也不需要额外的节点或传感器参与,具有一定的适应性和灵活性。 展开更多
关键词 广播式自动相关监视(ADS-B) 安全性 异常检测 深度学习 seq2seq模型
原文传递
基于改进seq2seq模型的英汉翻译研究 被引量:19
2
作者 肖新凤 李石君 +2 位作者 余伟 刘杰 刘倍雄 《计算机工程与科学》 CSCD 北大核心 2019年第7期1257-1265,共9页
目前机器翻译主要对印欧语系进行优化与评测,很少有对中文进行优化的,而且机器翻译领域效果最好的基于注意力机制的神经机器翻译模型—seq2seq模型也没有考虑到不同语言间语法的变换。提出一种优化的英汉翻译模型,使用不同的文本预处理... 目前机器翻译主要对印欧语系进行优化与评测,很少有对中文进行优化的,而且机器翻译领域效果最好的基于注意力机制的神经机器翻译模型—seq2seq模型也没有考虑到不同语言间语法的变换。提出一种优化的英汉翻译模型,使用不同的文本预处理和嵌入层参数初始化方法,并改进seq2seq模型结构,在编码器和解码器之间添加一层用于语法变化的转换层。通过预处理,能缩减翻译模型的参数规模和训练时间20%,且翻译性能提高0.4BLEU。使用转换层的seq2seq模型在翻译性能上提升0.7~1.0BLEU。实验表明,在规模大小不同的语料英汉翻译任务中,该模型与现有的基于注意力机制的seq2seq主流模型相比,训练时长一致,性能提高了1~2BLEU。 展开更多
关键词 深度学习 神经机器翻译 seq2seq模型 注意力机制 命名实体识别
下载PDF
基于深度特征和Seq2Seq模型的网络态势预测方法 被引量:14
3
作者 林志兴 王立可 《计算机应用》 CSCD 北大核心 2020年第8期2241-2247,共7页
针对目前大多数的网络态势预测方法不能挖掘数据中的深度信息且需要手动提取与构造特征的问题,提出了深度特征网络态势预测方法DFS-Seq2Seq。首先将网络流、日志和系统事件等产生的数据进行清洗处理,使用深度特征融合算法自动合成深度... 针对目前大多数的网络态势预测方法不能挖掘数据中的深度信息且需要手动提取与构造特征的问题,提出了深度特征网络态势预测方法DFS-Seq2Seq。首先将网络流、日志和系统事件等产生的数据进行清洗处理,使用深度特征融合算法自动合成深度关系特征,然后采用自动编码器对合成的特征进行提取,最后使用长短期记忆网络(LSTM)构建Seq2Seq模型对数据进行预测。通过设计缜密的实验在公开数据集Kent2016上对所提方法进行验证,结果显示在深度为2时与支持向量机(SVM)、贝叶斯、随机森林(RF)和LSTM这四种分类模型相比,其召回率分别提升了7.4%、11.5%、6.5%、3.0%。实验结果表明DFS-Seq2Seq可以在实际应用中有效地识别网络身份验证中的危险事件,对网络态势作出有效的预测。 展开更多
关键词 网络态势 深度特征合成 自动编码器 seq2seq模型 双向长短期记忆网络
下载PDF
基于深度学习的个性化聊天机器人研究 被引量:11
4
作者 王乾铭 李吟 《计算机技术与发展》 2020年第4期79-84,共6页
为了对传统的聊天机器人局限性进行改进,增强其回复时的个性化和多样化,并使其具有一定的准确性,研究改进了一种基于深度学习Seq2Seq模型的对话系统。对传统的编码器-解码器(Encoder-Decoder)模型进行了研究,在原有模型的基础上使用了深... 为了对传统的聊天机器人局限性进行改进,增强其回复时的个性化和多样化,并使其具有一定的准确性,研究改进了一种基于深度学习Seq2Seq模型的对话系统。对传统的编码器-解码器(Encoder-Decoder)模型进行了研究,在原有模型的基础上使用了深度LSTM结构并且加入注意力机制使其能更好地适应不同长度的问句。在解码过程中,将原有模型的贪心算法改为了Beam Search算法。在训练过程中,利用了多次训练的方法,训练出模拟电视剧角色的聊天机器人,为聊天机器人赋予一个特定的身份。通过使用两种自动评估指标BLEUs和Distinct-n去测试聊天机器人,并使用一些问句测试聊天机器人的反应,最终实验结果表明新模型与原有的模型相比,两种指标都取得了较好的效果,并且输出句子的合理性以及回复质量也有明显的提高。 展开更多
关键词 聊天机器人 seq2seq模型 注意力机制 多样性 个性化
下载PDF
基于生成对抗网络的飞机燃油数据缺失值填充方法 被引量:10
5
作者 郭毅博 牛猛 +6 位作者 王海迪 陈艳华 薛均晓 袁玥 侯立硕 徐明亮 潘俊 《浙江大学学报(理学版)》 CAS CSCD 北大核心 2021年第4期402-409,共8页
飞机传感器采集的燃油数据是后续燃油测量的基础。在飞行过程中,由传感器采集的数据因存在部分缺失值,如直接进行后续处理将影响燃油测量精度。现有的缺失值填充方法存在两方面问题,一方面易忽视飞机燃油时序数据在时间维度上的上下文... 飞机传感器采集的燃油数据是后续燃油测量的基础。在飞行过程中,由传感器采集的数据因存在部分缺失值,如直接进行后续处理将影响燃油测量精度。现有的缺失值填充方法存在两方面问题,一方面易忽视飞机燃油时序数据在时间维度上的上下文依赖关系;另一方面缺少完整的样本数据集进行模型训练。基于此,提出了一种基于生成对抗网络的缺失值填充方法,从而有效解决了传统方法难以处理的时序数据历史隐含规律及样本不完整的问题,且填充效果较其他算法更佳。 展开更多
关键词 缺失值填充方法 生成对抗网络 seq2seq模型 循环神经网络
下载PDF
基于时序数据库与深度学习的制丝实时数据应用研究 被引量:7
6
作者 顾茜 钱继春 《中国烟草学报》 CAS CSCD 北大核心 2021年第3期104-113,共10页
【目的】研究气流烘丝机叶丝干燥工序出口叶丝含水率实时趋势预测的解决方案,提高产品工艺质量稳定性。【方法】基于时序数据库InfluxDB对实时生产数据进行存储、查询统计、分析告警,使用三次指数平滑算法、长短期记忆网络(LSTM)和序列... 【目的】研究气流烘丝机叶丝干燥工序出口叶丝含水率实时趋势预测的解决方案,提高产品工艺质量稳定性。【方法】基于时序数据库InfluxDB对实时生产数据进行存储、查询统计、分析告警,使用三次指数平滑算法、长短期记忆网络(LSTM)和序列到序列学习(Seq2Seq)对生产过程数据建模预测。【结果】①三次指数平滑算法集成在时序数据库中,可实现精度良好、准实时的叶丝出口含水率趋势预测;②在料头生产关键参数模仿学习方面,LSTM模型在整体性能上具有显著优势。【结论】采用时序数据库和深度学习算法结合的实时数据应用框架,横向集成最优算法模型,预测精度和应用效果良好。 展开更多
关键词 时间序列数据库 深度学习 工业物联网 LSTM模型 seq2seq模型 InfluxDB 边缘计算
下载PDF
基于Seq2Seq模型的工作流动态调度多目标进化算法
7
作者 严佳豪 张明珠 +3 位作者 杨中国 高晶 王桂玲 赵卓峰 《郑州大学学报(理学版)》 CAS 北大核心 2023年第1期35-41,共7页
将数据处理类工作流在云计算环境下的调度问题建模为动态多目标优化问题,同时为了解决静态多目标优化算法在环境参数动态变化下可能出现的种群多样性缺失问题,在NSGA-II算法的基础上结合Seq2Seq深度学习模型,提出了DNSGA-II-Seq2Seq算法... 将数据处理类工作流在云计算环境下的调度问题建模为动态多目标优化问题,同时为了解决静态多目标优化算法在环境参数动态变化下可能出现的种群多样性缺失问题,在NSGA-II算法的基础上结合Seq2Seq深度学习模型,提出了DNSGA-II-Seq2Seq算法,算法通过Seq2Seq模型学习连续历史环境下局部最优解的变化规律,在环境变化时预测新的解并将其加入NSGA-II算法的种群中,以解决多样性缺失问题,同时加速算法收敛。在改进的WorkflowSim上进行的实验表明,与其他经典的算法相比,DNSGA-II-Seq2Seq算法预测的解和最终结果在多项指标上均优于其他算法,验证了算法的有效性。 展开更多
关键词 工作流调度 seq2seq模型 动态多目标优化算法 DNSGA-II-seq2seq算法
下载PDF
手语数字人技术及智能应用研究
8
作者 刘鸿宇 付继林 王珍珍 《价值工程》 2024年第2期98-101,共4页
对智谱AI、腾讯、华为等头部企业打造的手语数字人产品进行梳理,研究和探讨我国代表性手语数字人产品的主要技术路线和智能应用。手语数字人的制作流程包括形象设计、建模、动作捕捉、驱动、渲染。通过多模型、多算法等AI技术集成实现... 对智谱AI、腾讯、华为等头部企业打造的手语数字人产品进行梳理,研究和探讨我国代表性手语数字人产品的主要技术路线和智能应用。手语数字人的制作流程包括形象设计、建模、动作捕捉、驱动、渲染。通过多模型、多算法等AI技术集成实现手语数字人应用场景落地。智谱AI手语数字人核心技术含seq2seq模型、生成对抗网络,创造性地将对比学习引入mBart模型等。当前我国手语数字人在新闻播报、教育、国际赛事和重要会议翻译等方面实现智能应用。未来我国手语数字人技术有望迎来新突破,智能应用也将拓展到智慧医疗、智慧交通等更多领域。 展开更多
关键词 手语 手语数字人技术 智能应用 seq2seq模型 mBart模型
下载PDF
基于seq2seq和SVM双层融合的非侵入式用户异常行为检测
9
作者 江友华 叶梦豆 +1 位作者 赵乐 杨兴武 《计算机应用与软件》 北大核心 2024年第9期97-105,共9页
以非侵入式负荷分解为基础,对用户异常用电行为进行研究。采用Kmeans聚类算法提取负荷状态特征;采用深度学习算法中的序列到序列翻译(sequence to sequence, seq2seq)模型,将电力用户用电总数据分解成单个电器的功耗数据;结合SVM算法对... 以非侵入式负荷分解为基础,对用户异常用电行为进行研究。采用Kmeans聚类算法提取负荷状态特征;采用深度学习算法中的序列到序列翻译(sequence to sequence, seq2seq)模型,将电力用户用电总数据分解成单个电器的功耗数据;结合SVM算法对分解后多种家用电器用电数据进行异常检测。在UKDALE数据集实验结果表明,该模型不仅能提高分解准确度、降低分解误差,而且多个电器数据结合分析实现了用户异常行为检测。 展开更多
关键词 非侵入式负荷分解 Kmeans聚类 seq2seq模型 SVM算法 异常行为检测
下载PDF
基于LSTM与seq2seq模型的短期电力负荷预测方法 被引量:2
10
作者 李建芳 纪鑫 +2 位作者 张海峰 赵晓龙 陈润东 《电子设计工程》 2023年第24期150-153,158,共5页
为了提高短期负荷预测的精度,利用长短期记忆(Long Short-Term Memory,LSTM)与seq2seq(sequence to sequence)模型预测短期电力负荷。根据电力负荷数据的组成结构和产生原理,收集历史负荷数据,通过缺失补全、归一化等步骤,完成初始收集... 为了提高短期负荷预测的精度,利用长短期记忆(Long Short-Term Memory,LSTM)与seq2seq(sequence to sequence)模型预测短期电力负荷。根据电力负荷数据的组成结构和产生原理,收集历史负荷数据,通过缺失补全、归一化等步骤,完成初始收集数据的预处理。构建LSTM与seq2seq模型,利用该模型提取历史电力负荷数据特征,推导出电力负荷数据的变化规律。综合考虑了各因素对电网的影响,得到了电网的短期负荷预测结果。实验结果证明,与传统预测方法相比,在工作日和休息日中,优化设计预测方法的平均误差分别降低了5.64 kW·h和3.53 kW·h,提高了电力负荷预测精度。 展开更多
关键词 LSTM seq2seq模型 短期电力负荷 负荷预测
下载PDF
基于注意力Seq2Seq神经网络的生物强化系统厌氧发酵菌体质量预测研究
11
作者 毛腾跃 李星星 +3 位作者 占伟 杜亚光 贴军 郑禄 《湖北师范大学学报(自然科学版)》 2024年第2期37-44,共8页
生物强化厌氧发酵系统能够提高发酵效率和产物质量。然而,在生物强化甲烷厌氧发酵过程中,关键的生物参数难以实时在线测量。为了解决这一问题,提出了一种基于注意力融入Seq2Seq-LSTM模型的质量预测方法。通过编码器将时间序列数据输入,... 生物强化厌氧发酵系统能够提高发酵效率和产物质量。然而,在生物强化甲烷厌氧发酵过程中,关键的生物参数难以实时在线测量。为了解决这一问题,提出了一种基于注意力融入Seq2Seq-LSTM模型的质量预测方法。通过编码器将时间序列数据输入,并引入注意力机制以增强对重要信息的关注,从而得到更新后的中间向量;在解码器中同样引入注意力机制,利用LSTM神经网络对当前时刻的中间向量和输入信息进行综合处理。同时,为了提高模型的稳定性,使用了Adamw梯度下降优化器进行训练。最后,将该方法与LSTM、AM-LSTM模型一同应用于甲烷发酵菌体质量预测并进行对比。实验结果表明,该模型拟合能力和预测准确性均优于其他两种模型,能够更好适用于甲烷发酵菌体质量的在线预测。 展开更多
关键词 生物强化 厌氧发酵 质量预测 LSTM神经网络 注意力机制 seq2seq模型
下载PDF
基于并行SDAE-Seq2Seq模型的轴承寿命预测方法
12
作者 张俊杰 王海瑞 +1 位作者 李亚 朱贵富 《化工自动化及仪表》 CAS 2024年第3期427-437,共11页
基于数据驱动的轴承寿命预测方法大多需要人工提取退化特征,而且对于不同工况下的轴承需要进行针对性优化,也是依赖专家知识和经验进行特征提取。为此,提出一种并行堆叠降噪自动编码器算法(PSDAE)来提取轴承退化特征,并结合Seq2Seq模型... 基于数据驱动的轴承寿命预测方法大多需要人工提取退化特征,而且对于不同工况下的轴承需要进行针对性优化,也是依赖专家知识和经验进行特征提取。为此,提出一种并行堆叠降噪自动编码器算法(PSDAE)来提取轴承退化特征,并结合Seq2Seq模型预测轴承剩余寿命。通过PSDAE直接对原始振动信号进行降噪、降维,得到退化特征,通过神经网络的学习和训练自动获得不同工况下的轴承退化特征。其次,引入注意力机制,将提取的特征输入Seq2Seq模型进行训练,并在PHM2012数据集上验证模型的预测效果。实验结果表明:PSDAE通过并行集成方式降低了模型的训练参数和整体误差,提取的退化特征在单调性和可预测性方面优于堆叠降噪自动编码器(SDAE),使用该退化特征有效减少了Seq2Seq模型的预测误差,提高了预测得分,具有更好的预测效果和稳定性。 展开更多
关键词 并行堆叠降噪自动编码器算法 寿命预测 滚动轴承 特征提取 注意力机制 seq2seq模型
下载PDF
基于机器视觉的英语语法自动纠错系统设计 被引量:5
13
作者 张卫娜 《自动化与仪器仪表》 2022年第8期199-203,共5页
以文本识别为基础,进行英语语法自动纠错时,往往依靠人眼识别方式,使得自动纠错系统的F_(0.5)值较低。因此,提出基于机器视觉的英语语法自动纠错系统设计。硬件方面,针对CCD相机和存储器进行设计。软件方法,针对包含英语文本内容的图像... 以文本识别为基础,进行英语语法自动纠错时,往往依靠人眼识别方式,使得自动纠错系统的F_(0.5)值较低。因此,提出基于机器视觉的英语语法自动纠错系统设计。硬件方面,针对CCD相机和存储器进行设计。软件方法,针对包含英语文本内容的图像,运用机器视觉技术设计一种自动化文本识别算法,准确提取待处理的文本信息。依托于英语翻译原理提取语法特征,并以此为基础创建语法错误检测方法。选取seq2seq模型作为基本框架,结合Soft Attention机制,构建英语语法自动纠错模型。再引入反馈过滤机制,对自动纠错结果进行检验。系统测试结果表明:所提出的纠错系统F_(0.5)值保持在0.5以上,且对于长句子的语法纠错效果强于短句子,满足了英语语法自动纠错需求。 展开更多
关键词 机器视觉 文本识别 语法纠错 倾斜矫正 seq2seq模型 神经网络
原文传递
基于注意力机制的seq2seq模型在PM_(2.5)浓度预测中的研究 被引量:1
14
作者 余长慧 刘良 《测绘地理信息》 CSCD 2023年第4期126-131,共6页
目前PM_(2.5)浓度预测研究主要是对未来1 h的污染物浓度进行预测,不能满足污染物浓度较长时间细粒度预测的应用需求。构建了基于注意力机制的序列到序列(sequence to sequence,seq2seq)模型。模型主要由编码器、解码器和注意力模块3部... 目前PM_(2.5)浓度预测研究主要是对未来1 h的污染物浓度进行预测,不能满足污染物浓度较长时间细粒度预测的应用需求。构建了基于注意力机制的序列到序列(sequence to sequence,seq2seq)模型。模型主要由编码器、解码器和注意力模块3部分构成,其中,编码器用于提取时间特征,解码器使用注意力模块动态计算每个时刻的背景变量,从而预测未来时刻的PM_(2.5)浓度。使用2015—2018年北京市12个空气监测站点的小时级别的PM_(2.5)观测数据进行实验,并将结果与基准模型进行比较。结果表明,该模型预测结果较好。 展开更多
关键词 PM_(2.5) 时空依赖 seq2seq模型 注意力机制
原文传递
基于小波去噪和LSTM的Seq2Seq水质预测模型 被引量:4
15
作者 袁梅雪 魏守科 +1 位作者 孙铭 赵金东 《计算机系统应用》 2022年第6期38-47,共10页
建立水质模型预测水质变化是保障饮用水安全、人类健康和维持生态平衡的关键.本文提出了基于小波分解去噪和LSTM的双层双向Seq2Seq混合模型(W-Bi2Seq2Seq)来预测水质的变化.使用Daubechies5 (db5)小波将数据集分解为低频序列和高频序列... 建立水质模型预测水质变化是保障饮用水安全、人类健康和维持生态平衡的关键.本文提出了基于小波分解去噪和LSTM的双层双向Seq2Seq混合模型(W-Bi2Seq2Seq)来预测水质的变化.使用Daubechies5 (db5)小波将数据集分解为低频序列和高频序列,高频序列作为噪声去除,仅保留低频信号用作所提出模型的输入.选取了烟台市门楼水库的4项水质指标数据(pH、氨氮、电导率和浊度)用于模型的训练,验证和测试.所提出的小波双层双向模型(Bi2)与小波单层单向模型(Uni1)、小波单层双向模型(Bi1)、小波双层单向模型(Uni2)、传统的LSTM模型以及基于小波分解的LSTM模型(W-LSTM),进行比较实验.其实验结果显示,在训练过程中, 4个Seq2Seq模型都具有很好的性能,都能够很好拟合4项水质指标的历史数据集.然而,测试结果表明, Bi2在预测精度和泛化能力方面优于其他5个模型,并且显著提高复杂度较高的水质数据的预测精度. 展开更多
关键词 水质预测 小波去噪 Daubechies5 LSTM seq2seq模型 小波分析 深度学习 门楼水库
下载PDF
基于Seq2Seq深度学习模型的焦炉煤气发生量预测方法研究 被引量:1
16
作者 王文婷 刘姝君 +2 位作者 张耀聪 杜小泽 许潼 《兰州理工大学学报》 CAS 北大核心 2023年第5期50-58,共9页
为实现钢铁生产过程中副产煤气的精准预测,构建了基于序列到序列的深度学习模型.通过编码器计算输入序列的隐状态得到隐状态矩阵,并通过解码器对其进行解码得到预测结果.根据灰色关联度分析关联度较高的输入参数,针对钢铁生产中煤气产... 为实现钢铁生产过程中副产煤气的精准预测,构建了基于序列到序列的深度学习模型.通过编码器计算输入序列的隐状态得到隐状态矩阵,并通过解码器对其进行解码得到预测结果.根据灰色关联度分析关联度较高的输入参数,针对钢铁生产中煤气产量不稳定波动的特点,利用箱线图和hampel滤波对原始数据的极端异常点和突变点进行处理,对输入模型分别进行单步和多步预测.结果表明:单步预测时基于Seq2Seq结构的模型较单一模型预测性能有所提高,其中LSTM2GRU模型对峰谷值拟合表现最优;多步预测时LSTM2GRU模型可有效降低模型性能下降趋势,通过在2个数据集与LSTM2LSTM模型和GRU2GRU模型对比发现,LSTM2GRU模型均方根误差分别下降了5.3%、5.6%和9%、7.7%,平均绝对误差分别下降了7.3%、7%和9.7%、7.8%.因此,LSTM2GRU模型相比其他模型更适合长尺度时间序列的预测,在模型中引入GRU结构提高了预测精度,缩短了预测耗时. 展开更多
关键词 煤气预测 神经网络 深度学习 seq2seq模型 灰色关联度
下载PDF
面向开放域深度学习的自动问答技术研究 被引量:1
17
作者 莫丽娅 《自动化与仪器仪表》 2023年第5期216-220,共5页
结合聊天机器人背景,提出一个面向开放域深度学习的人机交互英语自动问答系统。首先,通过问答系统子模块建立问答库和收录问题预处理;然后利用机器学习算法进行关键词扩展、问题分类、相似度计算和答案匹配抽取;最后采用基于LSTM的Seq2... 结合聊天机器人背景,提出一个面向开放域深度学习的人机交互英语自动问答系统。首先,通过问答系统子模块建立问答库和收录问题预处理;然后利用机器学习算法进行关键词扩展、问题分类、相似度计算和答案匹配抽取;最后采用基于LSTM的Seq2seq模型实现英语聊天机器人,并在其基础上加入注意力机制和集数搜索算法,以提升系统自动问答质量。结果表明,相较于RNN和GRU神经元生成回复,LSTM神经元的生成回复结果更加准确。且添加注意力机制和集数搜索后,模型收敛速度显著提升。系统测试发现,英语问答系统子模块和英语聊天机器人的问答正确率分别为95.48%和96.52%,系统自动问答正确率为96%。由此可知,本系统可实现人机交互和英语问题的自动问答。 展开更多
关键词 开放域 人机交互 seq2seq模型 自动问答系统 聊天机器人
原文传递
注意力机制在评论文本情感分析中的应用研究 被引量:5
18
作者 申静波 李井辉 孙丽娜 《计算机技术与发展》 2020年第7期169-173,共5页
长短期记忆神经网络(long short term memory,LSTM)在文本情感分类的准确率方面拥有优秀的表现,能够解决基于长文本序列的模型训练过程中的梯度消失和梯度爆炸等问题。针对传统的LSTM分类模型不能突出体现输出的某个词语对分类类别的贡... 长短期记忆神经网络(long short term memory,LSTM)在文本情感分类的准确率方面拥有优秀的表现,能够解决基于长文本序列的模型训练过程中的梯度消失和梯度爆炸等问题。针对传统的LSTM分类模型不能突出体现输出的某个词语对分类类别的贡献程度和重要性的现象,在循环神经网络(RNN)变体长短期记忆人工神经网络(LSTM)隐藏层和输出层之间引入注意力机制,其主要目的是在模型做最后的极性分类预测时,在重要的句子成分加上权重,加大了对最后分类的预测概率的影响因素。实验证明LSTM与注意力机制的融合可突出模型产生动态变化的背景向量以表现出不同输入词语对于输出词语分类的重要性,从而有效提高了分类速率和准确率。 展开更多
关键词 评论文本 情感分析 长短期记忆网络 seq2seq模型 注意力机制
下载PDF
基于时空注意力-Seq2Seq网络的ISAR包络对齐方法
19
作者 李文哲 李开明 +3 位作者 岳屹峰 王金昊 许慧革 罗迎 《信号处理》 CSCD 北大核心 2024年第9期1659-1673,共15页
包络对齐是逆合成孔径雷达(Inverse Synthetic Aperture Radar,ISAR)成像中平动补偿处理的第一步,包络对齐的精度对于方位聚焦和成像质量具有重要影响。针对稀疏孔径和低信噪比条件下传统的包络对齐算法性能显著降低的问题,本文提出一... 包络对齐是逆合成孔径雷达(Inverse Synthetic Aperture Radar,ISAR)成像中平动补偿处理的第一步,包络对齐的精度对于方位聚焦和成像质量具有重要影响。针对稀疏孔径和低信噪比条件下传统的包络对齐算法性能显著降低的问题,本文提出一种基于时空注意力-Seq2Seq网络的包络对齐方法。该网络模型以门控循环单元为编码解码单元,针对点目标距离像包络的能量分布特征对空间注意力机制进行改进后,添加时间和空间两维注意力机制形成对ISAR距离像回波包络进行对齐的能力。数据生成方面,基于电磁波仿真参数和目标运动仿真参数进行成像模拟仿真构造了ISAR回波数据集,经过8倍插值后输入网络进行训练,使网络学习到从未对齐回波到对齐回波的映射关系。所提方法以离线训练代替在线相关计算,融合了Seq2Seq模型在处理序列到序列问题上的结构优势、时间注意力机制在捕捉长期依赖关系和空间注意力机制在提取区域特征上的突出能力,实现了稀疏孔径和低信噪比条件下对距离-慢时间域ISAR回波的自动对齐。通过向训练好的时空注意力-Seq2Seq网络输入未对齐的回波序列,网络可以在不改变回波相位结构的前提下自动实现包络对齐。仿真和实测数据对齐结果表明,和传统的包络对齐方法相比,所提方法在稀疏孔径和低信噪比条件下优势明显,在欠采样率为50%、信噪比为0 dB条件下对雅克-42飞机实测回波数据的包络对齐实验中,该方法将循环移位误差由39、26减小至6,将成像结果的图像熵由4.58、4.22减小至1.71,验证了其良好性能。 展开更多
关键词 逆合成孔径雷达成像 包络对齐 时空注意力机制 seq2seq模型
下载PDF
基于深度学习的淮安地区臭氧浓度预报模型评估
20
作者 孙达云 王腾飞 +1 位作者 郭伟震 葛于兵 《环境保护与循环经济》 2023年第9期77-80,共4页
利用2016—2020年淮安地区环境监测站点资料和淮安国家基准气候站气象资料,研究淮安地区臭氧浓度与气象、环境的关系,并利用“注意力机制”下的Seq2Seq建立臭氧预报模型。结果表明:臭氧浓度与气象要素和环境要素的关系是多样的,臭氧与... 利用2016—2020年淮安地区环境监测站点资料和淮安国家基准气候站气象资料,研究淮安地区臭氧浓度与气象、环境的关系,并利用“注意力机制”下的Seq2Seq建立臭氧预报模型。结果表明:臭氧浓度与气象要素和环境要素的关系是多样的,臭氧与气温、风速整体上呈正相关,与相对湿度、气压、降水量、NO_(2)、CO、PM_(2.5)、PM_(10)整体上呈负相关;“注意力机制”下的Seq2Seq模型在预报4 h的臭氧浓度上效果较好,相关系数大于0.6。 展开更多
关键词 臭氧 气象要素 环境要素 “注意力机制” seq2seq模型
下载PDF
上一页 1 2 3 下一页 到第
使用帮助 返回顶部