基于改进YOLOv4的综采工作面目标检测 被引量：6

1

作者 王科平 连凯海 +1 位作者 杨艺 费树岷 《工矿自动化》 CSCD 北大核心 2023年第2期70-76,共7页

综采工作面关键设备及人员的准确检测是实现煤炭智能化开采信息感知的重要环节。传统目标检测算法通过人工提取特征实现目标检测,易受环境影响,不具有普适性。基于卷积神经网络的目标检测算法可以自适应地提取深层信息,但复杂环境下检... 综采工作面关键设备及人员的准确检测是实现煤炭智能化开采信息感知的重要环节。传统目标检测算法通过人工提取特征实现目标检测,易受环境影响,不具有普适性。基于卷积神经网络的目标检测算法可以自适应地提取深层信息,但复杂环境下检测精度不高、网络参数多、计算量大。针对上述问题,提出了一种改进YOLOv4模型,并将其应用于综采工作面目标检测。为准确从综采工作面复杂环境中检测到目标,在CSPDarkNet53网络中融入残差自注意力模块,保证参数共享及高效局部信息聚合的同时增强全局信息获取能力,提升图像关键目标特征表达能力,进而提高目标检测精度;为适应综采工作面目标检测高效性需求,引入深度可分离卷积替代传统卷积,以减少模型参数量和计算量,有利于模型的工业部署,提高目标检测速度。实验结果表明,与YOLOv3、CenterNet及YOLOv4模型相比,改进YOLOv4模型平均精度均值最高,达92.59%,且在参数量、计算量、检测精度上具有更优的平衡,可在煤尘干扰、光照不均、目标运动等复杂环境下对目标准确检测。 展开更多

关键词 综采工作面 目标检测 YOLOv4 残差自注意力 深度可分离卷积

下载PDF 职称材料

基于残差自注意力和分离集合匹配的高效端到端航天器组件检测

2

作者 陈明 牛燕菲 +3 位作者 段莉 高铁梁 楚杨阳 曹洁 《计算机工程》 CAS CSCD 北大核心 2024年第8期301-309,共9页

随着我国航天技术的迅猛发展,各种航天器相继发射,然而航天器在运行时将受到辐射、温度变化等不可控因素的影响,这会导致地面站无法精确测量和定位航天器的位置与姿态,从而对通信和航天器之间的对接或抓捕等空间在轨服务产生影响。为了... 随着我国航天技术的迅猛发展,各种航天器相继发射,然而航天器在运行时将受到辐射、温度变化等不可控因素的影响,这会导致地面站无法精确测量和定位航天器的位置与姿态,从而对通信和航天器之间的对接或抓捕等空间在轨服务产生影响。为了解决上述问题,首先对包含检测、分割与部件识别的航天器数据集SDDSP中的部件进行人工标注,该数据集共包含3117张航天器图片,标注后得到11001个检测目标;然后提出一种空间在轨服务中基于残差自注意力(RS)和分离集合匹配(SSM)的高效端到端航天器组件检测模型,该模型在Sparse DETR模型的基础上引入残差自注意力机制解决了稀疏标记(token)导致的收敛速度降低并影响模型预测精度的问题,引入分离集合匹配机制解决了二分匹配过程中可能出现的不稳定性现象。实验结果表明,在SDDSP数据集上,该模型的平均精确率(AP)和收敛速度相比于基线DETR模型提升了17.9个百分点和10倍,相比于Sparse DETR模型提升了3.1个百分点和20%。 展开更多

关键词 航天器组件检测 Sparse DETR模型 残差自注意力 分离集合匹配 航天器数据集

下载PDF 职称材料

基于TCN和残差自注意力的变工况下滚动轴承剩余寿命迁移预测

3

作者 潘雪娇 董绍江 +2 位作者 朱朋 周存芳 宋锴 《振动与冲击》 EI CSCD 北大核心 2024年第1期145-152,共8页

针对变工况环境下采集到的滚动轴承寿命状态数据存在特征分布差异,深度神经网络模型泛化能力差的问题,结合时间卷积网络(temporal convolutional neural network,TCN)和残差自注意力机制提出了一种端到端的滚动轴承剩余寿命(remaining u... 针对变工况环境下采集到的滚动轴承寿命状态数据存在特征分布差异,深度神经网络模型泛化能力差的问题,结合时间卷积网络(temporal convolutional neural network,TCN)和残差自注意力机制提出了一种端到端的滚动轴承剩余寿命(remaining useful life,RUL)迁移预测方法。首先,将传感器采集到的一维时域信号利用短时傅里叶变换转换为频域信号;其次,剩余寿命迁移预测网络通用特征提取层采用残差自注意力TCN网络,该网络在较好提取时间序列信息的同时,进一步通过残差自注意力机制捕获轴承局部退化特征,增强模型的迁移特征提取能力;再次,采用提出的联合领域自适应策略匹配变工况下滚动轴承寿命状态数据特征分布差异,实现不同工况下轴承寿命状态知识的迁移预测;最后,在公开的滚动轴承全寿命数据集上进行试验验证,结果表明所提方法能有效实现变工况下的滚动轴承RUL预测,并获得较好的预测性能。 展开更多

关键词 剩余寿命(RUL) 滚动轴承 时间卷积网络(TCN) 残差自注意力 迁移学习

下载PDF 职称材料

基于工况聚类和残差自注意力的发动机剩余使用寿命预测 被引量：1

4

作者 赵洪利 张奔 张青 《航空科学技术》 2023年第4期31-40,共10页

针对多工况的航空发动机剩余使用寿命(RUL)预测精度较低的问题,本文提出了一种基于工况聚类分析和残差自注意力的发动机剩余使用寿命预测方法。首先,通过聚类将不同的工况进行划分,并构建线性回归分析模型筛选出符合发动机性能变化的退... 针对多工况的航空发动机剩余使用寿命(RUL)预测精度较低的问题,本文提出了一种基于工况聚类分析和残差自注意力的发动机剩余使用寿命预测方法。首先,通过聚类将不同的工况进行划分,并构建线性回归分析模型筛选出符合发动机性能变化的退化参数;其次,通过卷积神经网络,获取数据中隐含的发动机性能退化特征;再次,利用双向长短期记忆神经网络挖掘时序退化特性并对其进行记忆;最后,结合残差自注意力机制对退化特征分配不同的权重来实现发动机剩余使用寿命预测。在美国国家航空航天局(NASA)的C-MAPSS多工况数据集上进行了消融试验,验证了该方法的有效性。结果表明,该方法评分和均方根误差均最优,可为发动机剩余使用寿命预测提供一定的参考。 展开更多

关键词 多工况 航空发动机 剩余寿命预测 聚类分析 残差自注意力

下载PDF 职称材料

基于残差自注意力机制的航空发动机RUL预测 被引量：10

5

作者 叶瑞达 王卫杰 +2 位作者 何亮 陈晓岑 薛乐 《光学精密工程》 EI CAS CSCD 北大核心 2021年第6期1482-1490,共9页

针对传统神经网络在多维数据高分辨率特征识别和高精度信号提取方面的缺陷,开展基于残差自注意力机制的剩余使用寿命(RUL)预测算法研究。比较分析卷积神经网络(CNN)和长短期记忆神经网络(LSTM)的结构特性,揭示二者在长序列信息特征关联... 针对传统神经网络在多维数据高分辨率特征识别和高精度信号提取方面的缺陷,开展基于残差自注意力机制的剩余使用寿命(RUL)预测算法研究。比较分析卷积神经网络(CNN)和长短期记忆神经网络(LSTM)的结构特性,揭示二者在长序列信息特征关联能力和局部特征提取能力上的局限性。研究自注意力机制,引入双层残差网络抑制误差函数反向传播中扩散性,进而构建了一种卷积记忆残差自注意力机制的深度学习方法。基于上述方法对典型航空涡扇发动机退化实验数据集进行仿真分析,结果表明:所述方法能够有效建立监测数据与发动机健康状态之间的关系,关键评价指标——剩余使用寿命预测的均方误差为225,相比传统自注意力机制均方误差降低了17.9%,验证了所述方法的可行性和有效性。 展开更多

关键词 残差自注意力机制 神经网络 剩余使用寿命 航空发动机

下载PDF 职称材料

基于LEBERT的时间信息增强中文命名实体识别

6

作者 张光明 肖然 +3 位作者 张弛 高谦 谈栋华 彭菊红 《湖北大学学报（自然科学版）》 CAS 2025年第1期118-125,共8页

为解决现有预训练模型没有充分考虑汉语词汇的分割特征的问题,提出一种基于LEBERT-ILRN-RA-CRF的中文命名实体识别模型。该模型首先利用LEBERT对输入文本进行词汇表增强和嵌入处理,然后利用ILRN模块提取时间信息,并将字符-词融合与字向... 为解决现有预训练模型没有充分考虑汉语词汇的分割特征的问题,提出一种基于LEBERT-ILRN-RA-CRF的中文命名实体识别模型。该模型首先利用LEBERT对输入文本进行词汇表增强和嵌入处理,然后利用ILRN模块提取时间信息,并将字符-词融合与字向量采集相结合,最后使用条件随机场(CRF)进行结果校正。此外,该模型还引入了词汇量增强和残差门控注意网络来加强时间特征的提取和局部特征的表达,进一步提升了模型的识别效果。在Weibo和Resume两个数据集上分别取得了71.73%和96.51%的宏F1值。实验表明该模型可以考虑到汉语词汇的分割问题,改善中文命名实体识别任务的识别效果。 展开更多

关键词 中文命名实体识别 时间信息增强 LEBERT CRF 残差门控注意力机制

基于双特征提取和注意力机制的图像超分辨率重建

7

作者 薄阳瑜 武永亮 王学军 《郑州大学学报（工学版）》 CAS 北大核心 2024年第6期48-55,64,共9页

针对图像超分辨率重建过程中忽略图像高频特征,导致特征提取不充分,重建图像纹理细节模糊的问题,提出了一种基于双特征提取和注意力机制的图像超分辨率重建方法。首先,该方法采用双分支网络进行特征提取,以解决图像重建过程中高频特征... 针对图像超分辨率重建过程中忽略图像高频特征,导致特征提取不充分,重建图像纹理细节模糊的问题,提出了一种基于双特征提取和注意力机制的图像超分辨率重建方法。首先,该方法采用双分支网络进行特征提取,以解决图像重建过程中高频特征和多尺度特征无法有效提取和一致融合的问题;其次,为了使网络提取到更加精确的高频特征,提出了局部空间注意力模块,并与通道注意力模块结合构建残差融合注意力模块,提高网络对高频特征的定位能力;最后,设计了空洞金字塔模块,扩大网络感受野,使网络多尺度提取特征。在4个基准数据集上的测试结果表明:尤其是超分辨率倍数为4时,所提方法较目前若干主流模型中的最佳峰值信噪比分别提升了0.16,0.08,0.03,0.20 dB,所提方法在视觉效果和定量分析方面均有较好提升。 展开更多

关键词 图像超分辨率重建 局部空间注意力 残差融合注意力 空洞金字塔 双分支网络

下载PDF 职称材料

基于图神经网络的多层信息交互融合算法用于会话推荐

8

作者 杨航 李汪根 +2 位作者 张根生 王志格 开新 《计算机应用》 CSCD 北大核心 2024年第9期2719-2725,共7页

针对当前会话推荐中存在对于当前会话的项目转换信息挖掘不充分且极少利用其他会话信息的问题,提出一种基于图神经网络的多层信息交互融合算法用于会话推荐。基于当前会话,首先,对节点之间的连接关系设计不同的权重聚合邻域节点的信息,... 针对当前会话推荐中存在对于当前会话的项目转换信息挖掘不充分且极少利用其他会话信息的问题,提出一种基于图神经网络的多层信息交互融合算法用于会话推荐。基于当前会话,首先,对节点之间的连接关系设计不同的权重聚合邻域节点的信息,并挖掘当前会话中项目转换的显性信息;其次,通过基于堆叠的残差图注意力网络聚合邻域节点信息,挖掘当前会话中项目转换的隐性信息;最后,通过单门控图神经网络挖掘基于时间戳的会话中存在的序列依赖信息。基于其他会话,通过节点的一阶邻居将整个会话集联系起来,学习全局信息编码,进而融合4个层次的嵌入表示以获得更全面的项目转换信息,同时使用软注意力机制和反向位置嵌入信息对获得的项目转换信息进行更有效的融合。实验结果表明,在Diginetica数据集上,所提模型的精度P@20和平均倒数排名MRR@20较次优模型GCE-GNN(Global Context Enhanced Graph Neural Network)分别提升了0.79%和0.84%;在Tmall数据集上,所提模型的P@20和MRR@20较次优模型HyperS2Rec分别提升了8.23%和7.86%;在Nowplaying数据集上,所提模型的P@20和MRR@20较次优模型HyperS2Rec分别提升了1.33%和7.16%。 展开更多

关键词 会话推荐 残差图注意力网络 门控图神经网络 软注意力 反向位置嵌入

下载PDF 职称材料

基于BiGRU和残差图注意力网络的股票价格预测模型

9

作者 徐渺 王雷春 +2 位作者 史含笑 陈敏 刘丹妮 《湖北大学学报（自然科学版）》 CAS 2024年第2期270-281,共12页

高效、准确的股票价格预测能帮助投资者合理规划交易方式,提高投资收益。针对现有股票价格预测模型的准确率不高、投资收益率低等问题,提出一种结合双向门控循环单元(BiGRU)和残差图注意力网络(ResGAT)的股票价格预测模型(BiGRU-ResGAT... 高效、准确的股票价格预测能帮助投资者合理规划交易方式,提高投资收益。针对现有股票价格预测模型的准确率不高、投资收益率低等问题,提出一种结合双向门控循环单元(BiGRU)和残差图注意力网络(ResGAT)的股票价格预测模型(BiGRU-ResGAT)。首先,通过结合注意力机制的时间滑动窗口方法(TSWMCAM)动态计算不同股票之间的关联系数,构建表征股票之间关联关系的股票图结构;然后,使用BiGRU捕获股票在时序上的长距离依赖信息;最后,利用ResGAT对股票的时序特征与股票间的关联特征进行深度挖掘和融合,并对股票价格进行预测。在上海证券交易所主板市场498支股票上的价格预测结果显示,与支持向量机(SVM)、门控循环单元(GRU)、复合模型(CNN-LSTM)和关系股票排序模型(RSR)相比,BiGRU-ResGAT在股票测试集上平均绝对误差(MAE)分别降低79.53%、63.20%、48.17%、33.19%,均方根误差(RMSE)分别降低80.23%、66.22%、53.99%、29.99%,决定系数(R-Squared)分别提升23.34%、15.22%、9.54%、4.84%;在投资组合上的累计收益率分别提升10.77、7.89、6.81、5.03个百分点。实验结果表明,BiGRU-ResGAT能够有效地挖掘和融合股票数据的关键特征,对股票价格进行预测。 展开更多

关键词 股票价格预测 注意力机制 双向门控循环单元 残差图注意力网络 投资组合

下载PDF 职称材料

改进融合注意力机制的小目标和被遮挡目标检测

10

作者 刘丽伟 王玲 戚星烁 《长春工业大学学报》 CAS 2024年第5期428-436,共9页

针对夜间光照条件不足等条件下交通环境的多目标检测问题,提出一种改进YOLOv5s的目标检测算法。该算法首先在原始的YOLOv5s网络中嵌入三分支结构并行卷积注意力模块,通过计算跨维度注意力权值矩阵,实现了一种轻量级的有效注意力机制。其... 针对夜间光照条件不足等条件下交通环境的多目标检测问题,提出一种改进YOLOv5s的目标检测算法。该算法首先在原始的YOLOv5s网络中嵌入三分支结构并行卷积注意力模块,通过计算跨维度注意力权值矩阵,实现了一种轻量级的有效注意力机制。其次,为了解决小目标和遮挡目标的检测问题,嵌入残差遮挡感知注意力机制,通过不同卷积核大小的卷积块对图像进行类分块操作,更准确地突显小目标和被遮挡目标。通过在FLIR数据集上的对比实验表明,改进算法在夜间交通环境下的多目标检测任务中能够提高检测精度,相较于传统YOLOv5s,其检测准确率mAP@0.5提高2.9%。 展开更多

关键词 目标检测 YOLOv5 三重并行卷积注意力机制 残差遮挡注意力机制

下载PDF 职称材料

基于密集残差连接U型网络的噪声图像超分辨率重建

11

作者 刘鹏南 李龙 +2 位作者 张紫豪 朱星光 程德强 《工矿自动化》 CSCD 北大核心 2024年第2期63-71,共9页

现有的图像超分辨率重建网络难以适用于煤矿井下噪声密集的应用场景,且多数网络通过增加深度提升性能会导致无法有效提取关键特征、高频信息丢失等问题。针对上述问题,提出了一种密集残差连接U型网络,用于对低分辨率噪声图像进行超分辨... 现有的图像超分辨率重建网络难以适用于煤矿井下噪声密集的应用场景,且多数网络通过增加深度提升性能会导致无法有效提取关键特征、高频信息丢失等问题。针对上述问题,提出了一种密集残差连接U型网络,用于对低分辨率噪声图像进行超分辨率重建。在特征提取路径中引入基于密集残差连接的去噪模块,通过密集连接的方式对图像特征进行充分提取,再利用残差学习的特点对低分辨率噪声图像进行有效去噪;在重建路径中引入残差特征注意力蒸馏模块,通过在残差块中融入增强特征注意力块,对不同空间的特征赋予不同的权重,加强网络对于图像关键特征的提取能力,同时减少图像细节特征在残差块中的损失,从而更好地恢复图像细节信息。在煤矿井下图像数据集及公共数据集上进行了对比实验,结果表明:在客观评价指标上,所提网络的结构相似度、图像感知相似度均优于对比网络,且在复杂度及运行速度上有着较好的均衡;在主观视觉效果上,所提网络重建的图像基本消除了原有图像噪声,有效恢复了图像的细节特征。 展开更多

关键词 噪声图像 超分辨率重建 密集残差连接 U型网络 去噪模块 残差特征注意力蒸馏模块

下载PDF 职称材料

多尺度融合的双分支特征提取人群计数算法

12

作者 曾芸芸 张红英 袁明东 《计算机工程与应用》 CSCD 北大核心 2024年第20期224-232,共9页

人群计数在公共安全管理、公共空间设计以及其他视觉任务如行为分析、拥塞分析等方面具有重要的应用。然而复杂的背景和人头尺度大小不一导致人群计数的效果并不理想。针对静态图像中尺度变化和背景干扰问题,提出了一种基于双分支中间... 人群计数在公共安全管理、公共空间设计以及其他视觉任务如行为分析、拥塞分析等方面具有重要的应用。然而复杂的背景和人头尺度大小不一导致人群计数的效果并不理想。针对静态图像中尺度变化和背景干扰问题,提出了一种基于双分支中间特征提取的人群计数网络——DBFE_MFNet。该网络沿用编码-解码器结构,在编码阶段使用VGG19卷积神经网络的前16层,为了更好融合多尺度信息,将VGG19卷积神经网络的前16层的后4层卷积替换成空洞率为2的膨胀卷积,解码部分采用抑制背景干扰的残差卷积注意力模块(residual convolutional attention module,RCAM),在编码-解码器结构中间插入双分支中间特征提取模块(dual branch intermediate feature extraction module,DBFE),分支1采用金字塔结构并融合位置注意力模块提取多尺度上下文信息,分支2沿用金字塔结构融合双通道注意力机制使模型关注不同大小人头信息,最后使用1×1卷积生成密度图。实验方面,在ShanghaiTech PartA、ShanghaiTech PartB、Mall数据集上进行了算法对比实验,DBFE_MFNet模型在上述数据集的平均绝对误差和均方根误差分别为63.2、7.1、1.80和99.2、11.8、2.28,经对比实验分析,DBFE_MFNet模型具有不错的计数性能和稳定性能;在ShanghaiTech PartB进行了消融实验,实验验证了模型各模块的有效性。 展开更多

关键词 人群计数 VGG19 编码-解码器 残差卷积注意力模块 双分支中间特征提取模块

下载PDF 职称材料

基于双向LSTM的双任务学习残差通道注意力机制手写签名认证

13

作者 栾方军 陈昱岑 袁帅 《计算机科学与应用》 2024年第3期159-168,共10页

随着人工智能深度学习的发展,网络模型对于在线签名认证系统(Online Signature Verification, OSV)的性能有了显著的提升。然而,如何进一步提高在线手写签名认证的准确性仍然是一个需要解决的问题。为此,本文提出了一种基于双向LSTM的... 随着人工智能深度学习的发展,网络模型对于在线签名认证系统(Online Signature Verification, OSV)的性能有了显著的提升。然而,如何进一步提高在线手写签名认证的准确性仍然是一个需要解决的问题。为此,本文提出了一种基于双向LSTM的双任务学习残差通道注意力机制网络模型,用于改进手写签名认证。该模型使用残差通道注意力机制来学习序列特征的权重以便解决不同通道的权重分配问题,双向长短期记忆网络来缓解在深度神经网络中增加深度时可能带来的梯度消失和梯度爆炸问题。此外,引入多任务学习,包括有监督学习和深度度量学习,以更好地进行特征学习。最终,本文提出了一种基于多任务学习的训练方法,使得OSV系统的准确性进一步提高。所提出的方法在SVC-2004数据集中取得了2.33%的等错误率和97.03%的准确率。实验结果表明,所提出的方法能够有效地提高OSV系统的身份验证准确性。 展开更多

关键词 签名认证 多任务学习 残差通道注意力机制 双向长短期记忆 度量学习

下载PDF 职称材料

基于双重残差混合注意力机制的水下图像增强算法探究

14

作者 李然 《现代计算机》 2024年第17期73-76,共4页

水下拍摄的图像受到悬浮颗粒物散射作用的影响,有可能出现模糊、对比度低、色彩失真等不利情况,影响了图像质量。为了利用人工智能技术增强水下图像的视觉效果,研究过程提出了双重残差混合注意力机制,并在此基础上建立了相应的图像增强... 水下拍摄的图像受到悬浮颗粒物散射作用的影响,有可能出现模糊、对比度低、色彩失真等不利情况,影响了图像质量。为了利用人工智能技术增强水下图像的视觉效果,研究过程提出了双重残差混合注意力机制,并在此基础上建立了相应的图像增强算法模型。利用开源数据集检验该算法模型的性能,为其设置四种对照算法。结果显示,其在结构相似性、峰值信噪比两个评价指标上表现最佳,达到了预期目标。 展开更多

关键词 双重残差混合注意力网络模型 水下图像增强算法 性能试验

下载PDF 职称材料

多分支精简双线性池化的人脸表情识别 被引量：1

15

作者 王彬 徐杨 +1 位作者 石进 张显国 《计算机技术与发展》 2023年第3期27-33,共7页

针对人脸表情识别研究中特征提取不充分、难以辨别人脸表情细微的类间差异等问题,提出了一种多分支精简双线池性化的人脸表情识别方法。该方法以ResNet-18为基础,在避免大幅度增加计算复杂度的前提下提升ResNet-18的特征提取能力,提出... 针对人脸表情识别研究中特征提取不充分、难以辨别人脸表情细微的类间差异等问题,提出了一种多分支精简双线池性化的人脸表情识别方法。该方法以ResNet-18为基础,在避免大幅度增加计算复杂度的前提下提升ResNet-18的特征提取能力,提出了一个新的多样化分支块(diverse branch block)对ResNet-18进行改进;为使改进后的ResNet-18更方便地聚焦人脸图像中产生表情区域的特征,提出了残差空间注意力;为了减少人脸表情细微的类间差异带来的不利影响,增强人脸表情类间的区别性,设计了多分支精简双线性池化结构。最后用所提的方法分别在公开的人脸表情数据集CK+、RAF-DB进行实验,识别率分别达到了98.46%、82.99%。实验结果表明,该方法的识别率优于DLP-CNN、MA、DeepExp3D等诸多的表情识别方法,具有一定的竞争性。 展开更多

关键词 人脸表情识别 多样化分支块 残差空间注意力 多分支精简双线性池化 ResNet-18

下载PDF 职称材料

基于超声影像的甲状腺结节智能分割算法 被引量：1

16

作者 曹玉珍 郑洁 +2 位作者 余辉 王飞 张杰 《天津大学学报（自然科学与工程技术版）》 EI CAS CSCD 北大核心 2022年第7期674-681,共8页

基于超声影像对甲状腺结节进行精准分割,可以得到病变区域的生理参数信息,从而对甲状腺结节的早期筛查和诊断定性.为实现甲状腺结节的精准分割,提出了一种基于Transformer编码的多层次特征融合网络.针对不同患者的甲状腺结节大小和其在... 基于超声影像对甲状腺结节进行精准分割,可以得到病变区域的生理参数信息,从而对甲状腺结节的早期筛查和诊断定性.为实现甲状腺结节的精准分割,提出了一种基于Transformer编码的多层次特征融合网络.针对不同患者的甲状腺结节大小和其在甲状腺超声图像中所处的位置均存在较大差异的特点,该模型以Transformer结构作为特征提取器,使各层次特征的计算都在更大、更灵活的感受野上进行;以CNN作为特征解码器,对编码器所获得的特征进行重构,并降低算法复杂度.编码器与解码器之间采用长距离跳跃连接的方式相连.利用局部-全局策略学习甲状腺超声图像中浅层的全局特征和深层的局部特征.此外,通过将模型中的多头注意力机制改进为残差轴向注意力机制,学习到了甲状腺结节中更多的方向纹理特征.实验数据来源于天津医科大学总医院超声影像科,通过对3828例样本采用旋转变换、翻转变换和随机裁剪3种数据增强方法,得到15312例甲状腺超声图像.经过多轮迭代训练,得到测试集样本上的Dice系数为92.2%,交并比为85.5%.相同数据集上的对比实验表明:相对于全卷积神经网络,该算法在Dice系数上提升了5%~8%,在交并比上提升了7%~13%,模型参数量平均降低了5.67×10^(6),精准地实现了甲状腺结节的全自动分割,降低了模型复杂度,具有一定的临床价值. 展开更多

关键词 甲状腺结节 超声影像 TRANSFORMER 残差轴向注意力

下载PDF 职称材料

基于注意力机制的自然场景文本检测算法

17

作者 王宪伟 洪智勇 +2 位作者 余文华 王惠吾 吴卓霖 《计算机科学与应用》 2022年第11期2608-2618,共11页

针对目前主流场景文本检测算法在进行多尺度特征融合时不能够充分利用高、低层信息造成的文本漏检,以及长文本边界检测错误的问题,本文提出一种应用注意力机制的多尺度特征融合与残差坐标注意力的场景文本检测算法。该算法将注意力特征... 针对目前主流场景文本检测算法在进行多尺度特征融合时不能够充分利用高、低层信息造成的文本漏检,以及长文本边界检测错误的问题,本文提出一种应用注意力机制的多尺度特征融合与残差坐标注意力的场景文本检测算法。该算法将注意力特征融合模块嵌入到金字塔中,通过纠正不同尺度特征的不一致性来提取更多的细节信息,以改善文本的漏检;在融合之后,使用残差坐标注意力模块在纵、横两个方向上捕获方向感知和位置敏感信息,细化边界信息,以优化长文本检测的效果。通过在公开数据集ICDAR 2015和Total-Text上的实验结果表明,该算法在F分数上分别达到了85.5%和83.6%,在推理速度上分别达到了22.4 FPS和40 FPS,相较于DBNet网络,在推理速度上略有下降,但在F分数上分别提高3.2%和0.8%。 展开更多

关键词 场景文本检测 深度学习 多尺度特征 注意力特征融合模块 残差坐标注意力模块

下载PDF 职称材料

基于油色谱时频域信息和残差注意网络的变压器故障诊断方法 被引量：19

18

作者 沙伟燕 李秀广 +1 位作者 何宁辉 张佩 《电网与清洁能源》 北大核心 2022年第1期66-75,共10页

提出了一种基于油色谱时频域数据和残差注意力的变电站故障分类模型。对收集到的油色谱数据,计算其频域分量和时频域分量的特征比值,将所有数据作为网络的输入来训练网络;残差注意力网络通过跨层连接的方式来堆叠注意力模块,以降低网络... 提出了一种基于油色谱时频域数据和残差注意力的变电站故障分类模型。对收集到的油色谱数据,计算其频域分量和时频域分量的特征比值,将所有数据作为网络的输入来训练网络;残差注意力网络通过跨层连接的方式来堆叠注意力模块,以降低网络的过拟合影响并提升模型训练速度,同时注意力模块能够重点关注对结果影响大的信息,进一步提高对变电站故障分类的准确度。通过实际数据验证了所提方法的有效性和性能的优越性。 展开更多

关键词 变电站 油色谱 故障诊断 时频域 残差注意力网络——

下载PDF 职称材料

基于残差注意力网络的地震数据超分辨率方法 被引量：13

19

作者 周文辉 石敏 +1 位作者 朱登明 周军 《计算机科学》 CSCD 北大核心 2021年第8期24-31,共8页

地震数据在油气勘探、地质勘探领域发挥着至关重要的作用。精确详细的地震数据有助于对油气勘探做出精确指导,减小勘探的风险,从而产生巨大的社会效益和经济效益。在提升地震数据分辨率方面,现有的方法在面对海量数据时,在高分辨恢复、... 地震数据在油气勘探、地质勘探领域发挥着至关重要的作用。精确详细的地震数据有助于对油气勘探做出精确指导,减小勘探的风险,从而产生巨大的社会效益和经济效益。在提升地震数据分辨率方面,现有的方法在面对海量数据时,在高分辨恢复、去噪性能和效率上效果欠佳,难以恢复出细节丰富的地质信息,无法满足实际需求。地震数据能够反映地质构造以及地层的组成,具有局部相关性高、全局相关性低的特点。同时,地震数据高频部分通常蕴含着地质勘探等重要信息,如分层、断层信息等。针对地震数据的特点,文中将地震数据重建问题转化为图像超分辨率问题,提出了采用基于生成对抗网络的地震数据超分辨方法。针对地震数据分布具有局部相关性高、全局相关性低的特点,设计残差注意力模块,挖掘地震数据的内在相关性,通过训练含有相对生成对抗损失函数的生成对抗网络模型,来对地震数据进行超分辨率恢复,以得到更加精确的地震数据。在真实的地震数据集上进行了实验验证,结果表明,所提方法在地震数据超分辨上效果良好,在性能指标PSNR和SSIM上有3%~4%的提升,具有较强的实用性。 展开更多

关键词 地震数据 残差注意力模块 生成对抗网络 相对生成对抗损失 超分辨率

下载PDF 职称材料

基于残差注意力机制的点云配准算法 被引量：7

20

作者 秦庭威 赵鹏程 +3 位作者 秦品乐 曾建朝 柴锐 黄永琦 《计算机应用》 CSCD 北大核心 2022年第7期2184-2191,共8页

针对传统点云配准算法精度低、鲁棒性差以及放疗前后癌症患者无法实现精确放疗的问题,提出一种基于残差注意力机制的点云配准算法(ADGCNNLK)。首先,在动态图深度卷积网络(DGCNN)中添加残差注意力机制来有效地利用点云的空间信息,并减少... 针对传统点云配准算法精度低、鲁棒性差以及放疗前后癌症患者无法实现精确放疗的问题,提出一种基于残差注意力机制的点云配准算法(ADGCNNLK)。首先,在动态图深度卷积网络(DGCNN)中添加残差注意力机制来有效地利用点云的空间信息,并减少信息损失;然后,利用添加残差注意力机制的DGCNN提取点云特征,这样做不仅可以在保持点云置换不变性的同时捕捉点云的局部几何特征,也可以在语义上将信息聚合起来,从而提高配准效率;最后,将提取到的特征点映射到高维空间中并使用经典的图像迭代配准算法LK进行配准。实验结果表明,所提算法与迭代最近点算法(ICP)、全局优化的ICP算法(Go-ICP)和PointNetLK相比,在无噪、有噪的情况下配准效果均最好。其中,在无噪情况下,与PointNetLK相比,所提算法的旋转均方误差降低了74.61%,平移均方误差降低了47.50%;在有噪声的情况下,与PointNetLK相比,所提算法的旋转均方误差降低了73.13%,平移均方误差降低了44.18%,说明所提算法与PointNetLK相比鲁棒性更强。将所提算法应用于放疗前后癌症患者人体点云模型的配准,从而辅助医生治疗,并实现了精确放疗。 展开更多

关键词 点云配准 特征提取 残差注意力机制 深度学习 放疗

下载PDF 职称材料