期刊导航
期刊开放获取
cqvip
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
3
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
FMSWFormer:基于频率分离和自适应多尺度窗口的视觉Transformer
1
作者
蔡岱立
谢维波
《集美大学学报（自然科学版）》
CAS
2023年第6期568-576,共9页
由于Vision Transformer具有二次方的patch复杂度和较差的局部归纳偏置,导致需要大量的数据和更专业的数据增强策略及更多的训练技巧来超越高效卷积网络。为了解决这些问题,从多尺度特征提取和图像频率的角度进行研究,提出具有轻量注意...
由于Vision Transformer具有二次方的patch复杂度和较差的局部归纳偏置,导致需要大量的数据和更专业的数据增强策略及更多的训练技巧来超越高效卷积网络。为了解决这些问题,从多尺度特征提取和图像频率的角度进行研究,提出具有轻量注意力机制的FMSWFormer。FMSWFormer采用卷积-自注意力机制混合模块构建起不同频率间的通信,通过窗口划分实现局部注意力机制,以此限制过高的计算成本;参考自适应尺度感知卷积的做法,并创新性地将多尺度算子引入到自注意力计算中,从而实现了多头自注意力机制的自适应尺度感知能力。在各种基准识别任务数据集上进行广泛的实验,结果表明了FMSWFormer的有效性,在多个数据集中都取得了优越的性能,且不增加时间成本。其中在CIFAR100数据集上,FMSWFormer比SepViT的性能高出4.2%,延迟降低了47.8%;在参数量比EfficientNetv2减少了22%的情况下,FMSWFormer的性能依然能高出3.94%。
展开更多
关键词
窗口自注意力机制
多尺度特征提取
深度学习
卷积神经网络
图像高低频解耦
下载PDF
职称材料
基于位移窗口自注意力网络和迁移学习的地震面波分离
2
作者
杨晨睿
沈鸿雁
+2 位作者
车晗
孙云鹏
刘帅
《西安石油大学学报（自然科学版）》
CAS
北大核心
2024年第6期39-50,共12页
反射地震资料中的面波也携带了丰富的地质信息,充分利用这类面波解决地质问题的前提条件是将其完整地分离出来。针对现有深度学习方法没有充分利用面波与体波表现在时空域图像中的分布位置和纹理细节等问题,提出一种基于深度学习的地震...
反射地震资料中的面波也携带了丰富的地质信息,充分利用这类面波解决地质问题的前提条件是将其完整地分离出来。针对现有深度学习方法没有充分利用面波与体波表现在时空域图像中的分布位置和纹理细节等问题,提出一种基于深度学习的地震面波分离方法。通过融合位移窗口自注意力机制和U-net主干网络,构建出面波智能分离网络,并使用数据增广后的模拟数据与实际数据构建面波数据集来提升神经网络的泛化性;在充分利用面波全局数据特征的同时,为避免波场分离过程中的面波损伤问题,提出一种对边界、结构和纹理信息敏感的混合损失函数以进一步提高面波分离的质量。通过数值模拟地震记录测试了本文方法的正确性,进而将该方法应用于实际地震资料处理。研究结果表明,在模拟地震记录训练的模型基础上进行迁移学习,可进一步提升神经网络的泛化性;相较于低通滤波法和去噪卷积神经网络方法,本文方法分离的面波更为完整,能大幅度提高能量混叠区域的面波分离质量。
展开更多
关键词
地震信号处理
面波
波场分离与去噪
深度学习
窗口自注意力网络
U-net网络
迁移学习
下载PDF
职称材料
基于TCN-Wpsformer混合模型的超短期风电功率预测
被引量：
4
3
作者
徐钽
谢开贵
+3 位作者
王宇
胡博
邵常政
赵宇生
《电力自动化设备》
EI
CSCD
北大核心
2024年第8期54-61,共8页
针对基于梯度下降的递归神经网络难以捕获时间跨度较长的风电功率长期依赖关系的问题,提出一种基于时间卷积网络(TCN)和窗口概率稀疏Transformer(Wpsformer)混合模型的超短期风电功率预测方法。将包含时间季节性特征的时间编码与包含原...
针对基于梯度下降的递归神经网络难以捕获时间跨度较长的风电功率长期依赖关系的问题,提出一种基于时间卷积网络(TCN)和窗口概率稀疏Transformer(Wpsformer)混合模型的超短期风电功率预测方法。将包含时间季节性特征的时间编码与包含原始数据位置信息的绝对位置编码进行拼接,引入TCN提取时间片段特征,将时间片段特征融入自注意力机制,以时间片段的相关性联系替代时间点的相关性联系。通过Wpsformer模型多步输出超短期风电功率预测值,与原始Transformer模型相比,Wpsformer模型使用窗口概率稀疏自注意力机制,在捕获长期依赖关系的同时筛选出重要程度相对较高的时间片段特征进行计算,提高了预测精度且降低了计算成本。曹店风电场的算例结果表明,所提模型在预测精度方面具有明显优势。消融实验证明了所提模型各模块的必要性。
展开更多
关键词
超短期风电功率预测
时间卷积网络
窗口概率稀疏Transformer
窗口概率稀疏自注意力机制
下载PDF
职称材料
题名
FMSWFormer:基于频率分离和自适应多尺度窗口的视觉Transformer
1
作者
蔡岱立
谢维波
机构
华侨大学计算机科学与技术学院
出处
《集美大学学报（自然科学版）》
CAS
2023年第6期568-576,共9页
基金
国家自然科学基金项目(61271383)。
文摘
由于Vision Transformer具有二次方的patch复杂度和较差的局部归纳偏置,导致需要大量的数据和更专业的数据增强策略及更多的训练技巧来超越高效卷积网络。为了解决这些问题,从多尺度特征提取和图像频率的角度进行研究,提出具有轻量注意力机制的FMSWFormer。FMSWFormer采用卷积-自注意力机制混合模块构建起不同频率间的通信,通过窗口划分实现局部注意力机制,以此限制过高的计算成本;参考自适应尺度感知卷积的做法,并创新性地将多尺度算子引入到自注意力计算中,从而实现了多头自注意力机制的自适应尺度感知能力。在各种基准识别任务数据集上进行广泛的实验,结果表明了FMSWFormer的有效性,在多个数据集中都取得了优越的性能,且不增加时间成本。其中在CIFAR100数据集上,FMSWFormer比SepViT的性能高出4.2%,延迟降低了47.8%;在参数量比EfficientNetv2减少了22%的情况下,FMSWFormer的性能依然能高出3.94%。
关键词
窗口自注意力机制
多尺度特征提取
深度学习
卷积神经网络
图像高低频解耦
Keywords
window
self
-
attention
multi-scale
feature
extraction
deep
learning
convolutional
neural
networks
image
high
and
low
frequency
decoupling
分类号
TP391.4 [自动化与计算机技术—计算机应用技术]
下载PDF
职称材料
题名
基于位移窗口自注意力网络和迁移学习的地震面波分离
2
作者
杨晨睿
沈鸿雁
车晗
孙云鹏
刘帅
机构
西安石油大学地球科学与工程学院
陕西省油气成藏地质学重点实验室
出处
《西安石油大学学报（自然科学版）》
CAS
北大核心
2024年第6期39-50,共12页
基金
陕西省自然科学基础研究计划项目(2017JZ007)
陕西省重点研发计划项目(2022GY-148)。
文摘
反射地震资料中的面波也携带了丰富的地质信息,充分利用这类面波解决地质问题的前提条件是将其完整地分离出来。针对现有深度学习方法没有充分利用面波与体波表现在时空域图像中的分布位置和纹理细节等问题,提出一种基于深度学习的地震面波分离方法。通过融合位移窗口自注意力机制和U-net主干网络,构建出面波智能分离网络,并使用数据增广后的模拟数据与实际数据构建面波数据集来提升神经网络的泛化性;在充分利用面波全局数据特征的同时,为避免波场分离过程中的面波损伤问题,提出一种对边界、结构和纹理信息敏感的混合损失函数以进一步提高面波分离的质量。通过数值模拟地震记录测试了本文方法的正确性,进而将该方法应用于实际地震资料处理。研究结果表明,在模拟地震记录训练的模型基础上进行迁移学习,可进一步提升神经网络的泛化性;相较于低通滤波法和去噪卷积神经网络方法,本文方法分离的面波更为完整,能大幅度提高能量混叠区域的面波分离质量。
关键词
地震信号处理
面波
波场分离与去噪
深度学习
窗口自注意力网络
U-net网络
迁移学习
Keywords
seismic
data
processing
surface
wave
wave
field
separation
and
denoising
deep
learning
window
self
-
attention
network
U-net
transfer
learning
分类号
TE19 [石油与天然气工程—油气勘探]
P315 [天文地球—地震学]
下载PDF
职称材料
题名
基于TCN-Wpsformer混合模型的超短期风电功率预测
被引量：
4
3
作者
徐钽
谢开贵
王宇
胡博
邵常政
赵宇生
机构
重庆大学电气工程学院输变电装备技术全国重点实验室
出处
《电力自动化设备》
EI
CSCD
北大核心
2024年第8期54-61,共8页
基金
国家自然科学基金委员会-国家电网公司智能电网联合基金资助项目(U1966601)。
文摘
针对基于梯度下降的递归神经网络难以捕获时间跨度较长的风电功率长期依赖关系的问题,提出一种基于时间卷积网络(TCN)和窗口概率稀疏Transformer(Wpsformer)混合模型的超短期风电功率预测方法。将包含时间季节性特征的时间编码与包含原始数据位置信息的绝对位置编码进行拼接,引入TCN提取时间片段特征,将时间片段特征融入自注意力机制,以时间片段的相关性联系替代时间点的相关性联系。通过Wpsformer模型多步输出超短期风电功率预测值,与原始Transformer模型相比,Wpsformer模型使用窗口概率稀疏自注意力机制,在捕获长期依赖关系的同时筛选出重要程度相对较高的时间片段特征进行计算,提高了预测精度且降低了计算成本。曹店风电场的算例结果表明,所提模型在预测精度方面具有明显优势。消融实验证明了所提模型各模块的必要性。
关键词
超短期风电功率预测
时间卷积网络
窗口概率稀疏Transformer
窗口概率稀疏自注意力机制
Keywords
ultra-short-term
wind
power
forecasting
TCN
Wpsformer
window
probability
sparse
self
-
attention
mechanism
分类号
TM614 [电气工程—电力系统及自动化]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
FMSWFormer:基于频率分离和自适应多尺度窗口的视觉Transformer
蔡岱立
谢维波
《集美大学学报（自然科学版）》
CAS
2023
0
下载PDF
职称材料
2
基于位移窗口自注意力网络和迁移学习的地震面波分离
杨晨睿
沈鸿雁
车晗
孙云鹏
刘帅
《西安石油大学学报（自然科学版）》
CAS
北大核心
2024
0
下载PDF
职称材料
3
基于TCN-Wpsformer混合模型的超短期风电功率预测
徐钽
谢开贵
王宇
胡博
邵常政
赵宇生
《电力自动化设备》
EI
CSCD
北大核心
2024
4
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
