期刊导航
期刊开放获取
cqvip
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
2
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
FMSWFormer:基于频率分离和自适应多尺度窗口的视觉Transformer
1
作者
蔡
岱
立
谢维波
《集美大学学报（自然科学版）》
CAS
2023年第6期568-576,共9页
由于Vision Transformer具有二次方的patch复杂度和较差的局部归纳偏置,导致需要大量的数据和更专业的数据增强策略及更多的训练技巧来超越高效卷积网络。为了解决这些问题,从多尺度特征提取和图像频率的角度进行研究,提出具有轻量注意...
由于Vision Transformer具有二次方的patch复杂度和较差的局部归纳偏置,导致需要大量的数据和更专业的数据增强策略及更多的训练技巧来超越高效卷积网络。为了解决这些问题,从多尺度特征提取和图像频率的角度进行研究,提出具有轻量注意力机制的FMSWFormer。FMSWFormer采用卷积-自注意力机制混合模块构建起不同频率间的通信,通过窗口划分实现局部注意力机制,以此限制过高的计算成本;参考自适应尺度感知卷积的做法,并创新性地将多尺度算子引入到自注意力计算中,从而实现了多头自注意力机制的自适应尺度感知能力。在各种基准识别任务数据集上进行广泛的实验,结果表明了FMSWFormer的有效性,在多个数据集中都取得了优越的性能,且不增加时间成本。其中在CIFAR100数据集上,FMSWFormer比SepViT的性能高出4.2%,延迟降低了47.8%;在参数量比EfficientNetv2减少了22%的情况下,FMSWFormer的性能依然能高出3.94%。
展开更多
关键词
窗口自注意力机制
多尺度特征提取
深度学习
卷积神经网络
图像高低频解耦
下载PDF
职称材料
基于Transformer架构的智能SDN管理系统
2
作者
杨远奇
谢泽凌
+1 位作者
蔡
岱
立
江恩杰
《互联网周刊》
2024年第21期28-30,共3页
软件定义网络(SDN)被誉为新一代网络架构的基石,其核心优势在于通过集中式控制机制来精简网络架构,提升整体运作效率。本文针对SDN环境下的流量管理需求,提出了一种融合Transformer架构与MLP-Mixer模型的深度学习预测模型。针对这两种...
软件定义网络(SDN)被誉为新一代网络架构的基石,其核心优势在于通过集中式控制机制来精简网络架构,提升整体运作效率。本文针对SDN环境下的流量管理需求,提出了一种融合Transformer架构与MLP-Mixer模型的深度学习预测模型。针对这两种框架的功能及其在模型中的作用进行了深入研究和探索,实现了网络流量预测的高效协同,并将SDN环境中的数据输入模型中进行训练和预测。本文揭示了潜在的风险点,并针对性地提出了解决方案。这些研究成果不仅简化了运维人员的管理流程,也显著提升了用户的网络体验。
展开更多
关键词
软件定义网络
流量预测
Transformer架构
MLP-Mixer模型
深度学习
下载PDF
职称材料
题名
FMSWFormer:基于频率分离和自适应多尺度窗口的视觉Transformer
1
作者
蔡
岱
立
谢维波
机构
华侨大学计算机科学与技术学院
出处
《集美大学学报（自然科学版）》
CAS
2023年第6期568-576,共9页
基金
国家自然科学基金项目(61271383)。
文摘
由于Vision Transformer具有二次方的patch复杂度和较差的局部归纳偏置,导致需要大量的数据和更专业的数据增强策略及更多的训练技巧来超越高效卷积网络。为了解决这些问题,从多尺度特征提取和图像频率的角度进行研究,提出具有轻量注意力机制的FMSWFormer。FMSWFormer采用卷积-自注意力机制混合模块构建起不同频率间的通信,通过窗口划分实现局部注意力机制,以此限制过高的计算成本;参考自适应尺度感知卷积的做法,并创新性地将多尺度算子引入到自注意力计算中,从而实现了多头自注意力机制的自适应尺度感知能力。在各种基准识别任务数据集上进行广泛的实验,结果表明了FMSWFormer的有效性,在多个数据集中都取得了优越的性能,且不增加时间成本。其中在CIFAR100数据集上,FMSWFormer比SepViT的性能高出4.2%,延迟降低了47.8%;在参数量比EfficientNetv2减少了22%的情况下,FMSWFormer的性能依然能高出3.94%。
关键词
窗口自注意力机制
多尺度特征提取
深度学习
卷积神经网络
图像高低频解耦
Keywords
window self-attention
multi-scale feature extraction
deep learning
convolutional neural networks
image high and low frequency decoupling
分类号
TP391.4 [自动化与计算机技术—计算机应用技术]
下载PDF
职称材料
题名
基于Transformer架构的智能SDN管理系统
2
作者
杨远奇
谢泽凌
蔡
岱
立
江恩杰
机构
集美大学诚毅学院信息工程系
自然资源部宁德海洋中心
华侨大学计算机科学与技术学院
出处
《互联网周刊》
2024年第21期28-30,共3页
基金
中国高校产学研创新基金-新一代信息技术创新项目——基于SDN的车联网流量预测算法研究(编号:2021ITA06004)
福建省中青年教师教育科研项目——车联网IoV流量预测算法研究(编号:JAT210671)
集美大学诚毅学院中青年项目——基于transformer的推荐算法研究(编号:c13019)。
文摘
软件定义网络(SDN)被誉为新一代网络架构的基石,其核心优势在于通过集中式控制机制来精简网络架构,提升整体运作效率。本文针对SDN环境下的流量管理需求,提出了一种融合Transformer架构与MLP-Mixer模型的深度学习预测模型。针对这两种框架的功能及其在模型中的作用进行了深入研究和探索,实现了网络流量预测的高效协同,并将SDN环境中的数据输入模型中进行训练和预测。本文揭示了潜在的风险点,并针对性地提出了解决方案。这些研究成果不仅简化了运维人员的管理流程,也显著提升了用户的网络体验。
关键词
软件定义网络
流量预测
Transformer架构
MLP-Mixer模型
深度学习
分类号
TP3 [自动化与计算机技术—计算机科学与技术]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
FMSWFormer:基于频率分离和自适应多尺度窗口的视觉Transformer
蔡
岱
立
谢维波
《集美大学学报（自然科学版）》
CAS
2023
0
下载PDF
职称材料
2
基于Transformer架构的智能SDN管理系统
杨远奇
谢泽凌
蔡
岱
立
江恩杰
《互联网周刊》
2024
0
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
