-
题名一种面向IPv6物联网网关的边缘智能优化技术
被引量：1
- 1
-
-
作者
许文元
方维维
孟娜
-
机构
北京交通大学计算机与信息技术学院
-
出处
《现代计算机》
2021年第15期66-71,共6页
-
基金
赛尔网络下一代互联网技术创新项目(No.NGII20190308)。
-
文摘
随着物联网设备的广泛部署应用,海量数据被直接送入互联网中导致网络服务质量变差。虽然深度神经网络技术的发展给数据智能识别分类提供技术支撑,但大量的参数和计算使得这些技术难以被应用于资源受限的网关设备中。因此,提出将知识蒸馏与模型早退方法结合应用于深度神经网络中,在降低模型计算量、保证模型精度的同时提供可选择的检测识别速度。在真实IPv6网络中的实验结果表明,网关设备部署优化模型后网络带宽占用减少用近90%。
-
关键词
物联网
IPV6网络
深度神经网络
知识蒸馏
模型早退
-
Keywords
Internet of Things
IPv6 Network
Deep Neural Network
Knowledge Distillation
Model Early Exit
-
分类号
TP391.44
[自动化与计算机技术—计算机应用技术]
TN915.05
[自动化与计算机技术—计算机科学与技术]
TP393.04
[电子电信—通信与信息系统]
-
-
题名基于多分支退出的自蒸馏方法研究
- 2
-
-
作者
邹美霞
-
机构
北京交通大学计算机与信息技术学院
-
出处
《现代计算机》
2022年第12期1-8,共8页
-
文摘
随着卷积神经网络的快速发展,研究者不断加深或加宽网络的结构以追求更高精度,但这种方式会带来延迟和计算成本的增加。在带有多分支结构的自蒸馏方法中存在浅层网络不能充分学习深层网络性能的问题。因此,提出一种基于多分支的自蒸馏方法(SDA),将网络中所有分支的集成结果作为教师指导最后分支的输出,同时用最后分支输出指导其他分支,使得模型更好更早地退出网络。实验结果表明,该方法在ResNet一系列模型上取得了0.46%~1.51%的精度提升。
-
关键词
卷积神经网络
多分支结构
自蒸馏方法
模型早退
-
Keywords
convolutional neural network
multi-branch structures
self-distillation approach
model exit early
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-
