-
题名面向模型预分层的边缘终端多AI任务调度策略
被引量：1
- 1
-
-
作者
梁荣欣
陈庆奎
-
机构
上海理工大学光电信息与计算机工程学院
-
出处
《小型微型计算机系统》
CSCD
北大核心
2022年第6期1154-1161,共8页
-
基金
国家自然科学基金项目(61572325)资助
上海重点科技攻关项目(19DZ1208903)资助
上海智能家居大规模物联共性技术工程中心项目(GCZX14014)资助.
-
文摘
边缘AI的兴起促进了AI在边缘计算场景中的广泛应用.随着AI任务的多样化、终端设备性能的不断提升,实际应用中亟须设计一种新的模型实现单个终端设备上的多AI任务并行调度.然而目前的研究更关注单个AI任务在单个终端设备上的计算效率,因此本文提出一种基于模型预分层的多AI任务调度策略,以优化多AI任务在终端设备上的计算效率.首先,对多个AI任务进行模型预分层,并记录每种预分层的计算量和参数量;其次,在终端设备上建立资源监控模型,实时检测可用资源情况;最后,结合时间周期要求和实时可用资源的约束,以对边缘终端的计算资源需求最大为目标,从多个AI任务的多个预分层模型集合中选取一组由多个AI任务不同预分层组成的最优解,动态地调整每个AI任务在终端设备上的模型计算层数,在避免固定式模型分层的弊端的同时,充分利用终端设备的计算资源.实验结果显示,本文策略能够有效提高多AI任务的计算效率,计算资源利用率可达到96.97%,调度分配成功率可达到96.45%,数据传输量减小率可达到97.22%.
-
关键词
模型预分层
终端设备
边缘ai
多ai任务调度
-
Keywords
model pre-stratification
terminal device
edge ai
multi-ai task scheduling
-
分类号
TP302
[自动化与计算机技术—计算机系统结构]
-
