期刊导航
期刊开放获取
cqvip
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
基于纠删码和动态副本策略的HDFS改进系统
被引量:
10
1
作者
李晓恺
代翔
+1 位作者
李文杰
崔喆
《计算机应用》
CSCD
北大核心
2012年第8期2150-2153,2158,共5页
为了让Hadoop分布式文件系统(HDFS)达到更高的存储效率以及更加优化的负载均衡能力,针对HDFS的多副本存储技术提出了改进方案——Noah。Noah引入了编码和译码模块,对HDFS中的block进行编码分解,生成更多数量的数据分片(section),并随机...
为了让Hadoop分布式文件系统(HDFS)达到更高的存储效率以及更加优化的负载均衡能力,针对HDFS的多副本存储技术提出了改进方案——Noah。Noah引入了编码和译码模块,对HDFS中的block进行编码分解,生成更多数量的数据分片(section),并随机地分散保存到集群当中,替代原有系统的多副本容灾策略;在集群出现节点失效的情况下,通过收集与失效block相关的任意70%左右的section进行原始数据的恢复;同时根据分布式集群运行情况以及对副本数目需求的不同采用动态副本策略。通过相关的集群实验,表明Noah在容灾效率、负载均衡、存储成本以及安全性上对HDFS作了相应的优化。
展开更多
关键词
hadoop
分布式文件系统
分布式存储
数据容灾
负载均衡
动态副本
下载PDF
职称材料
题名
基于纠删码和动态副本策略的HDFS改进系统
被引量:
10
1
作者
李晓恺
代翔
李文杰
崔喆
机构
中国科学院成都计算机应用研究所
中国科学院研究生院
出处
《计算机应用》
CSCD
北大核心
2012年第8期2150-2153,2158,共5页
基金
国家863计划项目(2008AAO1Z402)
文摘
为了让Hadoop分布式文件系统(HDFS)达到更高的存储效率以及更加优化的负载均衡能力,针对HDFS的多副本存储技术提出了改进方案——Noah。Noah引入了编码和译码模块,对HDFS中的block进行编码分解,生成更多数量的数据分片(section),并随机地分散保存到集群当中,替代原有系统的多副本容灾策略;在集群出现节点失效的情况下,通过收集与失效block相关的任意70%左右的section进行原始数据的恢复;同时根据分布式集群运行情况以及对副本数目需求的不同采用动态副本策略。通过相关的集群实验,表明Noah在容灾效率、负载均衡、存储成本以及安全性上对HDFS作了相应的优化。
关键词
hadoop
分布式文件系统
分布式存储
数据容灾
负载均衡
动态副本
Keywords
key
words
:
hadoop
distributed file system
(
hdfs
)
distributed
storage
data
disaster
recovery
load-balance
dynamic
replication
分类号
TP393.027.2 [自动化与计算机技术—计算机应用技术]
TP311.133.1 [自动化与计算机技术—计算机科学与技术]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
基于纠删码和动态副本策略的HDFS改进系统
李晓恺
代翔
李文杰
崔喆
《计算机应用》
CSCD
北大核心
2012
10
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部