期刊文献+

气象网格环境下大数据的端到端传输机制研究 被引量:7

Research of an End-to-End Transfer Mechanism for Big Data in CMAGrid Environment
下载PDF
导出
摘要 以八个区域中心建立气象网格计算环境(CMAGrid),有效整合利用各区域中心现有的高性能计算资源,以提高气象行业资源利用率和气象作业运行效率。气象作业运行过程中的输入和输出都需要在各区域中心之间进行数据传输,大量的气象数据文件较大,因此,在CAMGrid环境下实现高效的气象大数据传输是个值得研究的课题。本文重点研究CMAGrid环境中各区域中心间端到端的气象大数据的高效传输机制。在气象网格环境搭建的基础上,根据气象大数据的特点,分析影响大数据传输效率的关键问题,基于缓冲区、数据切分、多路并行传输等机制研究一种大数据的端到端高效传输机制,有效利用现有的网络带宽,以提高气象骨干网环境下的数据传输能力。 In order to improve the using efficiency of existed meteorological resources and the running efficiency of mete-orological jobs,we established a Meteorological Grid (CMAGrid)environment with the high performance computing re-sources of eight regional centers.The input and output of meteorological jobs in the running process need transfer data in the regional centers.The capacity of the meteorological data file is always big,therefore,it is a worthy study topic to improve transmission efficiency of the meteorological data in the CMAGrid environment.This paper focuses on the End-to-End effi-cient of transmission mechanism of the big meteorological data between the regional centers in the CMAGrid environment. According to the characteristics of meteorological data and he CMAGrid environment,this paper analyzes the key problems that affects the transfer efficiency of the big data and designs an efficient end-to-end multipath parallel data transfer mecha-nism based on the technology of buffer area,data segmentation and multipath parallel transfer and so on.It aims to fully use the transfer capacity of the entire network and improve the data transmission efficiency in the CMAGrid environment.
作者 刘立明 王彬
出处 《计算技术与自动化》 2014年第1期122-126,共5页 Computing Technology and Automation
关键词 CMAGrid 端到端 大数据 多路 并发 CMAGrid CMAGrid End-to-End big data multipath intercurrent
  • 相关文献

参考文献13

  • 1宗翔,王彬.国家级气象高性能计算机管理与应用网络平台设计[J].应用气象学报,2006,17(5):629-634. 被引量:21
  • 2曹燕,王彬,李娟.国家气象应用网格平台用户安全的设计和实现[A].国家气象信息中心2008年度科技年会论文集[C].2009.61-67. 被引量:1
  • 3陈德辉,沈学顺.新一代数值预报系统GRAPES研究进展[J].应用气象学报,2006,17(6):773-777. 被引量:157
  • 4H. Sivakumar, S. Bailey, R. L. Grossman, PSockets- the case for application-level network striping for data intensive applications using high speed wide area networks[J]. IEEE, 2000. 被引量:1
  • 5Lee. Jason , Gunter. Dan,Tierney. Brian and Allcock, Ap- plied techniques for high bandwidth data transfers across wide area networks[J]. Proceedings of International Confer- ence on Computing in High Energy and Nuclear Physics, 2001. 被引量:1
  • 6Semke, J. Mahdavi, M. Mathis, "Automatic TCP Buffer Tuning," Computer Communication Review[J].ACM SIG- COMM,volume 28,1998. 被引量:1
  • 7T. Lakshman, U. Madhow, The Performance of TCP/IP Networks with High Bandwidth-delay Produets and Random Loss[J]. IEEE Transactions on Networking, 1997, 5 (3) : 336-350. 被引量:1
  • 8王彬,宗翔田浩.国家气象网络应用计算系统的设计[A].国家气象信息中心2007年度科技年会论文集[C].2008.72-79. 被引量:1
  • 9G. Wasson, M. Humphrey. HPC File Staging Profile[J]. Version 1.0. 2008. 被引量:1
  • 10李集明,沈文海,王国复.气象信息共享平台及其关键技术研究[J].应用气象学报,2006,17(5):621-628. 被引量:89

二级参考文献18

共引文献260

同被引文献98

引证文献7

二级引证文献37

相关作者

内容加载中请稍等...

相关机构

内容加载中请稍等...

相关主题

内容加载中请稍等...

浏览历史

内容加载中请稍等...
;
使用帮助 返回顶部