基于MPI的分布式数据处理系统

基于MPI的分布式数据处理系统

论文摘要

为简化江门中微子实验的离线数据处理流程,减少资源消耗,提出一种在分布式计算环境中进行数据处理的通用软件系统。基于信息传递接口实现节点间的通信与数据交换,使用Master/Worker架构对计算作业生命周期进行管理,包括计算作业拆分、计算资源分配以及计算任务执行与监控。测试结果表明,该系统具有良好的可扩展性,其产生的数据与人工逐步执行作业脚本运行模拟软件产生的数据一致。

论文目录

  • 0 概述
  • 1 需求分析
  • 2 系统框架整体设计
  •   2.1 流程设计
  •   2.2 架构设计
  •   2.3 接口设计
  • 3 系统实现
  •   3.1 系统与应用配置
  •   3.2 应用控制与调度
  •   3.3 任务执行控制
  •   3.4 流程控制
  •   3.5 任务监控与异常处理
  • 4 性能测试与分析
  •   4.1 应用执行测试
  •   4.2 压力测试
  • 5 结束语
  • 文章来源

    类型: 期刊论文

    作者: 赵宝琦,李卫东,邹佳恒,林韬,颜田

    关键词: 高能物理,江门中微子实验,离线数据处理,分布式计算,信息传递接口

    来源: 计算机工程 2019年07期

    年度: 2019

    分类: 信息科技,基础科学

    专业: 物理学

    单位: 中国科学院大学计算机与控制学院,中国科学院高能物理研究所

    基金: 中国科学院战略性先导科技专项(A类)(XDA10010900),大科学装置联合基金(U1532258)

    分类号: O572.321

    DOI: 10.19678/j.issn.1000-3428.0051077

    页码: 20-25

    总页数: 6

    文件大小: 1193K

    下载量: 98

    相关论文文献

    • [1].并行式matlab平台搭建[J]. 电脑知识与技术 2008(08)
    • [2].基于可视化库和信息传递接口云图显示的并行化处理[J]. 计算机应用 2015(11)

    标签:;  ;  ;  ;  ;  

    基于MPI的分布式数据处理系统
    下载Doc文档

    猜你喜欢