当前位置:首页 > 书籍文档 >

微软mpi版本对效率的影响(微软mpi并行计算启动慢)

来源:原点资讯(m.360kss.com)时间:2023-12-04 18:16:26作者:YD166手机阅读>>

超级计算机用于建模和模拟科学计算中最复杂的过程,通常是为了洞察新发现,否则这些新发现在物理上是不切实际的或不可能演示的。

NVIDIA BlueField DPU(数据处理器)正在将高性能计算(HPC)资源转化为更高效的系统,同时在从数学建模和分子动力学到天气预报、气候研究,甚至可再生能源的广泛科学研究中加速解决问题。

微软mpi版本对效率的影响,微软mpi并行计算启动慢(1)

BlueField 已经在云网络、网络安全、通信和边缘计算领域产生了显著影响。此外,在高性能计算的多个领域引发了应用程序性能和系统效率方面的创新。

NVIDIA BlueField-3 提供了强大的计算能力,其基于多个 Arm AArch64 内核、多线程数据路径加速器、集成的 NVIDIA ConnectX-7 400Gb/s 网络 ,以及 I/O 路径中的各种可编程加速引擎。它配备了双 DDR 6500MT / s DRAM 控制器,并配有高达 32 GB 的板载内存。BlueField-3 是第三代片上数据中心基础设施,可实现从云到核心数据中心再到边缘的、高效且强大的软件定义、硬件加速基础设施。

那么,这一切对高性能计算意味着什么呢?

提高 HPC 应用程序性能和可扩展性

HPC 就是为了提高性能和可扩展性。近二十年来,InfiniBand 网络在性能和应用程序可扩展性方面一直处于领先地位,这有几个原因。

从高层次来看,InfiniBand 只是最有效的数据移动方式:直接数据放置。在数据从网络接口通过系统到达需要它的实际应用程序时,无需涉及 CPU 或操作系统,也无需制作数据的多个副本。

如果 InfiniBand 已经如此高效,BlueField 会带来什么好处?

InfiniBand 多年来一直在解决的关键挑战之一是将网络通信开销从 CPU 移开,使其能够将时间集中在最擅长的事情上:应用程序计算和分支代码。

当今主流服务器中的 CPU 过于通用,在数百或数千个与实际计算几乎无关的进程中共享其计算周期、时间和资源。

BlueField 通过卸载、加速和隔离广泛的高级网络、存储和安全服务,为超级计算带来了前所未有的创新和效率。

为什么人工智能时代带来了

对 BlueField DPU 的需求

人工智能研究领域作为一门学科于 1956 年成立。甚至在那之前的十年,科学家们就开始讨论创造人工大脑的可能性。随着现代计算机硬件和软件的发展,这些概念很晚才成为现实。

2006 年,NVIDIA 推出了业界首个针对 GPU 的 C 编译器开发环境 CUDA ,解决复杂计算问题的速度比传统方法快 100 倍。今天,人工智能成果丰硕,几乎推动了科学研究的每个领域,改变了我们的生活,塑造了工业格局。

同样, 2006 年年中推出了用于非阻塞集合操作的首个提案。为消息传递接口(MPI)的集合组通信功能而提出的非阻塞接口在理论上肯定是成效斐然的。然而,它并没有在许多应用程序中实现。也许这是因为,在引入 DPU 之前,无法实现全部好处。

今天,随着 BlueField-3 的问世,这项技术已经提供了创新、性能和效率所需的基本要素。为了提高应用程序性能和可伸缩性,并消除操作系统抖动的影响,非阻塞集合操作重新引起了人们的兴趣。

科学计算还有几个领域,包括早期的例子,BlueField 正在展示其如何将 HPC 转化为高效和可持续的计算。

通过网络计算节省 CPU 周期

NVIDIA 的 Scalable Hierarchical Aggregation and Reduction Protocol(SHARP)技术通过将许多阻塞集体操作从 CPU 卸载到交换网络,且无需在端点之间多次发送数据,从而提高了 MPI 操作的性能。这种创新的方法减少了到达聚合节点时穿越网络的数据量,并大大减少了 MPI 操作时间。

BlueField 通过利用其 Arm 内核实现非阻塞操作,扩展了额外的网络计算能力。这使系统主机 CPU 能够执行峰值重叠计算。

图 2 显示了一个使用 MVAPICH2- DPU 库的示例,该库正在进行优化,以充分利用 BlueField 的全部潜力。它显示了提取主机上发生的计算与 MPI_Ialltoall 通信之间的峰值重叠的能力。

微软mpi版本对效率的影响,微软mpi并行计算启动慢(2)

适用于 HPC 工作负载的计算存储

计算存储(或称为存储计算)为传统存储设备带来了 HPC 功能。在计算存储中,您可以在存储设备内或旁边执行选定的计算任务,从而减轻主机处理负担并减少数据移动。BlueField 提供在单卡上结合存储和网络计算的能力。

BlueField 使存储软件堆栈能够从计算节点卸载,同时还可作为网络架构附加 NVMe 控制器,能够加速关键存储功能,如压缩、校验和计算以及奇偶校验生成。此类服务在并行文件系统中提供。

整个存储系统堆栈在 Linux 内核中透明卸载,同时在 NVMe 目标端由 NVIDIA DOCA 简单实现标准存储功能。

新一代开放存储架构为加速、隔离和保护高性能存储系统提供了一种新的范例。该系统采用硬件和软件协同设计,使 DPU 对用户来说非常高效和透明。

文件系统的加速意味着提高存储系统中关键功能的性能,而存储系统性能是基于深入学习的科学探究的关键促成因素。

将存储客户端和服务器完全卸载到 DPU 的能力带来以前无法实现的安全和性能隔离级别。关键数据平面和控制平面功能移动到 DPU 上的单独域。这样可以免除服务器 CPU 的工作负担,并在 CPU 或其软件受损的情况下保护功能。

NVIDIA DOCA 软件框架

NVIDIA DOCA SDK 是释放 BlueField 潜力的关键。NVIDIA DOCA 和 BlueField DPU 通过一个全面、开放的开发平台,共同实现了应用程序的开发,这些应用程序可以提供突破性的网络、安全、存储和应用程序性能。

NVIDIA DOCA 支持一系列操作系统和发行版,包括驱动程序、库、工具、文档和示例应用程序。即将发布的 NVIDIA DOCA 1.5 和 2.0 版本引入了广泛的网络、存储、安全功能和增强功能,为 HPC 开发人员提供突破性的性能和高级编程能力:

  • 全新的通信通道库
  • 快速访问主机内存以实现 UCX 加速
  • 存储仿真(SNAP),包括存储加密
  • 全新的 NVIDIA DOCA 服务,包括 UCC 卸载服务和遥测服务
  • NVIDIA DOCA 安全 SDK

改变 HPC 领域的今天和明天

许多创新领域已经初露端倪,BlueField DPU 、NVIDIA DOCA 以及社区将继续为 HPC 领域带来改变。

有些想法已经实现了,例如在数据中心范围内增强性能隔离,或增强作业调度程序以实现更智能的作业安排。

由于科学应用程序通常是高度同步的,因此系统噪声对大型 HPC 系统的负面影响可能会对性能产生更大的影响。减少存储等其他过程引起的系统噪音至关重要。

遥测信息功能强大。它不仅仅是收集有关路由器、交换机和网络流量的信息。相反,可以通过工作负载和 I/O 特性收集和共享信息。

AI 框架精确地调整了 NVIDIA Quantum-2 InfiniBand 平台中的性能隔离算法。共享公共数据中心资源(如网络和存储)的多应用程序环境可以确保能实现的最佳性能,就像应用程序作为单个实例在裸机上运行一样。

BlueField DPU 完全有能力应对大规模计算带来的挑战。

栏目热文

mpi接口是九针接口吗(dp接口与mpi接口区别)

mpi接口是九针接口吗(dp接口与mpi接口区别)

今天给大家分享西门子PLC几种常见的连接口和通讯协议。1、RS232接口与RS485接口的区别一、接口的物理结构1、RS...

2023-12-04 18:15:33查看全文 >>

如何查看电脑是否支持mpi(怎么查看电脑是否支持xmp模式)

如何查看电脑是否支持mpi(怎么查看电脑是否支持xmp模式)

主要是为大家分享几种WINCC连接西门子PLC的常用方式。此次并未列出所有的WINCC连接西门子品牌PLC的所有方法,只...

2023-12-04 17:56:10查看全文 >>

什么是mpi系统(mpi协议一般用于什么设备)

什么是mpi系统(mpi协议一般用于什么设备)

编者按:Google、Uber、DeepMind和Microsoft这四大科技公司是当前将深度学习研究广泛应用于自身业务...

2023-12-04 17:57:28查看全文 >>

电脑有mpi接口吗(电脑有gpio接口吗)

电脑有mpi接口吗(电脑有gpio接口吗)

学习PLC之间的通信绝对是初学者的难题,如果有通信基础还好,要是没有一点基础怎么入门呢?这里给大家几个建议:一、初步了解...

2023-12-04 17:53:58查看全文 >>

15款mbp最适合的系统(17款mbp用什么系统好)

15款mbp最适合的系统(17款mbp用什么系统好)

年中Apple悄然上架2018年新款Macbook Pro,这也表明着本次的更新不会太大,基本也只是硬件上的常规升级:八...

2023-12-04 17:54:17查看全文 >>

mpi可以和哪些设备通讯(mpi协议使用什么端口)

mpi可以和哪些设备通讯(mpi协议使用什么端口)

1 内容概述首先,这里对S7-200通讯性能做一个整体介绍,请看CPU200和扩展模块示意图(上图),CPU200会集成...

2023-12-04 18:11:01查看全文 >>

mpi工作原理(mpi通信原理)

mpi工作原理(mpi通信原理)

引言随着科技的进步,人类在医学领域的诊疗手段也接连取得突破,像计算机成像,磁共振成像和单光子成像技术都为患者带来了福音,...

2023-12-04 18:22:33查看全文 >>

mpi可以用于调度吗(mpi规约操作)

mpi可以用于调度吗(mpi规约操作)

如果问 mapreduce 和 spark 什么关系,或者说有什么共同属性,你可能会回答他们都是大数据处理引擎。如果问 ...

2023-12-04 18:14:20查看全文 >>

什么是mpi(大众mpi发动机是什么意思)

什么是mpi(大众mpi发动机是什么意思)

MPI是多点燃油顺序喷射,简单的说就是每个气缸都有一个喷油器分布在进气道,汽油经过油箱里燃油泵加压,喷油器雾化,和空气形...

2023-12-04 17:44:06查看全文 >>

mpi接口什么样子(mpi接口针脚定义)

mpi接口什么样子(mpi接口针脚定义)

在高性能计算中,经常会用到MPI或者MPI-IO,那MPI和MPI-IO到底是什么呢?MPI(Message Passi...

2023-12-04 17:49:54查看全文 >>

文档排行