Cray T3D 是最新设计的 NUMA 机器，旨在提供高度可扩展的并行超级计算机，能够结合共享内存和消息传递编程范式。与其他 NUMA 机器一样，共享内存分布在处理单元之间，以避免内存访问瓶颈，并且没有硬件支持缓存一致性。但是，一个特殊的软件包和编程模型，称为 CRAFT，管理一致性并保证数据的完整性。Cray T3D 硬件结构分为三个部分：微体系结构宏体系结构微体系结构基于 Digital 的 21064 Alpha AXP ... 阅读更多

Hector 是一种分层 NUMA 机器，由通过环形网络层次结构连接的工作站组成。工作站是对称多处理器，其中处理模块通过单个总线连接。节点包含三个主要单元：处理器/缓存单元、内存单元和工作站总线接口，该接口连接了原本分开的处理器和内存总线。两个总线的分离使其他处理器能够访问此内存，而处理器在异节点内存中执行内存访问操作。机器的处理模块被分组到共享总线对称多处理器中，称为工作站。它们通过位并行本地环形连接，这... 阅读更多

NUMA 代表非一致性内存访问。NUMA 是一种多处理器模型，其中每个处理器都连接到专用的内存。非一致性内存访问 (NUMA) 机器旨在防止 UMA 机器的内存访问瓶颈。逻辑共享内存在 NUMA 机器的处理节点之间物理分配，从而导致分布式共享内存体系结构。这些并行计算机变得非常可扩展，但它们对本地内存中的数据分配非常敏感。访问节点的本地内存段比访问远程内存段快得多。主要区别在于地址空间的组织方式。在... 阅读更多

UMA 代表一致性内存访问。它是一种用于并行计算机的共享内存体系结构。UMA 模型中的所有处理器都统一共享物理内存。在 UMA 体系结构中，访问内存位置的时间与哪个处理器发出请求或哪个内存芯片包含共享数据无关。尽管 UMA 体系结构不适合构建可扩展的并行计算机，但它非常适合构建小型单总线多处理器。两台这样的机器是 Encore Computer Corporation 的 Encore Multimax，代表了 20 世纪 80 年代后期... 阅读更多

在自适应路由中，中间节点可以考虑实际的网络状况，包括劣化或瓶颈的存在，并据此决定应将消息发送到哪个邻居。根据输出通道的选择，自适应路由方案可以是有利或错误路由。在有利路由中，只有已知可以保证更接近目的地的通道才是候选通道。有利路由代表了一种保守的观点。错误路由协议依赖于乐观的观点，并且可以使用有利和非有利通道来建立源和目标之间的路径。选择非有利... 阅读更多

在确定性路由中，路径完全由源节点和目标节点确定。即使在网络拥塞的情况下，中间节点也无法重定向消息。确定性路由可以根据选择确定性路径的节点位置进一步分类。在源路由中，是源节点选择源节点和目标节点之间的完整路径。分布式路由允许每个中间节点独立确定应将消息发送到的路径的下一个节点。有三种确定性路由方案如下：路标路由 - 路标... 阅读更多

交换是将消息从输入缓冲区移出并放置到输出缓冲区的实际机制。应用的交换技术对消息延迟有极大的影响，因此，在设计任何分布式内存计算机时，选择交换方法至关重要。交换技术的架构空间如图所示。分组交换（存储转发）在第一代多计算机中，分组交换机制借鉴自计算机网络领域。分组交换机制以类似于邮件服务的存储转发方式运行。消息被分成数据包... 阅读更多

在静态网络中，输入和输出节点之间的连接是固定的，不能修改。静态互连网络无法重新配置。此网络的示例包括线性数组、环形、弦形环、树、星形、胖树、网格、环游、 systolic 数组和超立方体。静态互连拓扑的架构空间如图所示。线性数组这是一种最基本的互连设计。在此处理器以线性一维数组连接。第一个和最后一个处理器与一个相邻处理器连接，中间处理组件与两个相邻处理器连接。它是一个一维互连网络。环形这... 阅读更多

直接互连网络用于连接不同的处理单元或不同的过程内存。互连网络，也称为多级互连网络（或 MIN），是高速计算机网络。直接互连网络的特点拓扑结构 - 它表示网络的节点如何组织。网络直径 - 它是网络中距离最远的节点之间的最小距离。距离以任何两个节点之间的多个特定跳数来衡量。节点度 - 与节点连接的边数称为节点度。如果边承载来自节点的信息，则称为... 阅读更多

共享内存 MIMD 体系结构被称为多处理器。它可以考虑一组处理器和一组内存模块。任何处理器都可以通过互连网络直接访问任何内存模块，如图所示。内存模块集表示所有处理器共享的全局地址空间。这种类型的并行机器称为共享内存 MIMD 体系结构。共享内存 MIMD 体系结构的优点共享内存 MIMD 体系结构具有以下优点：不需要对代码或数据进行分区，因此可以简单地使用单处理器编程方法... 阅读更多