阻塞网络 阻塞网络具有这样的特性：在存在一对输入/输出之间当前已建立的互连的情况下，对两个任意未使用的输入和输出之间的新互连请求的到达可能是也可能不是可能的。阻塞网络的示例包括 Omega、Banyan、Shuffle-Exchange 和 Baseline。例如，考虑 SEN，如图所示。在输入 101 和输出 011 之间存在连接的情况下，输入 100 和输出 001 之间的连接是不可能的。这是因为从 101 到 011 的连接使用了第三个交换机从…… 阅读更多

在这种类型的网络中，处理器和内存模块之间的连接是使用简单的交换机实现的。有三种基本的互连拓扑，例如交叉开关、单级和多级。交叉开关网络交叉开关网络定义了对受限单总线网络的另一个极端。虽然单总线只能提供单个连接，但交叉开关可以在其所有输入和所有输出之间提供同时连接。交叉开关包括在其内部水平或垂直扩展的任何两条线的交点处的交换元件 (SE)。单级网络在这种情况下，在输入... 阅读更多

MIMD 代表多指令多数据流。它包括由多个处理器和多个内存模块通过某些互连网络连接而成的并行架构。它们分为两种主要类型，包括共享内存或消息传递。共享内存系统通常通过所有处理器共享的全局内存来完成处理器间的协调。这些通常是通过总线和缓存内存控制器进行通信的服务器系统。总线/缓存架构减轻了对昂贵的多分支内存和接口电路的需求，以及在开发应用程序软件时采用消息传递范例的需求。由于对共享内存的访问是平衡的，这些... 阅读更多

SIMD 代表单指令多数据流。并行计算的 SIMD 模型包括两部分：一个普通的冯·诺依曼风格的前端计算机和一个处理器阵列，如图所示。处理器阵列是相同同步处理单元的集合，足以同时对各种数据执行相同的操作。阵列中的每个处理器都有少量本地内存，分布式数据在并行处理时驻留在其中。处理器阵列连接到前端的内存总线，以便前端可以随机创建本地... 阅读更多

向量操作数在主内存和向量寄存器之间的流动通常使用各种访问路径进行流水线处理。在本节中，我们指定向量操作数并描述来自交错内存模块的三种向量访问方案，这些方案允许重叠内存访问。向量操作数规范 - 向量操作数可以具有任意长度。向量元素不一定保存在连续的内存区域中。例如，矩阵中的条目可以按行优先存储或按列优先存储。矩阵的每一行、每一列或对角线都可以用作向量。当行元素以单位步长存储在连续位置时，列... 阅读更多

向量是一组标量数据元素，所有元素类型相同，存储在内存中。向量元素是有序的，在连续元素之间有一个固定的寻址增量，称为步长。向量处理器是一组硬件资源，例如向量寄存器、功能流水线、处理单元和寄存器计数器，用于执行向量运算。当算术或逻辑运算用于向量时，就会出现向量处理。它与标量处理不同，标量处理对一个或一对数据进行操作。从标量代码到向量代码的转换称为矢量化。向量指令的类型有各种... 阅读更多

并行算法是专门为并行计算机设计的算法。如果没有任何物理约束或通信开销，理想化的并行算法就是为 PRAM 模型编写的算法。在现实世界中，只有当算法能够以经济有效的方式在物理机器上实现时，它才被认为是高效的。从这个意义上说，所有机器可实现的算法都必须依赖于架构。这意味着不能忽略通信开销和体系结构约束的影响。并行算法的特性并行算法有各种特性，如下所示 -确定性与非确定性 - 只有确定性算法才能在真实机器上实现。我们的研究是... 阅读更多

分布式内存多计算机系统在图中建模。该系统包括多个称为节点的计算机，通过消息传递网络相关联。每个节点都是一个独立的计算机，包括一个处理器、本地内存，有时还连接磁盘或 I/O 外围设备。消息传递网络支持节点之间的点对点静态连接。所有本地内存都是私有的，只能由本地处理器使用。对于这种方法，传统的多计算机被称为无远程内存访问 (NORMA) 机器。这种条件将在未来具有分布式共享内存的多计算机中不断被消除。节点间的通信是通过静态连接网络传递消息来进行的。多计算机的几代... 阅读更多

VLIW 代表超长指令字 (VLIW) 架构。它是利用程序中指令级并行性 (ILP) 的合适替代方案，尤其是在一次执行多个基本（原始）指令时。这些处理器包括各种功能单元，从指令缓存中提取包含各种原始指令的超长指令字，并调度整个 VLIW 以进行并行执行。这些功能由编译器利用，编译器生成包含可并行执行的分组的独立原始指令的代码。处理器具有关联简单的控制逻辑，因为它们不实现任何动态调度或操作重新排序。VLIW 的主要目标是... 阅读更多

数据路由网络用于 PE 间数据交换。数据路由网络可以是静态的或动态的。在多计算机网络中，数据路由是通过多个计算机节点之间的消息实现的。路由网络减少了数据交换所需的时间，从而提高了系统性能。常用的数据路由功能有移位、旋转、置换、广播、多播、个性化通信、混洗等。有各种数据路由功能，如下所示 -置换 - 假设有 n 个对象，那么就有 n 个置换，可以通过这些置换来记录 n 个对象。所有置换的集合构成关于... 阅读更多