Edit

🤭Reduction|并行规约

source from 《Professional CUDA C Programming》By Max Grossman&Ty McKercher.I made some changes according to my own understanding.

并行归约问题

假设要对一个有N个元素的整数数组求和。使用如下的串行代码很容易实现算法：

int sum = 0;
 for (int i = 0; i < N; i++)
   sum += array[i];

如果有大量的数据元素会怎么样呢？如何通过并行计算快速求和呢？鉴于加法的结合 律和交换律，数组元素可以以任何顺序求和。所以可以用以下的方法执行并行加法运算：

  1. 将输入向量划分到更小的数据块中。

  2. 用一个线程计算一个数据块的部分和。

  3. 对每个数据块的部分和再求和得出最终结果。

并行加法的一个常用方法是使用迭代成对实现。一个数据块只包含一对元素，并且一 个线程对这两个元素求和产生一个局部结果。然后，这些局部结果在最初的输入向量中就 地保存。这些新值被作为下一次迭代求和的输入值。因为输入值的数量在每一次迭代后会 减半，当输出向量的长度达到1时，最终的和就已经被计算出来了。

根据每次迭代后输出元素就地存储的位置，成对的并行求和实现可以被进一步分为以 下两种类型：

  • 相邻配对：元素与它们直接相邻的元素配对

  • 交错配对：根据给定的跨度配对元素

下图所示为相邻配对的实现。在每一步实现中，一个线程对两个相邻元素进行操 作，产生部分和。对于有N个元素的数组，这种实现方式需要N―1次求和，进行log2N 步，时间复杂度为O(log2N)。

下图所示为交错配对的实现。值得注意的是，在这种实现方法的每一步中，一个线 程的输入是输入数组长度的一半。

下列的C语言函数是一个交错配对方法的递归实现：

尽管以上代码实现的是加法，但任何满足交换律和结合律的运算都可以代替加法。例 如，通过调用max代替求和运算，就可以计算输入向量中的最大值。其他有效运算的例子 有最小值、平均值和乘积。

在向量中执行满足交换律和结合律的运算，被称为归约问题。并行归约问题是这种运 算的并行执行。并行归约是一种最常见的并行模式，并且是许多并行算法中的一个关键运 算。

并行归约中的分化

下图所示的是相邻配对方法的内核实现流程。每个线程将相邻的两个元素相加产生 部分和。 在这个内核里，有两个全局内存数组：一个大数组用来存放整个数组，进行归约；另 一个小数组用来存放每个线程块的部分和。

每个线程块在数组的一部分上独立地执行操 作。循环中迭代一次执行一个归约步骤。归约是在就地完成的，这意味着在每一步，全局 内存里的值都被部分和替代。__syncthreads语句可以保证，线程块中的任一线程在进入下 一次迭代之前，在当前迭代里每个线程的所有部分和都被保存在了全局内存中。进入下一 次迭代的所有线程都使用上一步产生的数值。在最后一个循环以后，整个线程块的和被保 存进全局内存中。

  1. 第一次看代码可能有些迷糊，可以结合我的注释，自己在画画图

  2. 可以从线程束是否分化，时间局部性和空间局部性思考下这段代码可以怎么改进

两个相邻元素间的距离被称为跨度，初始化均为1。在每一次归约循环结束后，这个 间隔就被乘以2。在第一次循环结束后，idata（全局数据指针）的偶数元素将会被部分和 替代。在第二次循环结束后，idata的每四个元素将会被新产生的部分和替代。因为线程块 间无法同步，所以每个线程块产生的部分和被复制回了主机，并且在那儿进行串行求和， 如下图所示。

改善并行归约的分化

测试核函数reduceNeighbored，并注意以下条件表达式：

因为上述语句只对偶数ID的线程为true，所以这会导致很高的线程束分化。在并行归 约的第一次迭代中，只有ID为偶数的线程执行这个条件语句的主体，但是所有的线程都必 须被调度。在第二次迭代中，只有四分之一的线程是活跃的，但是所有的线程仍然都必须 被调度。通过重新组织每个线程的数组索引来强制ID相邻的线程执行求和操作，线程束分 化就能被归约了。下图展示了这种实现。

修改之后的内核代码如下：

注意内核中的下述语句，它为每个线程设置数组访问索引：

因为跨度乘以了2，所以下面的语句使用线程块的前半部分来执行求和操作：

在归约操作中，使用邻近归约方法时，每个线程负责处理相邻的两个元素。通过乘以 2，可以使每个线程在数组中跳过一个元素，从而处理相邻的两个元素。考虑一个简单的示例，假设有一个包含 8 个元素的数组，编号为 0 到 7。使用邻近归约方法时，第一次迭代中，线程 0 负责处理元素 0 和元素 1，线程 1 负责处理元素 2 和元素 3，以此类推。通过将 tid 乘以 2，可以使每个线程的索引跳过一个元素。对于线程 0，tid 为 0，stride 为 1，因此 index = 2 * stride * tid = 0，线程 0 处理元素 0 和元素 1。对于线程 1，tid 为 1，stride 为 1，因此 index = 2 * stride * tid = 2，线程 1 处理元素 2 和元素 3。同样的方式继续下去，每个线程处理相邻的两个元素，直到完成归约操作。乘以 2 是为了确保每个线程处理相邻的元素，这是邻近归约方法的要求。

对于一个有512个线程的块来说，前8个线程束执行第一轮归约，剩下8个线程束什么 也不做。在第二轮里，前4个线程束执行归约，剩下12个线程束什么也不做。因此，这样 就彻底不存在分化了。在最后五轮中，当每一轮的线程总数小于线程束的大小时，分化就 会出现。

交错配对的归约

与相邻配对方法相比，交错配对方法颠倒了元素的跨度。初始跨度是线程块大小的一 半，然后在每次迭代中减少一半。在每次循环中，每个线程对两个被当 前跨度隔开的元素进行求和，以产生一个部分和。与相邻规约，交错归约的工作线程没 有变化。但是，每个线程在全局内存中的加载/存储位置是不同的。

交错归约的内核代码如下所示：

注意核函数中的下述语句，两个元素间的跨度被初始化为线程块大小的一半，然后在 每次循环中减少一半：

下面的语句在第一次迭代时强制线程块中的前半部分线程执行求和操作，第二次迭代 时是线程块的前四分之一，以此类推：

展开的规约

循环展开是一个尝试通过减少分支出现的频率和循环维护指令来优化循环的技术。在 循环展开中，循环主体在代码中要多次被编写，而不是只编写一次循环主体再使用另一个 循环来反复执行的。任何的封闭循环可将它的迭代次数减少或完全删除。循环体的复制数 量被称为循环展开因子，迭代次数就变为了原始循环迭代次数除以循环展开因子。在顺序 数组中，当循环的迭代次数在循环执行之前就已经知道时，循环展开是最有效提升性能的 方法。考虑下面的代码：

如果重复操作一次循环体，迭代次数能减少到原始循环的一半：

从高级语言层面上来看，循环展开使性能提高的原因可能不是显而易见的。这种提升 来自于编译器执行循环展开时低级指令的改进和优化。例如，在前面循环展开的例子中， 条件i<100只检查了50次，而在原来的循环中则检查了100次。另外，因为在每个循环中每 个语句的读和写都是独立的，所以CPU可以同时发出内存操作。

在CUDA中，循环展开的意义非常重大。我们的目标仍然是相同的：通过减少指令消 耗和增加更多的独立调度指令来提高性能。因此，更多的并发操作被添加到流水线上，以 产生更高的指令和内存带宽。这为线程束调度器提供更多符合条件的线程束，它们可以帮 助隐藏指令或内存延迟。

展开的归约

你可能会注意到，在reduceInterleaved核函数中每个线程块只处理一部分数据，这些 数据可以被认为是一个数据块。如果用一个线程块手动展开两个数据块的处理，会怎么 样？以下的核函数是reduceInterleaved核函数的修正版：每个线程块汇总了来自两个数据 块的数据。这是一个循环分区的例子，每个线程作用于多个数据 块，并处理每个数据块的一个元素：

注意要在核函数的开头添加的下述语句。在这里，每个线程都添加一个来自于相邻数 据块的元素。从概念上来讲，可以把它作为归约循环的一个迭代，此循环可在数据块间归 约：

如下所示，全局数组索引被相应地调整，因为只需要一半的线程块来处理相同的数据 集。请注意，这也意味着对于相同大小的数据集，向设备显示的线程束和线程块级别的并 行性更低。

因为现在每个线程块处理两个数据块，所以需要调整内核的执行配置，将网格大小减 小至一半

展开线程规约(Reducing with Unrolled Warps)

__syncthreads是用于块内同步的。在归约核函数中，它用来确保在线程进入下一轮之 前，每一轮中所有线程已经将局部结果写入全局内存中了。

然而，要细想一下只剩下32个或更少线程（即一个线程束）的情况。因为线程束的执 行是SIMT（单指令多线程）的，每条指令之后有隐式的线程束内同步过程。因此，归约 循环的最后6个迭代可以用下述语句来展开：

注意变量vmem是和volatile修饰符一起被声明的，它告诉编译器每次赋值时必须将 vmem[tid]的值存回全局内存中。如果省略了volatile修饰符，这段代码将不能正常工作， 因为编译器或缓存可能对全局或共享内存优化读写。如果位于全局或共享内存中的变量有 volatile修饰符，编译器会假定其值可以被其他线程在任何时间修改或使用。因此，任何引用volatile修饰符的变量强制直接读或写内存，而不是简单地读写缓存或寄存器。

如果省略了volatile修饰符，编译器可能会对共享变量的读写操作进行优化，例如将其缓存到寄存器或者CPU缓存中，而不是每次都直接读写全局内存。这种优化可能会导致以下问题：

  1. 可见性问题： 在多线程环境下，如果一个线程修改了共享变量的值，但是这个修改没有立即写回到全局内存中，其他线程就无法感知到这个修改，导致了可见性问题。

  2. 数据不一致性： 如果多个线程都缓存了共享变量的值，但是它们各自的缓存值可能与全局内存中的值不一致，这会导致数据不一致性问题。

  3. 竞态条件： 缺乏同步措施的情况下，多个线程对共享变量进行读写操作可能导致竞态条件的发生，从而产生不确定的结果。

通过使用volatile修饰符，可以告诉编译器不要对这些变量的读写操作进行优化，确保每次操作都直接反映到全局内存中，从而避免了上述问题的发生。

基于reduceUnrolling8，线程束的展开可以添加到归约核函数中，如下所示：

因为在这个实现中，每个线程处理8个数据块，调用这个内核的同时它的网格尺寸减 小到1/8

完全展开的归约

如果编译时已知一个循环中的迭代次数，就可以把循环完全展开。因为在Fermi或 Kepler架构中，每个块的最大线程数都是1024，并且在这些归约核函数中 循环迭代次数是基于一个线程块维度的，所以完全展开归约循环是完全可以的：

模板函数的归约

虽然可以手动展开循环，但是使用模板函数有助于进一步减少分支消耗。在设备函数 上CUDA支持模板参数。如下所示，可以指定块的大小作为模板函数的参数：

相比reduceCompleteUnrollWarps8，唯一的区别是使用了模板参数替换了块大小。检查 块大小的if语句将在编译时被评估，如果这一条件为false，那么编译时它将会被删除，使 得内循环更有效率。例如，在线程块大小为256的情况下调用这个核函数，下述语句将永 远是false：

编译器会自动从执行内核中移除它。 该核函数一定要在switch-case结构中被调用。这允许编译器为特定的线程块大小自动 优化代码，但这也意味着它只对在特定块大小下启动reduceCompleteUnroll有效：

下表概括了本节提到的所有并行归约实现的效果

下表总结了所有核函数加载/存储数据的效率

完整代码如下：

Previous线程束和线程束分化|WarpNext全局内存(Global Memory)访问模式

Last updated

Was this helpful?