《OpenCL异构并行编程实战》第十二至十四章

▶ 第十二章，在其他语言中使用 OpenCL

● JOCL（Java Building for OpenCL），PyOpenCL

● 一个 PyOpenCL 的例子代码，需要 pyopencl 包

 import pyopencl as cl
 import numpy as np
 import numpy.linalg as la

 a = np.random.rand(50000).astype(np.float32)
 b = np.random.rand(50000).astype(np.float32)

 ctx = cl.create_some_context()
 queue = cl.CommandQueue(ctx)

 mf = cl.mem_flags
 a_buf = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf = a)
 b_buf = cl.Buffer(ctx, mf.READ_ONLY | mf.COPY_HOST_PTR, hostbuf = b)
 c_buf = cl.Buffer(ctx, mf.WRITE_ONLY, b.nbytes)

 code = """
 __kernel void vecadd(__global const float *a, __global const float *b, __global float *c)
 {
     int gid=get_global_id(0);
     c[gid] = a[gid] + b[gid];
 }
 """
 prg = cl.Program(ctx, code).build()

 prg.vecadd(queue, a.shape, None, a_buf, b_buf, c_buf)

 a_plus_b = np.empty_like(a)
 cl.enqueue_copy(queue, a_plus_b, c_buf)

 print(sum(a_plus_b - (a + b)))

● OpenCL 对象的生命周期不是由一个 C 作用域来定义，而是由引用计数操作来定义。

▶ 第十三章，OpenCL 的性能剖析和调试

● 查看事件状态

 void initializeCL(void)
 {
     cl_int status = ;
     cl_ulong time;
     cl_event ev;
     cl_platform_id      platform;
     cl_device_id        device;
     cl_context          context;
     cl_command_queue    commandQueue;

     clGetPlatformIDs(, &platform, NULL);
     clGetDeviceIDs(platform, CL_DEVICE_TYPE_GPU, , &device, NULL);
     context = clCreateContext(NULL, , &device, NULL, NULL, NULL);
     commandQueue = clCreateCommandQueue(context, device, CL_QUEUE_PROFILING_ENABLE, &status);// 创建队列时传入事件分析属性值，之后无法变更

     ...// 关于ev 的一些操作 

     clGetEventProfilingInfo(ev, CL_PROFILING_COMMAND_QUEUED, sizeof(cl_ulong), &time, NULL);// 获取事件进入命令队列的时刻
     clGetEventProfilingInfo(ev, CL_PROFILING_COMMAND_SUBMIT, sizeof(cl_ulong), &time, NULL);// 获取事件提交到设备的时刻
     clGetEventProfilingInfo(ev, CL_PROFILING_COMMAND_START, sizeof(cl_ulong), &time, NULL); // 获取事件开始执行的时刻
     clGetEventProfilingInfo(ev, CL_PROFILING_COMMAND_END, sizeof(cl_ulong), &time, NULL);   // 获取事件执行完成的时刻
 }

● 启用 AMD printf 扩展，允许咋个核函数中使用 printf 函数

 #pragma OPENCL EXTENSION cl_amd_printf: enable

▶ 第十四章，某图像分析应用的性能调优

● Kernel Occupancy，定义为 N_W^A（一个计算单元上能并发执行的 wavefront 数目）与 N_W^T（该计算单元能启动的 wavefront 数目的最大值）之比。N_W^A取决于三个因素：每个 work-item 需要的 GPRS 数目，每个 workgroup 需要的本地内存大小（LDS）和 workgroup 的尺寸。

● LDS 对 KO 的影响：WF_LDS^max = min{WG_CU^max, WG^max} * WF_WG。WF_WG 为每个 workgroup 的 wavefront 大小（与 LDS 大小没有必然联系）；WG_CU^max 为硬件规定一个计算单元中 workgroup 的数量上限，WG^max = LDS_CU / LDS_WG 为用本地内存计算得到的工作组数量上限，LDS_CU 为本地内存大小， LDS_WG 为一个 workgroup 需要的 LDS 的大小。

● GPR 对 KO 的影响：WF_GPR^max = floor(WF_GPR / WF_WG) * WF_WG。WF_GPR = N_reg^max / N_reg^used，为每个 work-item 使用的寄存器的最大数量和。这里相当于把 WF_GPR 乡下四舍五入到 的整数倍 WF_WG。

● 如果一个 kernel 的性能受 GPRS 的限制，而不受 LDS 的限制，则将部分数据转入 LDS 中会部分优化性能，过多的转移数据会进入全局内存中，严重影响执行速度