OpenCL 异步拷贝和预取

全局存储器和局部存储器两者间大小不一样,同时全局存储器是片外存储空间,局部存储器是片内存储空间,两者读写速度不一样。合理地利用异步全局存储器和局部存储器间的数据交换和预取以掩盖其延迟,可以提升程序性能。
OpenCL提供了如下函数来实现工作组内全局存储器向局部存储器或局部存储器向全局存储器复制数据:

event_t async_work_group_copy( local(global) gentype *dst
                                    const global(local)gentype *src,
                                    size_t num_gentypes,
                                    event_t event)
event_t async_work_group_strided_copy( local(global) gentype *dst,
                                        const global(local)) gentype *src,
                                        size_t num_gentype,
                                        size_t dst_stride,
                                        event_t event)

gentype类型为:char、uchar、short、ushort、int、uint、f loat、long、ulong、double和charn、ucharn、shortn、ushortn、intn、uintn、f loatn、longn、ulongn、doublen。n为2、3、4、8、16。
两个函数都在一个工作组内所有工作项都执行这个异步复制,否则结果未知。两个函数实现全局存储器与局部存储器间数据复制。由于函数是异步执行的,返回一个事件对象,可以用后面将会讲解的wait_group_events来等待异步复制完成。最后一个参数event还可以用来将上述函数与之前的一个异步复制关联,使得一个事件可以用多个异步复制共享,否则, event应为0。
参数dst和src分别为全局存储器/局部存储器,或局部存储器/全局存储器。参数num_gentypes为复制元素的个数。
需要注意的是,函数async_work_group_copy()是复制连续num_gentypes个元素,而函数async_work_group_strided_copy()是跳跃复制num_gentypes个元素,跳跃跨度为dst_stride。dst_stride是对应写至dst的各个gentype元素的元素跨度。
在图形学中我们经常用一个结构体来表示顶点位置、法线、纹理坐标信息。内核希望读取顶点位置来完成计算,再把计算后的顶点位置存储。这就需要一个跳跃复制,例如如下代码:

typedef struct
{
    float4 position;
    float3 normal;
    float3 texcorrd;
} vertext_t;
kernel void PositionCompute(global vertext_t *vertices,
                                  local float4 *pos_array)
{
    event_t evt = async_work_group_strided_copy(
                    (local float *) pos_array,
                    (global float *)vertices,
                    4, sizesof(vertext_t) / sizeof(float), 0);
    wait_group_events(1, evt);
    ……
    evt = async_work_group_strided_copy(
                                  (global float *)vertices,(local float *)pos_array,
                                  4, sizesof(vertext_t) / sizeof(float),
                                  0);
    wait_group_events(1, evt);
}

由于异步复制返回的是一个事件对象,需要使用如下函数来等待这些事件结束:

void wait_group_events(int num_evetns, event_t *event_list)

在等待完成后释放event_list列表中指定的事件对象。也是需要工作组内所有工作项都执行这个函数,否则结果未知。
除了把数据在全局存储器和局部存储器间来回复制,还可以把全局存储器中的数据预取到全局缓存中,当需要使用这些数据时直接从全局缓冲中读取。

void prefectech(const global gentype *p , size_t num_gentypes)

gentype类型与函数async_work_group_copy()参数类型一样。

赞(0)
未经允许不得转载:极客笔记 » OpenCL 异步拷贝和预取

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
OpenCL 基本概念
OpenCL 是什么OpenCL 平台模型OpenCL 执行模型OpenCL 上下文简介OpenCL 命令队列简介OpenCL 在设备上执行内核OpenCL 存储器区域OpenCL 存储器对象OpenCL 共享虚拟存储器OpenCL 与OpenGL
OpenCL 基础教程
OpenCL 在Windows上搭建开发环境OpenCL 在Linux上搭建开发环境OpenCL 在OS X上搭建开发环境OpenCL 第一个程序OpenCL 平台OpenCL 设备OpenCL 创建上下文OpenCL 创建命令队列OpenCL 创建Program对象OpenCL 编译Program对象OpenCL 查询和管理Program对象OpenCL 创建内核对象OpenCL 设置内核参数OpenCL 查询和管理内核对象OpenCL 执行内核OpenCL 编写内核代码OpenCL 错误处理
OpenCL C特性
OpenCL 地址空间修饰符OpenCL 函数修饰符OpenCL 对象访问修饰符OpenCL 标量数据类型OpenCL 为什么要有矢量数据类型OpenCL 矢量初始化OpenCL 读取和修改矢量分量OpenCL 运算符OpenCL 维度和工作项OpenCL 工作组OpenCL 矢量数据拷贝OpenCL 异步拷贝和预取OpenCL 数学函数OpenCL 公共函数OpenCL 几何函数OpenCL 整数函数OpenCL 关系函数OpenCL 杂项矢量函数OpenCL 同步函数OpenCL 原子函数OpenCL 内建图像读函数OpenCL 内建无采样器图像读函数OpenCL 内建图像写函数OpenCL 内建图像查询函数OpenCL 工作组函数OpenCL 内建管道读/写函数OpenCL 内建工作组管道读/写函数OpenCL 内建管道查询函数OpenCL 设备队列OpenCL Blocks语法OpenCL 设备队列相关函数OpenCL 子内核存储器可见性OpenCL 设备队列的使用示例
OpenCL 存储器对象
OpenCL 存储器对象OpenCL 分配缓冲区对象OpenCL 创建子缓冲区对象OpenCL 图像对象和采样器对象OpenCL 图像对象OpenCL 图像格式描述符OpenCL 图像描述符OpenCL 图像对象查询OpenCL 采样器对象OpenCL 主机端采样器对象OpenCL 设备端采样器对象OpenCL 图像旋转示例OpenCL 管道OpenCL 创建管道对象OpenCL 管道对象查询OpenCL 主机与设备间数据传输OpenCL 图像对象主机与设备间数据拷贝OpenCL 缓冲区对象数据填充OpenCL 图像对象数据填充OpenCL 缓冲区对象间数据传输OpenCL 图像对象和缓冲区对象间数据拷贝OpenCL 缓冲区对象映射OpenCL 图像对象映射OpenCL 解映射OpenCL 共享虚拟存储器OpenCL SVM缓冲创建与释放OpenCL SVM缓冲映射与解映射OpenCL SVM缓冲填充与拷贝OpenCL SVM类型OpenCL SVM特性OpenCL 共享虚拟存储器示例OpenCL 存储器一致性模型OpenCL 存储器次序规则OpenCL 原子操作的存储器次序规则OpenCL 栅栏操作的存储器次序规则OpenCL 工作组函数的存储器次序规则OpenCL 主机端与设备端命令的存储器次序规则OpenCL 关于存储器次序在实际OpenCL计算设备中的实现
OpenCL 同步及事件机制
OpenCL 同步及事件机制OpenCL 主机端的OpenCL同步OpenCL OpenCL事件机制OpenCL 对OpenCL事件的标记和栅栏OpenCL 内核程序中的同步OpenCL 工作组内同步OpenCL 原子操作OpenCL 1.2中的原子操作OpenCL 2.0中的原子操作OpenCL 局部存储器与全局存储器间的异步拷贝OpenCL 工作组间同步
OpenCL 与OpenGL互操作
OpenCL 与OpenGL互操作OpenCL 从一个OpenGL上下文来创建OpenCL上下文OpenCL 使用OpenGL共享的缓存对象OpenCL 使用OpenGL纹理数据OpenCL 共享OpenGL渲染缓存OpenCL 从一个OpenCL存储器对象查询OpenGL对象信息OpenCL 访问共享对象的OpenCL与OpenGL之间的同步OpenCL AMD Cayman架构GPUOpenCL AMD GCN架构的GPUOpenCL NVIDIA CUDA兼容的GPUOpenCL NVIDIA GPU架构的执行模型OpenCL NVIDIA GPU的全局存储器OpenCL NVIDIA GPU的局部存储器OpenCL ARM Mali GPU硬件架构OpenCL ARM Mali GPU存储器层次OpenCL ARM Mali GPU OpenCL映射