OpenCL 命令队列简介

OpenCL没有定义主机代码如何工作的具体细节,只是定义了它通过命令队列与OpenCL设备如何交互。命令队列由主机或运行在设备中的内核(该功能需要支持OpenCL 2.0的设备!)提交给命令队列。命令会在命令队列中等待,直到被调度到OpenCL设备上执行。OpenCL的一个命令队列在上下文中关联到一个OpenCL设备。放入命令队列中的命令分为下列三种类型:

  • 内核入队命令:将一个内核入队关联到同一个OpenCL设备的命令队列中;

  • 存储器入队命令:将在主机与设备内存对象间传输数据,或者将内存对象映射到主机地址空间,或者从主机地址空间取消映射提交给命令队列;

  • 同步命令:对命令队列中需要执行的命令施加执行顺序约束,如只有某个命令执行完成其他命令才能开始执行。

命令可以以异步方式执行,在这种方式下主机或运行在设备中的内核向命令队列提交命令,然后继续工作,而不必等待命令完成。如果有必要等待一个命令完成,可以利用命令执行相关的同步机制进行同步。
一个命令队列中的命令执行时可以有以下两种模式:

  • 按序(in-order)执行:命令按其排入命令队列中的先后顺序执行,并按顺序完成。

  • 乱序(out-of-order)执行:命令以任意顺序执行,通过显式的同步点或显式事件依赖项来约束顺序。

OpenCL平台都支持按序模式,但乱序模式是可选的。

需要注意的是,对于某些应用而言,算法在执行时,可能会有额外的计算,而这种额外的计算不能静态地确定。

与内核有关的计算,在运行时只作为内核实例执行。常规方法上,可以通过主机程序多次启动内核实例来执行,但这样会显著地增加开销或加重应用程序控制流。一个方便有效的方法就是从内核内部嵌套内核命令队列。对于支持OpenCL 2.0的设备,可以在设备上入队内核,不需要主机程序参与,这称为设备端队列,实现了嵌套并行。设备端内核命令队列与主机端内核命令队列类似,运行在设备上的内核(父内核)入队一个内核实例(子内核)到设备端命令队列。这个过程是乱序执行的。

赞(1)
未经允许不得转载:极客笔记 » OpenCL 命令队列简介
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址