asc_atomic_and
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
- Atlas 200I/500 A2 推理产品:不支持
- Atlas 推理系列产品AI Core:不支持
- Atlas 推理系列产品Vector Core:不支持
- Atlas 训练系列产品:不支持
功能说明
对Unified Buffer或Global Memory上address的数值与指定数值val进行原子与(&)操作,即将address数值与(&)val的结果赋值到Unified Buffer或Global Memory上。
函数原型
inline int32_t asc_atomic_and(int32_t *address, int32_t val)inline uint32_t asc_atomic_and(uint32_t *address, uint32_t val)inline int64_t asc_atomic_and(int64_t *address, int64_t val)inline uint64_t asc_atomic_and(uint64_t *address, uint64_t val)参数说明
表1参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| address | 输出 | Unified Buffer或Global Memory的地址。 |
| val | 输入 | 源操作数。 |
不同数据类型支持的内存范围说明如下:
表2不同数据类型支持的内存范围
| 参数数据类型 | 支持的内存空间 |
|---|---|
| int32_t、uint32_t | Unified Buffer、Global Memory |
| int64_t、uint64_t | Global Memory |
返回值说明
Unified Buffer或Global Memory上的初始数据。
约束说明
原子操作保证对同一地址的读改写过程具有原子性,但不保证多个线程之间的执行顺序。对于依赖接口返回值判断线程先后顺序的场景,结果可能随线程调度变化而不同。
需要包含的头文件
使用该接口需要包含"simt_api/device_atomic_functions.h"头文件。
#include "simt_api/device_atomic_functions.h"调用示例
示例场景为:多个线程根据各自检测结果清除共享状态字中的某些bit,使用asc_atomic_and接口保证不同线程清除不同bit时不会覆盖彼此的修改。输入参数说明如下:
| 名称 | 说明 |
|---|---|
flags | Global Memory中的共享状态位。 |
clear_bits | 每个元素表示需要清除的bit,kernel内部会转换为AND掩码。 |
n | 掩码数量。 |
核心代码实现如下:
SIMT编程场景:
__global__ __launch_bounds__(256) void clear_status_bits(uint32_t *flags, uint32_t *clear_bits, uint32_t n) { uint32_t idx = blockIdx.x * blockDim.x + threadIdx.x; if (idx >= n) { return; } uint32_t mask = ~clear_bits[idx]; asc_atomic_and(flags, mask); }SIMD与SIMT混合编程场景:
SIMD与SIMT混合编程场景,需要显式使用地址空间限定符表示地址空间:__gm__表示Global Memory内存空间,__ubuf__表示Unified Buffer内存空间。
__simt_vf__ __launch_bounds__(1024) inline void clear_status_bits(__gm__ uint32_t *flags, __gm__ uint32_t *clear_bits, uint32_t n) { uint32_t idx = blockIdx.x * blockDim.x + threadIdx.x; if (idx >= n) { return; } uint32_t mask = ~clear_bits[idx]; asc_atomic_and(flags, mask); }
输出结果示例如下:
flags before: 0xF clear_bits: 0x2, 0x4 flags after: 0x9 // 表明bit1和bit2被并发清除【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考