news 2026/7/17 8:46:53

CANN/Ascend C:获取异或临时缓冲区因子大小

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/Ascend C:获取异或临时缓冲区因子大小

GetBitwiseXorTmpBufferFactorSize

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

功能说明

该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。

推算示例如下:

  • 算子实现需要调用BitwiseXor接口,开发者为其预留currBuff大小的空间,利用GetBitwiseXorTmpBufferFactorSize接口得到maxLivedNodeCount、extraBuf输出值,可推导算子单次最大计算元素数量为:

    currentShapeSize = (currBuff - extraBuf) / maxLivedNodeCount / typeSize

  • 算子实现需要调用两个kernel侧API KernelIntf1、KernelIntf2,利用两个GetXxxTmpBufferFactorSize(其中Xxx为需要调用的两个高阶API)接口的两组输出值(maxLivedNodeCount、extraBuf)以及当前现有的临时空间,推导单次最大计算元素数量currentShapeSize为:

    currentShapeSize1 = (currBuff - extraBuf1) / maxLivedNodeCount1 / typeSize

    currentShapeSize2 = (currBuff - extraBuf2) / maxLivedNodeCount2 / typeSize

    currentShapeSize = min(currentShapeSize1, currentShapeSize2)

注意上文中的currBuff表示接口计算可用的空间,需要去除用户输入输出等空间;另外,接口获取的maxLivedNodeCount值可能为0,计算时需要判断该值非0,避免除零错误。

函数原型

void GetBitwiseXorTmpBufferFactorSize(const platform_ascendc::PlatformAscendC& ascendcPlatform,const uint32_t typeSize, uint32_t& maxLivedNodeCount, uint32_t& extraBuf)

参数说明

表1参数列表

参数名输入/输出功能
ascendcPlatform输入输入的平台信息。PlatformAscendC的定义请参见构造及析构函数。
typeSize输入输入的数据类型大小,单位为字节。
maxLivedNodeCount输出最大存活节点数,表示临时空间是单次计算数据量所占空间的多少倍。
extraBuf输出使用的额外临时空间大小,单位为字节。

返回值说明

约束说明

当利用maxLivedNodeCount、extraBuf反推出的currentShapeSize * typeSize < 256B时,currentShapeSize按照256B/typeSize的值向上取整。

调用示例

完整的调用样例请参考更多样例。

uint32_t maxLivedNodeCount = 0; uint32_t extraBuf = 0; auto plat = platform_ascendc::PlatformAscendC(context->GetPlatformInfo()); AscendC::GetBitwiseXorTmpBufferFactorSize(plat, typeSize, maxLivedNodeCount, extraBuf);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/17 8:46:01

模型训练加速库的profiling打通:三层穿透式性能诊断架构

1. 项目概述&#xff1a;为什么“profiling打通”是模型训练加速库的生死线“模型训练加速库开发1: profiling打通”——这个标题看似平淡&#xff0c;实则藏着整个加速工程最硬核的第一道关卡。我干了十多年AI基础设施开发&#xff0c;从最早的Caffe时代手写CUDA kernel&#…

作者头像 李华
网站建设 2026/7/17 8:45:37

GraspVLA:纯合成数据驱动的零样本机器人抓取模型

1. 项目概述&#xff1a;当机器人第一次“看懂”你指着的杯子并稳稳抓起“灵巧操作-GraspVLA”这个标题里&#xff0c;“灵巧操作”不是形容词&#xff0c;而是动词——它描述的是一种能力跃迁&#xff1a;让机械臂不再依赖预设轨迹或单一传感器反馈去执行抓取&#xff0c;而是…

作者头像 李华
网站建设 2026/7/17 8:44:49

C++代码格式化工具Clang-Format配置与工程实践指南

1. 项目概述&#xff1a;为什么C代码格式化不是“小事”在C项目里摸爬滚打了十几年&#xff0c;我见过太多因为代码风格混乱而引发的“血案”。一个看似简单的格式化问题&#xff0c;比如大括号是放在行尾还是另起一行&#xff0c;缩进是用空格还是Tab&#xff0c;最终可能导致…

作者头像 李华
网站建设 2026/7/17 8:41:37

CANN/asc-devkit:IsNan临时缓冲区因子大小获取

GetIsNanTmpBufferFactorSize 【免费下载链接】asc-devkit 本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言&#xff0c;原生支持C和C标准规范&#xff0c;主要由类库和语言扩展层构成&#xff0c;提供多层级API&#xff0c;满足多维场景算子开发诉求。 项目地址: ht…

作者头像 李华
网站建设 2026/7/17 8:39:34

Claude Code智能编程助手:安装使用与核心功能全解析

Claude Code 是 Anthropic 推出的智能编程助手&#xff0c;直接集成到开发环境中帮助理解代码库、编辑文件、运行命令。这个工具最近在开发者社区关注度很高&#xff0c;特别是它支持终端、IDE 和 Web 多种使用方式&#xff0c;能够显著提升编码效率。从官方资料看&#xff0c;…

作者头像 李华