news 2026/7/17 8:41:37

CANN/asc-devkit:IsNan临时缓冲区因子大小获取

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/asc-devkit:IsNan临时缓冲区因子大小获取

GetIsNanTmpBufferFactorSize

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

功能说明

该接口用于获取maxLivedNodeCount和extraBuf,在固定空间大小的情况下,通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍;extraBuf表示使用的额外临时空间大小。

推算示例如下:

  • 算子实现需要调用IsNan接口,开发者为其预留currBuff大小的空间,利用GetIsNanTmpBufferFactorSize接口得到maxLivedNodeCount、extraBuf输出值,可推导算子单次最大计算元素数量为:

    currentShapeSize = (currBuff - extraBuf) / maxLivedNodeCount / typeSize

  • 算子实现需要调用两个kernel侧API KernelIntf1、KernelIntf2,利用两个GetXxxTmpBufferFactorSize(其中Xxx为需要调用的两个高阶API)接口的两组输出值(maxLivedNodeCount、extraBuf)以及当前现有的临时空间,推导单次最大计算元素数量currentShapeSize为:

    currentShapeSize1 = (currBuff - extraBuf1) / maxLivedNodeCount1 / typeSize

    currentShapeSize2 = (currBuff - extraBuf2) / maxLivedNodeCount2 / typeSize

    currentShapeSize = min(currentShapeSize1, currentShapeSize2)

注意上文中的currBuff表示接口计算可用的空间,需要去除用户输入输出等空间;另外,接口获取的maxLivedNodeCount值可能为0,计算时需要判断该值非0,避免除零错误。

函数原型

void GetIsNanTmpBufferFactorSize(const platform_ascendc::PlatformAscendC& ascendcPlatform, const uint32_t typeSize, uint32_t& maxLivedNodeCount, uint32_t& extraBuf)

参数说明

表1参数列表

参数名输入/输出功能
ascendcPlatform输入输入的平台信息。PlatformAscendC的定义请参见构造及析构函数。
typeSize输入输入的数据类型大小,单位为字节。比如输入的数据类型为half,此处应传入2。
maxLivedNodeCount输出最大存活节点数,表示临时空间是单次计算数据量所占空间的多少倍。
extraBuf输出使用的额外临时空间大小,单位为字节。

返回值说明

约束说明

当利用maxLivedNodeCount、extraBuf反推出的currentShapeSize * typeSize < 256B时,currentShapeSize按照256B/typeSize的值向上取整。

调用示例

完整的调用样例请参考更多样例。

uint32_t maxLivedNodeCount = 0; uint32_t extraBuf = 0; auto plat = platform_ascendc::PlatformAscendC(context->GetPlatformInfo()); AscendC::GetIsNanTmpBufferFactorSize(plat, typeSize, maxLivedNodeCount, extraBuf);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/17 8:39:34

Claude Code智能编程助手:安装使用与核心功能全解析

Claude Code 是 Anthropic 推出的智能编程助手&#xff0c;直接集成到开发环境中帮助理解代码库、编辑文件、运行命令。这个工具最近在开发者社区关注度很高&#xff0c;特别是它支持终端、IDE 和 Web 多种使用方式&#xff0c;能够显著提升编码效率。从官方资料看&#xff0c;…

作者头像 李华
网站建设 2026/7/17 8:39:31

CANN/asc-devkit LogicalOr接口文档

LogicalOr 【免费下载链接】asc-devkit 本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言&#xff0c;原生支持C和C标准规范&#xff0c;主要由类库和语言扩展层构成&#xff0c;提供多层级API&#xff0c;满足多维场景算子开发诉求。 项目地址: https://gitcode.com/…

作者头像 李华
网站建设 2026/7/17 8:35:21

oec-hardware自动化测试:实现无人值守的硬件兼容性验证

oec-hardware自动化测试&#xff1a;实现无人值守的硬件兼容性验证 【免费下载链接】oec-cloud A tool to help checking hardware compatibility for cloud component, such as stratoVirt/iSula and so on. 项目地址: https://gitcode.com/openeuler/oec-cloud 前往项…

作者头像 李华
网站建设 2026/7/17 8:34:44

Ubuntu系统卸载OpenJDK完整指南与优化技巧

1. 为什么需要卸载OpenJDK&#xff1f; 在Ubuntu系统中&#xff0c;OpenJDK作为默认的Java开发环境被广泛使用&#xff0c;但实际工作中我们可能会遇到以下几种典型场景需要卸载它&#xff1a; 版本冲突问题 &#xff1a;当需要安装特定版本的Oracle JDK时&#xff0c;系统已…

作者头像 李华
网站建设 2026/7/17 8:32:41

NestOS安全最佳实践:不可变基础设施的终极安全优势与配置指南

NestOS安全最佳实践&#xff1a;不可变基础设施的终极安全优势与配置指南 【免费下载链接】NestOS NestOS is an automatically updated minimal operating system developed based on openEuler 项目地址: https://gitcode.com/openeuler/NestOS 前往项目官网免费下载&…

作者头像 李华
网站建设 2026/7/17 8:32:33

10个Wayca-scheduler实战技巧:优化NUMA系统内存访问性能

10个Wayca-scheduler实战技巧&#xff1a;优化NUMA系统内存访问性能 【免费下载链接】wayca-scheduler wayca-scheduler is an userspace deployment tool for tasks and interrupts to achieve better performance 项目地址: https://gitcode.com/openeuler/wayca-scheduler…

作者头像 李华