CANN/asc-devkit FP8模式启用

asc_enable_fp8

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

• Ascend 950PR/Ascend 950DT：支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

• Atlas 200I/500 A2 推理产品：不支持

• Atlas 推理系列产品AI Core：不支持

• Atlas 推理系列产品Vector Core：不支持

• Atlas 训练系列产品：不支持

功能说明

头文件路径："c_api/cube_compute/cube_compute.h"。

用于设置Mmad计算开启FP8模式。该接口会关闭HiF8模式（与asc_enable_hif8相反），开启该模式后L0A Buffer/L0B Buffer中的FP8数据在参与Mmad计算之前不会被转化为hifloat8_t类型数据。

函数原型

__aicore__ inline void asc_enable_fp8()

返回值说明

无

流水类型

PIPE_S

约束说明

• 与asc_enable_hif8相反，二者不同时生效。
• 需在asc_mmad执行前调用。

调用示例

constexpr uint64_t total_length = 128; __cc__ float c_matrix[total_length]; __ca__ fp8_e4m3fn_t a_matrix[total_length]; __cb__ fp8_e4m3fn_t b_matrix[total_length]; uint16_t left_height = 16; // M uint16_t n_dim = 16; // K uint16_t right_width = 16; // N // 在 asc_mmad 前调用：以 FP8 格式参与矩阵运算（非 HiF8 转换路径） asc_enable_fp8(); uint8_t unit_flag = 0; bool disable_gemv = false; bool c_matrix_source = false; bool c_matrix_init_val = true; asc_mmad_sync(c_matrix, a_matrix, b_matrix, left_height, n_dim, right_width, unit_flag, disable_gemv, c_matrix_source, c_matrix_init_val);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit