CANN/asc-devkit Cube资源组假消息发送API

PostFakeMsg【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品 / Atlas A3 推理系列产品xAtlas A2 训练系列产品 / Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品xAtlas 推理系列产品 AI CorexAtlas 推理系列产品 Vector CorexAtlas 训练系列产品x功能说明通过AllocMessage接口获取到消息空间地址后AIV发送假消息刷新消息状态msgState为FAKE。当多个AIV的消息内容一致时AIC仅需要读取一次位置靠前的第一个消息通过将消息结构体中自定义的参数skipCnt设置为n通知AIC后续n条消息无需处理直接跳过被跳过的AIV需要使用本接口发送假消息这被称之为消息合并机制或消息合并场景。如下图所示假设Queue1、2、3的第0条消息与Queue0的第0条消息相同在消息合并场景中从AIC视角来看Queue0(0)Queue4(0)的消息会被处理并根据用户自定义的消息内容完成相应的AIC上的计算。Queue1(0), Queue2(0), Queue3(0)由于发了假消息AIC将不会读取消息内容进行计算直接释放消息。图 1PostFakeMessage示意图函数原型__aicore__ inline uint16_t PostFakeMsg(__gm__ CubeMsgType* msg)参数说明表 1接口参数说明参数输入/输出说明msg输入该CubeResGroupHandle中某个任务的消息空间地址。返回值说明当前消息空间与该消息队列队首空间的地址偏移。约束说明无调用示例hanndle.AssignQueue(queIdx); auto msgPtr handle.AllocMessage(); // 获取消息空间指针msgPtr auto offset handle.PostFakeMsg(msgPtr); // 在msgPtr指针位置发送假消息【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考