CANN pyasc 算子开发Matmul.get_offset_c 接口解析——查询当前分片在C矩阵中的位置【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyascasc.language.adv.Matmul.get_offset_c()是 CANN pyasc 为昇腾 AI 处理器算子编程提供的 Matmul 高阶 API 之一用于获取本次计算时当前分片在整个 C 矩阵中的位置返回一个描述偏移与尺寸的MatrixOffset结构体。本文以 asc.language.adv.Matmul.get_offset_c.md 为骨架结合仓库内 Python 实现、IR中间表示定义与 TableGen 声明完整讲解该接口的签名、语义、底层实现与典型使用场景帮助读者在编写基于 pyasc 的矩阵乘算子时正确理解和使用这一预留接口。接口总览get_offset_c是Matmul类定义于 python/asc/language/adv/matmul.py的成员方法属于 Matmul 高阶 API 家族。其函数签名为Matmul.get_offset_c() → MatrixOffset在 pyasc 中Matmul的计算公式为C A * B Bias通过iterate/get_tensor_c等接口驱动多分片tile的迭代计算。当算子按多核、多分片方式切分计算时每个分片只是整个 C 矩阵的一部分get_offset_c正是用于查询当前分片在整个 C 矩阵中的坐标位置与尺寸为后续的搬出如写回 Global Memory、拼接或诊断操作提供定位信息。接口特性预留接口文档中明确指出预留接口为后续功能做预留。获取本次计算时当前分片在整个C矩阵中的位置。也就是说该接口在当前版本中已经具备完整的接口形态与 IR 落点可正常调用并返回MatrixOffset但其设计意图是为后续功能如分片输出定位、稀疏输出、多核结果汇聚等做能力预留。从源码结构看它属于接口已就绪、语义明确、后续演进的预留型 API开发者可以在自己的算子中使用它获取分片位置也可以关注其后续版本的能力扩展。参数说明get_offset_c无入参参数类型说明无—该接口不接收任何参数直接基于当前Matmul对象与迭代状态查询分片位置对应地Matmul对象自身携带了 A/B/C 矩阵的类型、布局与形状信息见 python/asc/language/adv/matmul.py 的get_matmul_type构建过程因此查询分片位置所需的信息都封装在对象内部无需外部传入。返回结构体 MatrixOffsetget_offset_c返回MatrixOffset其对应的 Ascend C 结构体定义如下struct MatrixOffset { int32_t offset; int32_t row, col; int32_t height, width; };字段语义从命名与结构可以推断如下字段类型语义offsetint32_t当前分片在整个 C 矩阵中的起始偏移量rowint32_t当前分片在 C 矩阵中的起始行号colint32_t当前分片在 C 矩阵中的起始列号heightint32_t当前分片的高度行数widthint32_t当前分片的宽度列数其中row/col描述分片的起始坐标height/width描述分片的尺寸两者结合即可唯一确定当前分片在整个 C 矩阵中的位置与范围offset则是便于线性寻址的一维偏移量。这一结构体在设计上同时覆盖了二维坐标与一维偏移两种定位方式。MatrixOffset 的 Python 实现在 pyasc 中MatrixOffset是继承自IRValue的 Python 类定义于 python/asc/language/adv/matmul.py。它有两种构造方式由get_offset_c返回传入 IR handle 构建即MatrixOffset(handlehandle)直接构造按(offset, row, col, height, width)传入 5 个int32值通过create_asc_ConstructOp构建对应 IR 常量。其核心实现片段如下节选自 python/asc/language/adv/matmul.pydef __init__(self, offset: Optional[RuntimeInt] None, row: Optional[RuntimeInt] None, \ col: Optional[RuntimeInt] None, height: Optional[RuntimeInt] None, \ width: Optional[RuntimeInt] None, handle: Optional[IRHandle] None) - None: if handle is not None: self.handle handle return builder global_builder.get_ir_builder() self.handle builder.create_asc_ConstructOp( builder.get_asc_MatrixOffsetType(), [ _mat(offset, KT.int32).to_ir(), _mat(row, KT.int32).to_ir(), _mat(col, KT.int32).to_ir(), _mat(height, KT.int32).to_ir(), _mat(width, KT.int32).to_ir(), ], builder.get_type_array_attr([builder.get_i32_type()] * 5), )MatrixOffset还提供了from_ir类方法与to_ir方法用于 IR handle 与 Python 对象之间的转换与 pyasc 中其他 IR 值类型如Matmul自身保持一致的接口约定。对应的 Ascend C 函数原型pyasc 是 Ascend C 的 Python 化封装接口与 Ascend C 一一对应。get_offset_c对应的 Ascend C 函数原型为__aicore__ inline MatrixOffset GetOffsetC()即该 Python 接口在编译生成内核代码时会对应到 Ascend C 的Matmul::GetOffsetC()成员函数。这一对应关系在仓库的 IR 定义层有明确记录见下文源码实现分析。源码级实现从 Python 到 IR 的完整链路Python 侧构建 IR 操作get_offset_c的 Python 实现位于 python/asc/language/adv/matmul.pyrequire_jit set_matmul_docstring(api_nameget_offset_c) def get_offset_c(self) - MatrixOffset: builder global_builder.get_ir_builder() handle builder.create_asc_MatmulGetOffsetCOp(builder.get_asc_MatrixOffsetType(), self.to_ir()) return MatrixOffset(handlehandle)实现要点装饰器require_jit保证该方法仅在 JIT 编译上下文即算子内核代码生成阶段中调用装饰器set_matmul_docstring(api_nameget_offset_c)会自动为方法注入由 python/asc/language/adv/utils.py 中get_offset_c_docstring()生成的 docstring——本文所基于的生成式 API 文档即来源于此方法体通过 IR builder 创建asc_MatmulGetOffsetCOp操作显式传入结果类型get_asc_MatrixOffsetType()与self即Matmul对象的 IR handle操作返回的 handle 被包装为MatrixOffset对象返回给调用者。IR 定义层TableGen 声明在 Asc 方言的 TableGen 定义中该操作声明于 include/ascir/Dialect/Asc/IR/Adv/Matmul.tddef AscendC_MatmulGetOffsetCOp : APIOpmatmul.get_offset_c, GetOffsetC, [AscMemberFunc] { let summary Call AscendC::Matmul::GetOffsetC method; let arguments (ins AscendC_Matmul:$aux); let results (outs AscendC_MatrixOffset:$result); }可见该 IR 操作命名为matmul.get_offset_c是Matmul的成员函数型操作AscMemberFunc以AscendC_Matmul作为输入$aux以AscendC_MatrixOffset作为输出$result语义即调用AscendC::Matmul::GetOffsetC方法与文档给出的 Ascend C 原型完全对应。而MatrixOffset这一 API 类型在 include/ascir/API/Types.td 中统一声明def MatrixOffset : APITypeMatrixOffset { let mnemonic matrix_offset; let apiName MatrixOffset; }该类型同时被Matmul.td中的结果声明所引用构成了Python 方法 → IR 操作 → API 类型的完整闭环。典型使用场景与注意事项多分片/多核场景下的分片定位get_offset_c最有价值的应用场景是多核、多分片矩阵乘。当算子通过iterate迭代多个分片或通过 tiling 配置见MatmulConfig定义于 python/asc/language/adv/types.py将 C 矩阵切分到多个核上计算时每个分片在完整 C 矩阵中的位置不同。使用get_offset_c可以拿到当前分片的row/col/height/width从而计算分片写回 Global Memory 时的目标地址结合offset做一维定位在多分片结果汇聚、部分和partial sum叠加场景中确认数据归属在调试与性能分析时输出每个核处理的分片范围。与迭代接口的配合get_offset_c与iterate/get_tensor_c/wait_get_tensor_c等接口同属 Matmul 计算流程。典型的异步迭代流程可参考get_tensor_c的文档示例见 python/asc/language/adv/utils.py# 异步模式样例 mm.iterate(syncFalse) # 其他操作 for i in range(single_corem // base_m * single_core_n // base_n): mm.get_tensor_c(tensorub_cmatrix, syncFalse) mm.wait_get_tensor_c()在此类迭代循环中若需要在每个分片产出后立即获知其在 C 矩阵中的位置可调用get_offset_c获取分片坐标信息与get_tensor_c取回的结果配合完成分片数据的定位与搬运。使用注意事项预留接口语义当前版本将其标注为预留接口建议在实际算子中将其用于位置查询等明确场景并关注后续版本对该接口能力的扩展无入参约束接口不接收参数位置信息完全来自Matmul对象的内部状态因此调用前应确保Matmul对象已正确构建即通过MatmulType指定 A/B/C 的类型、布局与形状JIT 上下文get_offset_c带require_jit装饰器只能在算子内核代码JIT 编译环境中调用不能在纯 host 侧 Python 脚本中直接调用返回值结构返回的MatrixOffset包含offset、row、col、height、width五个int32字段字段含义按前文表格理解具体取值取决于 tiling 配置与当前迭代状态。结语Matmul.get_offset_c虽然是一个预留接口但其接口形态、IR 落点与返回结构在 CANN pyasc 中均已完整实现Python 侧通过 python/asc/language/adv/matmul.py 构建 IR 操作TableGen 侧通过 Matmul.td 与 Types.td 完成类型与操作的声明最终对应到 Ascend C 的Matmul::GetOffsetC()内核接口。理解这一接口有助于开发者在多分片矩阵乘算子中准确获取分片在 C 矩阵中的位置并为后续功能演进做好接口层面的准备。【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN pyasc 算子开发：Matmul.get_offset_c 接口解析——查询当前分片在C矩阵中的位置
CANN pyasc 算子开发Matmul.get_offset_c 接口解析——查询当前分片在C矩阵中的位置【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyascasc.language.adv.Matmul.get_offset_c()是 CANN pyasc 为昇腾 AI 处理器算子编程提供的 Matmul 高阶 API 之一用于获取本次计算时当前分片在整个 C 矩阵中的位置返回一个描述偏移与尺寸的MatrixOffset结构体。本文以 asc.language.adv.Matmul.get_offset_c.md 为骨架结合仓库内 Python 实现、IR中间表示定义与 TableGen 声明完整讲解该接口的签名、语义、底层实现与典型使用场景帮助读者在编写基于 pyasc 的矩阵乘算子时正确理解和使用这一预留接口。接口总览get_offset_c是Matmul类定义于 python/asc/language/adv/matmul.py的成员方法属于 Matmul 高阶 API 家族。其函数签名为Matmul.get_offset_c() → MatrixOffset在 pyasc 中Matmul的计算公式为C A * B Bias通过iterate/get_tensor_c等接口驱动多分片tile的迭代计算。当算子按多核、多分片方式切分计算时每个分片只是整个 C 矩阵的一部分get_offset_c正是用于查询当前分片在整个 C 矩阵中的坐标位置与尺寸为后续的搬出如写回 Global Memory、拼接或诊断操作提供定位信息。接口特性预留接口文档中明确指出预留接口为后续功能做预留。获取本次计算时当前分片在整个C矩阵中的位置。也就是说该接口在当前版本中已经具备完整的接口形态与 IR 落点可正常调用并返回MatrixOffset但其设计意图是为后续功能如分片输出定位、稀疏输出、多核结果汇聚等做能力预留。从源码结构看它属于接口已就绪、语义明确、后续演进的预留型 API开发者可以在自己的算子中使用它获取分片位置也可以关注其后续版本的能力扩展。参数说明get_offset_c无入参参数类型说明无—该接口不接收任何参数直接基于当前Matmul对象与迭代状态查询分片位置对应地Matmul对象自身携带了 A/B/C 矩阵的类型、布局与形状信息见 python/asc/language/adv/matmul.py 的get_matmul_type构建过程因此查询分片位置所需的信息都封装在对象内部无需外部传入。返回结构体 MatrixOffsetget_offset_c返回MatrixOffset其对应的 Ascend C 结构体定义如下struct MatrixOffset { int32_t offset; int32_t row, col; int32_t height, width; };字段语义从命名与结构可以推断如下字段类型语义offsetint32_t当前分片在整个 C 矩阵中的起始偏移量rowint32_t当前分片在 C 矩阵中的起始行号colint32_t当前分片在 C 矩阵中的起始列号heightint32_t当前分片的高度行数widthint32_t当前分片的宽度列数其中row/col描述分片的起始坐标height/width描述分片的尺寸两者结合即可唯一确定当前分片在整个 C 矩阵中的位置与范围offset则是便于线性寻址的一维偏移量。这一结构体在设计上同时覆盖了二维坐标与一维偏移两种定位方式。MatrixOffset 的 Python 实现在 pyasc 中MatrixOffset是继承自IRValue的 Python 类定义于 python/asc/language/adv/matmul.py。它有两种构造方式由get_offset_c返回传入 IR handle 构建即MatrixOffset(handlehandle)直接构造按(offset, row, col, height, width)传入 5 个int32值通过create_asc_ConstructOp构建对应 IR 常量。其核心实现片段如下节选自 python/asc/language/adv/matmul.pydef __init__(self, offset: Optional[RuntimeInt] None, row: Optional[RuntimeInt] None, \ col: Optional[RuntimeInt] None, height: Optional[RuntimeInt] None, \ width: Optional[RuntimeInt] None, handle: Optional[IRHandle] None) - None: if handle is not None: self.handle handle return builder global_builder.get_ir_builder() self.handle builder.create_asc_ConstructOp( builder.get_asc_MatrixOffsetType(), [ _mat(offset, KT.int32).to_ir(), _mat(row, KT.int32).to_ir(), _mat(col, KT.int32).to_ir(), _mat(height, KT.int32).to_ir(), _mat(width, KT.int32).to_ir(), ], builder.get_type_array_attr([builder.get_i32_type()] * 5), )MatrixOffset还提供了from_ir类方法与to_ir方法用于 IR handle 与 Python 对象之间的转换与 pyasc 中其他 IR 值类型如Matmul自身保持一致的接口约定。对应的 Ascend C 函数原型pyasc 是 Ascend C 的 Python 化封装接口与 Ascend C 一一对应。get_offset_c对应的 Ascend C 函数原型为__aicore__ inline MatrixOffset GetOffsetC()即该 Python 接口在编译生成内核代码时会对应到 Ascend C 的Matmul::GetOffsetC()成员函数。这一对应关系在仓库的 IR 定义层有明确记录见下文源码实现分析。源码级实现从 Python 到 IR 的完整链路Python 侧构建 IR 操作get_offset_c的 Python 实现位于 python/asc/language/adv/matmul.pyrequire_jit set_matmul_docstring(api_nameget_offset_c) def get_offset_c(self) - MatrixOffset: builder global_builder.get_ir_builder() handle builder.create_asc_MatmulGetOffsetCOp(builder.get_asc_MatrixOffsetType(), self.to_ir()) return MatrixOffset(handlehandle)实现要点装饰器require_jit保证该方法仅在 JIT 编译上下文即算子内核代码生成阶段中调用装饰器set_matmul_docstring(api_nameget_offset_c)会自动为方法注入由 python/asc/language/adv/utils.py 中get_offset_c_docstring()生成的 docstring——本文所基于的生成式 API 文档即来源于此方法体通过 IR builder 创建asc_MatmulGetOffsetCOp操作显式传入结果类型get_asc_MatrixOffsetType()与self即Matmul对象的 IR handle操作返回的 handle 被包装为MatrixOffset对象返回给调用者。IR 定义层TableGen 声明在 Asc 方言的 TableGen 定义中该操作声明于 include/ascir/Dialect/Asc/IR/Adv/Matmul.tddef AscendC_MatmulGetOffsetCOp : APIOpmatmul.get_offset_c, GetOffsetC, [AscMemberFunc] { let summary Call AscendC::Matmul::GetOffsetC method; let arguments (ins AscendC_Matmul:$aux); let results (outs AscendC_MatrixOffset:$result); }可见该 IR 操作命名为matmul.get_offset_c是Matmul的成员函数型操作AscMemberFunc以AscendC_Matmul作为输入$aux以AscendC_MatrixOffset作为输出$result语义即调用AscendC::Matmul::GetOffsetC方法与文档给出的 Ascend C 原型完全对应。而MatrixOffset这一 API 类型在 include/ascir/API/Types.td 中统一声明def MatrixOffset : APITypeMatrixOffset { let mnemonic matrix_offset; let apiName MatrixOffset; }该类型同时被Matmul.td中的结果声明所引用构成了Python 方法 → IR 操作 → API 类型的完整闭环。典型使用场景与注意事项多分片/多核场景下的分片定位get_offset_c最有价值的应用场景是多核、多分片矩阵乘。当算子通过iterate迭代多个分片或通过 tiling 配置见MatmulConfig定义于 python/asc/language/adv/types.py将 C 矩阵切分到多个核上计算时每个分片在完整 C 矩阵中的位置不同。使用get_offset_c可以拿到当前分片的row/col/height/width从而计算分片写回 Global Memory 时的目标地址结合offset做一维定位在多分片结果汇聚、部分和partial sum叠加场景中确认数据归属在调试与性能分析时输出每个核处理的分片范围。与迭代接口的配合get_offset_c与iterate/get_tensor_c/wait_get_tensor_c等接口同属 Matmul 计算流程。典型的异步迭代流程可参考get_tensor_c的文档示例见 python/asc/language/adv/utils.py# 异步模式样例 mm.iterate(syncFalse) # 其他操作 for i in range(single_corem // base_m * single_core_n // base_n): mm.get_tensor_c(tensorub_cmatrix, syncFalse) mm.wait_get_tensor_c()在此类迭代循环中若需要在每个分片产出后立即获知其在 C 矩阵中的位置可调用get_offset_c获取分片坐标信息与get_tensor_c取回的结果配合完成分片数据的定位与搬运。使用注意事项预留接口语义当前版本将其标注为预留接口建议在实际算子中将其用于位置查询等明确场景并关注后续版本对该接口能力的扩展无入参约束接口不接收参数位置信息完全来自Matmul对象的内部状态因此调用前应确保Matmul对象已正确构建即通过MatmulType指定 A/B/C 的类型、布局与形状JIT 上下文get_offset_c带require_jit装饰器只能在算子内核代码JIT 编译环境中调用不能在纯 host 侧 Python 脚本中直接调用返回值结构返回的MatrixOffset包含offset、row、col、height、width五个int32字段字段含义按前文表格理解具体取值取决于 tiling 配置与当前迭代状态。结语Matmul.get_offset_c虽然是一个预留接口但其接口形态、IR 落点与返回结构在 CANN pyasc 中均已完整实现Python 侧通过 python/asc/language/adv/matmul.py 构建 IR 操作TableGen 侧通过 Matmul.td 与 Types.td 完成类型与操作的声明最终对应到 Ascend C 的Matmul::GetOffsetC()内核接口。理解这一接口有助于开发者在多分片矩阵乘算子中准确获取分片在 C 矩阵中的位置并为后续功能演进做好接口层面的准备。【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考