CANN/asc-devkit矩阵计算单元
# 矩阵计算单元【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkitCube计算单元专用于执行矩阵运算直接访问的专用缓存如下L0A Buffer用于存储左矩阵L0B Buffer用于存储右矩阵L0C Buffer则用于存储初始化累加值和矩阵计算结果。下图高亮部分展示了Cube计算单元及其直接访问的专用缓存。图1NPU架构版本2201矩阵计算单元架构图![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/architecture_of_cube_compute_unit_a2a3.png 矩阵计算单元架构图-A2A3?utm_sourcegitcode_repo_files)图2NPU架构版本3510矩阵计算单元架构图![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/architecture_of_cube_compute_unit_950.png 矩阵计算单元架构图-950?utm_sourcegitcode_repo_files)矩阵计算关联的存储单元为Buffer类型说明L0A BufferAI Core内部物理存储单元通常用于存储矩阵计算的左矩阵。L0B BufferAI Core内部物理存储单元通常用于存储矩阵计算的右矩阵。L0C BufferAI Core内部物理存储单元通常用于存储矩阵计算的结果以及矩阵累加初始化值。L1 BufferAI Core内部物理存储单元空间相对较大通常用于缓存矩阵计算的输入数据。矩阵计算的输入一般需要从GM搬运到L1 Buffer然后分别搬运到L0A Buffer和L0B Buffer。Fixpipe BufferAI Core内部物理存储单元通常用于存储Fixpipe搬运过程中所需的量化参数等数据。BiasTable Buffer偏置存储AI Core内部物理存储单元通常用于存储矩阵计算所需的Bias偏置数据。【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻