打赏

相关文章

昇腾GE时间批处理功能

TimeBatch 【免费下载链接】ge GE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端…

CANN/ops-transformer FAG算子设计

1 计算过程 【免费下载链接】ops-transformer 本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。 项目地址: https://gitcode.com/cann/ops-transformer 图1 训练计算流程图 按照FlashAttention反向计算流程实现,整体计算流…

CANNBot技能-TileLang编程模式指南

【免费下载链接】cannbot-skills CANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体,本仓库为其提供可复用的 Skills 模块。 项目地址: https://gitcode.com/cann/cannbot-skills name: tilelang-programming-model-guide description: TileLang Asce…

CANN/ge ATC模型转换实践指南

atc 模型转换实践指南:静态 shape、动态多档位与动态 shape 【免费下载链接】ge GE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率&#xf…

CANN/HCOMM通信错误码定义

HcclResult 【免费下载链接】hcomm HCOMM(Huawei Communication)是HCCL的通信基础库,提供通信域以及通信资源的管理能力。 项目地址: https://gitcode.com/cann/hcomm 功能说明 定义集合通信相关操作的返回值。 定义原型 typedef e…

CANN/metadef:Shape补维函数

Expand(更改原shape) 【免费下载链接】metadef Ascend Metadata Definition 项目地址: https://gitcode.com/cann/metadef 函数功能 对shape做补维,并将补维后的结果直接更新原shape对象。 函数原型 ge::graphStatus Expand(Shape …

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部