打赏

相关文章

CANN/cannbot-skills TileLang算子设计

【免费下载链接】cannbot-skills CANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体,本仓库为其提供可复用的 Skills 模块。 项目地址: https://gitcode.com/cann/cannbot-skills name: tilelang-op-design description: "根据算子需求生成 Tile…

训练2万亿参数大模型的实现

1. 万亿参数llm训练的挑战2. 内存与算力约束3. 数据并行与通信优化4. ZeRO零冗余优化器5. 梯度检查点6. FlashAttention7. Ring Attention8. 混合专家模型(MoE)9. 并行策略组合10. 集群故障恢复机制11. 完整训练系统架构12. 趋势与训练成本估算 1. 万亿参…

CANN/pypto索引放置操作

pypto.index_put_ 【免费下载链接】pypto PyPTO(发音: pai p-t-o):Parallel Tensor/Tile Operation编程范式。 项目地址: https://gitcode.com/cann/pypto 产品支持情况 产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产…

CANN/pyasc向量乘加API文档

asc.language.adv.axpy 【免费下载链接】pyasc 本项目为Python用户提供算子编程接口,支持在昇腾AI处理器上加速计算,接口与Ascend C一一对应并遵守Python原生语法。 项目地址: https://gitcode.com/cann/pyasc asc.language.adv.axpy(dst: LocalT…

昇思大模型推理评估指标详解

大模型推理评估是衡量模型部署效果、优化性能瓶颈、适配业务场景的核心环节,昇思MindSpore作为面向全场景的AI框架,依托昇腾全栈生态优势,构建了覆盖“性能、精度、可靠性、幻觉控制”的全维度推理评估体系,适配文本生成、多模态、…

CANN/runtime IPC事件同步示例

2_ipcevent_sample 【免费下载链接】runtime 本项目提供CANN运行时组件和维测功能组件。 项目地址: https://gitcode.com/cann/runtime 描述 本样例展示了两个进程之间通过 IPC Event 进行任务同步。 进程A(生产者):创建IPC事件&…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部