打赏

相关文章

080、NPU的知识蒸馏支持:教师-学生模型的硬件优化

080 NPU的知识蒸馏支持:教师-学生模型的硬件优化 从一次诡异的精度回退说起 去年做一款轻量级AI芯片的部署时,遇到一个让我挠头三天的问题:同样的模型,在GPU上量化后精度损失不到1%,一上NPU直接掉了5个点。排查了量化参数、算子对齐、甚至怀疑过DDR带宽,最后发现罪魁祸…

081、NPU的混合精度训练:FP16与INT8的混合使用

081、NPU的混合精度训练:FP16与INT8的混合使用 昨晚调试一块AI加速卡,客户反馈模型在NPU上跑起来后,精度掉得离谱——分类任务从98%直接跌到82%。我盯着日志看了半小时,发现训练时用了FP16,推理时却强制转成了INT8,中间没有任何校准步骤。这种“想当然”的混合精度用法,…

HLS视频下载进阶指南:3步捕获流媒体的高效方案

HLS视频下载进阶指南:3步捕获流媒体的高效方案 【免费下载链接】hls-downloader Web Extension for sniffing and downloading HTTP Live streams (HLS) 项目地址: https://gitcode.com/gh_mirrors/hl/hls-downloader 还在为无法保存在线视频而烦恼吗&#x…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部