打赏

相关文章

080、NPU的知识蒸馏支持:教师-学生模型的硬件优化

080 NPU的知识蒸馏支持:教师-学生模型的硬件优化 从一次诡异的精度回退说起 去年做一款轻量级AI芯片的部署时,遇到一个让我挠头三天的问题:同样的模型,在GPU上量化后精度损失不到1%,一上NPU直接掉了5个点。排查了量化参数、算子对齐、甚至怀疑过DDR带宽,最后发现罪魁祸…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部