打赏

相关文章

054、NPU的激活函数单元:硬件实现ReLU、Sigmoid查找表

054、NPU的激活函数单元:硬件实现ReLU、Sigmoid查找表 去年调试一块28nm工艺的AI加速芯片时,遇到一个诡异的bug:模型推理结果在特定输入下偶尔跳变,精度从99.2%掉到87%。排查了三天,最后发现是激活函数单元的查找表地址映射出了问题——Sigmoid表的低位地址线在布局布线时…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部