打赏

相关文章

常见精度及使用场景

精度 尾数 指数 峰值算力 相对 FP32 适用场景FP32 23bit 8bit ~19.5 TFLOPS 1 通用计算、高精度需求TF32 10bit 8bit ~156 TFLOPS 8 AI 训练 / 推理(默认)FP16 10bit 5bit ~312 TFLOPS 16 极致速度、需混合精度代码B…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部