打赏

相关文章

1-bit大模型本地部署:让十年前笔记本运行LLM

1. 项目概述:当大模型“瘦身”到能塞进十年前的笔记本你有没有试过点开一个大语言模型的演示页面,看着加载条缓慢爬行,心里默默算着自己那台2014年买的ThinkPad X230——i5-3320M、4GB内存、一块500GB机械硬盘——是不是连“Hello, world”都…

CANN ops-nn Mish激活函数API

aclnnMish&aclnnInplaceMish 【免费下载链接】ops-nn 本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。 项目地址: https://gitcode.com/cann/ops-nn 📄 查看源码 产品支持情况 产品是否支持Ascend 950PR/Ascend 950DT√…

CANN/ops-math矩阵乘法压缩反量化算子

aclnnMatmulCompressDequant 【免费下载链接】ops-math 本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。 项目地址: https://gitcode.com/cann/ops-math 📄 查看源码 产品支持情况 产品是否支持Ascend 950PR/Ascend 950DTAt…

VLA-0视觉语言动作模型:零修改部署与多模态AI实践

1. 项目概述VLA-0是一种突破性的视觉语言动作模型,它最大的特点在于实现了"开箱即用"的零修改部署能力。作为一名长期关注多模态AI发展的从业者,我首次接触到这个模型时就被它的设计理念所震撼——传统视觉语言模型往往需要针对特定任务进行繁…

SQL PIVOT原理与实战:从行转列到高性能宽表生成

1. 项目概述:从“行变列”开始,真正搞懂SQL PIVOT不是语法糖,而是数据思维的分水岭你有没有遇到过这样的报表需求:销售表里每条记录是一笔订单(客户名、产品名、金额、日期),但老板要的却是“每…

CANN KV压缩Epilog算子

custom-npu_kv_compress_epilog 【免费下载链接】cann-recipes-infer 本项目针对LLM与多模态模型推理业务中的典型模型、加速算法,提供基于CANN平台的优化样例 项目地址: https://gitcode.com/cann/cann-recipes-infer 产品支持情况 产品是否支持Ascend 950…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部