AMD RX5700XT运行本地Ollama我的显卡是AMD 5700XT有8G显存内存64G也不算小了。利用Ollama安装本地大模型养个小马还是有可行性。在网上搜了不少资料内容不多。早期的AMD对AI重视不够后来搞rocm对老架构的GPU也很难支持。也就造就了其实GPU性能还行但是用不起来的尴尬境地。我用Rocm 6.2.4成功了现将操作过程分享给有需要的人。第一步下载最新的显卡驱动程序复制以下链接https://www.amd.com/zh-cn/support/download/drivers.html第二步复制以下链接下载HIP SDK 6.2.4版本 AMD-Software-PRO-Edition-24.Q4-Win10-Win11-For-HIP.exe并安装https://www.amd.com/en/developer/resources/rocm-hub/hip-sdk.html第三步这一步也是经常搞错的需要下载6.2.4对应的版本针对于5700XT, 请下载https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/download/v0.6.2.4/rocm.gfx1010-xnack-gfx1011-xnack-gfx1012-xnack-.for.hip.sdk.6.2.4.7z第四步增加环境变量HSA_OVERRIDE_GFX_VERSION10.3.0第五步将下载的ROCM文件替换原来的显卡驱动文件。将下载的显卡对应的ROCM替换掉HIP SDK安装目录下的ROCMLIBRARY文件夹同步替换。1、hip sdk目录仅供参考C:\Program Files\AMD\ROCm\6.2\bin 备份替换rocblas.dll2、hip sdk目录仅供参考C:\Program Files\AMD\ROCm\6.2\bin\rocblas\library(备份替换library下文件)据我实测ollama目录不需要管无需要替换。第六步重启电脑。重启后利用命令行ollama run qwen3.5:4b 直接可检查是否调用了显卡。
