【ollama】RX580使用ollama部署deepseek成功启用显卡

使用AMD显卡在本地运行AI的时候你会发现它调用的是CPU而不是GPU,尤其是老显卡,现在我们就让老显卡RX580发挥性能在本地运行deepseek的时候调用GPU。

1、下载ollama for amd下载地址:

https://github.com/likelovewant/ollama-for-amd/releases/tag/v0.5.4

先下载安装包并安装

然后再下载rocm5.7-v2.7z并解压

打开解压的文件夹并替换到ollma的安装目录下同名文件

ollama的安装目录路径:C:\Users\Administrator\AppData\Local\Programs\Ollama

替换文件

下载amd的rocm文件并替换,580的是803,其他型号的自己百度

下载地址:https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.5.7

解压后替换相同文件

完成后在终端运行命令 ollama run deepseek-r1:8b

查看调用情况

THE END
分享
二维码
< <上一篇
下一篇>>