【教程分享】飞腾派部署DeepSeek-r1:1.5b模型!轻松拥有专属智能AI!
教程详情
一、安装ollama
为了让大家更高效地完成部署,我们提供了ollama的离线安装包和在线安装两种方法
方法一:在线下载,只需要输入下载指令即可进行在线安装。
curl -fsSL https://ollama.com/install.sh | shbr
方法二:离线安装包,在⽹盘中下载 ollama-linux-arm64.tgz ,解压到指定路径
sudo tar -xzvf ollama-linux-arm64.tgz -C /usr/br
网盘链接 : https://pan.baidu.com/s/1A1laIfddL8PzLJq-2i6o4A
提取码 : 5x4r
二、配置服务器
配置组
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollamasudo usermod -a -G ollama $(whoami)br
创建服务,使⽤ vim 创建 /etc/systemd/system/ollama.service 并加⼊以下内容
[Unit]Description=Ollama ServiceAfter=network-online.target[Service]ExecStart=/usr/bin/ollama serveUser=ollamaGroup=ollamaRestart=alwaysRestartSec=3[Install]WantedBy=default.targetbr
启动服务器
sudo systemctl daemon-reloadsudo systemctl enable ollamasudo systemctl restart ollamabr
查看 ollama 服务,可以看到已经正常启动
三、运⾏deepseek-r1:1.5b
首次运行deepseek-r1:1.5b,会自动在线下载模型。
ollama run deepseek-r1:1.5bbr
由于近期DeepSeek太火爆,在线下载过于拥堵可能会出现失败的情况,可从网盘中下载模型,解压到 /usr/share/ollama/.ollama/models/
sudo tar -xzvf models.tar.gz -C /usr/share/ollama/.ollamabr
网盘链接 : https://pan.baidu.com/s/1A1laIfddL8PzLJq-2i6o4A
提取码 : 5x4r
下载成功后,再次输入启动指令
ollama run deepseek-r1:1.5bbr
部署成功!尝试提问测试
回答正确!飞腾派成功运行DeeSeek模型啦!现在大家可以充分利用飞腾派硬件优势,持续培训 DeepSeek,挖掘模型的更多潜力,探索更多创意应用,期待大家创造出精彩的成果!