欢迎关注我的公众号「DevOps和k8s全栈技术」，进公众号【服务】栏，可以看到技术群，点击即可加入学习交流群。↓↓↓

正文开始

第一步：安装Ollama

打开官方网址：https://ollama.com/download/linux
下载Ollama linux版本

复制命令到linux操作系统执行

[root@postgresql ~]# curl -fsSL https://ollama.com/install.sh | sh

在Service中增加下面两行

[root@localhost ~]# vi /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

然后重启ollama服务

[root@localhost ~]#systemctl daemon-reload
[root@localhost ~]#systemctl restart ollama

验证服务是否开启，11434是核心端口，必须开启。

[root@localhost ~]# ss -anlp|grep 11434

登录验证
浏览器直接访问192.168.47.136:11434

出现Ollama is running，即正常。

第二步：部署Deepseek R1模型

还是在ollama官网上，点击Models，选择deepseek-r1，不同版本对应的体积大小不同，体积越大模型越精细化，只需要复制命令即可，我这里选择7b。

[root@postgresql ~]#ollama run deepseek-r1:7b

[root@localhost ~]# ollama list

交互式聊天模式：

[root@localhost ~]#ollama run deepseek-r1

第三步：配置可视化界面

安装docker

[root@localhost yum.repos.d]#wget http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
 [root@localhostyum.repos.d]#yum install docker-ce-20.10.9-3.el7 docker-ce-cli-20.10.9-3.el7 containerd.io
[root@localhost yum.repos.d]#systemctl start docker
[root@localhost yum.repos.d]#systemctl status docker
[root@localhost yum.repos.d]# docker --version
[root@localhost yum.repos.d]#docker info

[root@postgresql yum.repos.d]# docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.47.136:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

访问控制台：

http://192.168.47.136:3000

可以进行专属知识库的建立
拖动上传文件至该区域即可,大家根据自己的需要进行文件的上传。

到这里，我们就完成的在linux服务器部署deepseek，并使用webui界面友好的展示。

欢迎关注我的公众号「DevOps和k8s全栈技术」，进公众号【服务】栏，可以看到技术群，点击即可加入到学习交流群。↓↓↓

END

➤  往期精彩回顾

• 云计算架构师韩先超亲身经历 | 记录从大学到现在工作经历

• 我的2024年终总结：在坚持中成长，在选择中前行

• 云计算架构师韩先超对咪咕进行【K8S超大规模集群与AI赋能算力网络调度】培训

• 对合肥电信进行线下Kubernetes技术培训

• 推荐书籍：《Kubernetes从入门到DevOps企业应用实战》——韩老师以企业实战为背景出版的一本高质量书籍：销量突破1万

• docker镜像加速器又又被封了：新整理一批可以用的|无需代理，国内可访问

• 运维秘籍：20个常识，关键时刻能救命！

• 深度解析 Kubernetes API Server 性能优化：关键参数配置指南|k8s调优指南

• 提升运维效率：Linux和Kubernetes常见故障的20种解决方案

• K8s Scheduler Pod 启动失败：Error: failed to reserve container name

• Dockerfile超详细教程：案例+指令+编写技巧

• 全面掌握：Linux运维面试必备题库（服务器、网络、Docker、K8s、DevOps等）

• 大规模场景下K8S集群设计|大企业5000个节点k8s架构设计|第1集
  

• 大规模K8S集群的网络与存储优化：5000+节点规模| 第2集

• 高效运用 GPU：在 Kubernetes 集群中动态管理 GPU 资源

• Centos停更了，基于业务场景选择合适的操作系统替代Centos。

• docker镜像加速器又又被封了：新整理一批可以用的|无需代理，国内可访问

• 生产故障排查记录：Redis 中间件疑难错误排查与修复

• 运维秘籍：20个常识，关键时刻能救命！

• Linux 运维命令汇总：含shell、sed、awk等

• K3K：Kubernetes 套娃式集群管理，轻松运行多个 K3s
  

欢迎关注我的公众号「DevOps和k8s全栈技术」，进公众号【服务】栏，可以看到技术群，点击即可加入到学习交流群。↓↓↓