本地大模型构建系列(一):1、本地安装部署Ollama大模型(Windows 10)
前置准备:大模型启动器下载官网:一、安装Ollama大模型启动器1.浏览器打开Ollama官网,点击Download进行下载(如下图所示)2.选择适合版本进行下载(如下图所示)3.下载完成后,双击安装(默认)直到完成。4.同时按键盘上Win+R,输入cmd进入,输入ollama,回车,显示如下图所示,表示ollama已安装成功二、安装大模型1.按下列步骤,修改大模型安装路径,如果不修改,默认会安装
前置准备:
大模型启动器下载官网:
(1)Olama+Docker本地部署Ollama官网地址:Ollama
Docker下载地址:https://github.com/tech-shrimp/docker_installer
Open webui安装部署:https://github.com/open-webui/open-webui
MaxKB安装部署:https://github.com/1Panel-dev/MaxKB
一、安装Ollama大模型启动器
1.浏览器打开Ollama官网,点击Download进行下载(如下图所示)

2.选择适合版本进行下载(如下图所示)

3.下载完成后,双击安装(默认)直到完成。
4.同时按键盘上Win+R,输入cmd进入,输入ollama,回车,显示如下图所示,表示ollama已安装成功

二、安装大模型
1.按下列步骤,修改大模型安装路径,如果不修改,默认会安装到C盘(系统盘)。按键盘上Win+i进入设置,搜索“查看高级系统设置”,进入【环境变量】


2.修改path,配置Ollama安装位置的参数,修改后点确定完成


3.新建变量名OLLAMA_MODELS,设置新路径,确定完成(注意:一定要重新启动ollama)

重启步骤:先退出(在右下角找到羊驼图标,右键,选择'Quit Ollama'),重新启动(以Win+R打开cmd,输入ollama回车完成重启)
4.下载安装大模型,以Qwen为例
以win+R进入cmd,以命令:ollama run qwen2.5:3b,进行大模型下载安装
5.下载完成后,自动运行,可以开始对话

我们该怎样系统的去转行学习大模型 ?
很多想入行大模型的人苦于现在网上的大模型老课程老教材,学也不是不学也不是,基于此,我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近100余次后,终于把整个AI大模型的学习门槛,降到了最低!
您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型教程已经给大家整理并打包,现在将这份 LLM大模型资料 分享出来: 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

一、大模型经典书籍(免费分享)
AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

二、640套大模型报告(免费分享)
这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
三、大模型系列视频教程(免费分享)

四、2025最新大模型学习路线(免费分享)
我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。

L1阶段:启航篇丨极速破界AI新时代
L1阶段:我们会去了解大模型的基础知识,以及大模型在各个行业的应用和分析;学习理解大模型的核心原理、关键技术以及大模型应用场景。
L2阶段:攻坚篇丨RAG开发实战工坊
L2阶段是我们的AI大模型RAG应用开发工程,我们会去学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段:跃迁篇丨Agent智能体架构设计
L3阶段:大模型Agent应用架构进阶实现,我们会去学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造我们自己的Agent智能体。

L4阶段:精进篇丨模型微调与私有化部署
L4阶段:大模型的微调和私有化部署,我们会更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调。

L5阶段:专题集丨特训篇 【录播课】

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方二维码,免费领取

更多推荐




所有评论(0)