【大模型RAG】:基于RAGFlow搭建一个员工智能助理
最近体验了一下RAGFlow的RAG能力,体验下来,它给我的感觉总结两点:1)知识检索方面能力很强;2)Agent工作流搭建很反人性,跟Coze或者Dify比,有点复杂。
最近体验了一下RAGFlow的RAG能力,体验下来,它给我的感觉总结两点:1)知识检索方面能力很强;2)Agent工作流搭建很反人性,跟Coze或者Dify比,有点复杂。

本文主要包含两部分:RAGFlow部署和RAG项目实操。声明下:为了节省字数,内容为精简版,整体较为粗糙,但保真!
前排提示,文末有大模型AGI-CSDN独家资料包哦!
一、RAGFlow部署
-
软硬件要求(生产环境)
-
CPU >= 4 cores
-
RAM >= 16 GB
-
Disk >= 50 GB
-
Docker >= 24.0.0 & Docker Compose >= v2.26.1
-
-
准备阿里云机器
按量付费,4c16g40G, ubuntu 22.04
-
安装docker和docker-compose
apt安装Docker
apt install docker.io
启动docker服务
systemctl start dockersystemctl enable docker
设置docker加速器
sudo mkdir -p /etc/dockersudo tee /etc/docker/daemon.json <<-'EOF'{"registry-mirrors": ["https://docker.m.daocloud.io","https://dockerhub.timeweb.cloud"]}EOFsudo systemctl daemon-reloadsudo systemctl restart docker
下载二进制的docker-compose
curl -L "https://github.com/docker/compose/releases/download/v2.36.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/bin/docker-compose
测试
docker-compose --version
-
更改内核参数
要保证内核参数 vm.max_map_count >= 262144
vi /etc/sysctl.conf #最后面增加一行vm.max_map_count = 262144
使其生效
sysctl -p
检查
sysctl vm.max_map_count
-
获取ragflow源码
git clone https://github.com/infiniflow/ragflow.git
-
更改配置
进到docker目录下
cd ragflow/docker
配置文件为.env,这里面可以配置各组件密码,
比如mysql、minio、elastcsearch等服务的
密码以及端口
-
启动服务
docker-compose up -d
-
配置模型
直接访问阿里云的公网ip即可访问到RAGFlow,
初次访问需要设置邮箱、用户名和密码。
点击右上角头像,然后选择“模型提供商”

找到DeepSeek,点击“添加模型”

输入api-key

找到硅基流动,点击“添加模型”

输入api-key
设置默认模型


二、RAG项目实操
-
项目整体构思
做一个公司内部员工智能问答助手,我们
可以将公司内部员工手册以及各部门新员工
入职培训手册,比如技术部各内部资源
使用指南导入到RAGFlow的知识库里,
然后做一个基于知识库+LLM的智能对话助手,
再将该助手发布到公司内部OA平台
-
准备内部手册文档
借助coze空间https://space.coze.cn/生成
提示词1如下:
帮我做一份用来作为RAG系统的知识库文档,这个文档主要内容为一家公司的内部员工手册,手册内容字数不少于10000字。
提示词2如下:
我还需要一份技术部同事使用的内部员工培训手册,这份手册需要包含公司所有内部IT平台的介绍和访问方式
-
创建知识库
右上角点击“+创建知识库”



点击“数据集”

然后新增文件,选择本地文件

搜索测试


-
创建应用
点击“Agent”,然后点击“+创建Agent”





点击“知识检索”卡片,设置Rerank模型

点击“生成回答”卡片,设置系统提示词

试运行

调试完,没问题点击“保存”。
-
嵌入OA
1)获取API
单击右上角头像,选择API,单击“API KEY”,
点击“创建新密钥”,然后复制新创建的key
2)嵌入网站
回到上面创建的Agent,点击“嵌入网站”


3)将代码嵌入OA系统
这里,我们还是让豆包做一个模拟的OA网页
借用豆包的编程能力,帮我们写一个简单的
OA网页。
https://www.doubao.com/chat/

提示词:
帮我写一个公司OA平台,只需要提供一个静态网页即可,但需要嵌入我这段代码: <iframe src="http://47.105.99.194/chat/share?shared_id=e90421d665fe11f09b8a0242ac120006&from=agent&auth=ViZGNlZWNlNjYwNzExZjBiZTkzMDI0Mm&visible_avatar=1&locale=zh" style="width: 100%; height: 100%; min-height: 600px" frameborder="0"></iframe>
最后介绍下我的大模型课:我的运维大模型课上线了,目前还是预售期,有很大优惠。AI越来越成熟了,大模型技术需求量也越来越多了,至少我觉得这个方向要比传统的后端开发、前端开发、测试、运维等方向的机会更大,而且一点都不卷!
读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用
针对0基础小白:
如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓


大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难。

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)