最近体验了一下RAGFlow的RAG能力,体验下来,它给我的感觉总结两点:1)知识检索方面能力很强;2)Agent工作流搭建很反人性,跟Coze或者Dify比,有点复杂。

本文主要包含两部分:RAGFlow部署和RAG项目实操。声明下:为了节省字数,内容为精简版,整体较为粗糙,但保真!

前排提示,文末有大模型AGI-CSDN独家资料包哦!

一、RAGFlow部署

  • 软硬件要求(生产环境)

    • CPU >= 4 cores

    • RAM >= 16 GB

    • Disk >= 50 GB

    • Docker >= 24.0.0 & Docker Compose >= v2.26.1

  • 准备阿里云机器

按量付费,4c16g40G,  ubuntu 22.04

  • 安装docker和docker-compose

apt安装Docker

apt install  docker.io

启动docker服务

systemctl start dockersystemctl enable docker

设置docker加速器​​​​​​​

sudo mkdir -p /etc/dockersudo tee /etc/docker/daemon.json <<-'EOF'{    "registry-mirrors": [        "https://docker.m.daocloud.io",        "https://dockerhub.timeweb.cloud"    ]}EOFsudo systemctl daemon-reloadsudo systemctl restart docker

下载二进制的docker-compose

curl -L "https://github.com/docker/compose/releases/download/v2.36.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/bin/docker-compose

测试

docker-compose  --version
  • 更改内核参数

要保证内核参数 vm.max_map_count >= 262144​​​​​​​

vi /etc/sysctl.conf  #最后面增加一行vm.max_map_count =  262144

使其生效

sysctl -p

检查

sysctl vm.max_map_count
  • 获取ragflow源码

git clone https://github.com/infiniflow/ragflow.git
  • 更改配置

进到docker目录下

cd  ragflow/docker

配置文件为.env,这里面可以配置各组件密码,

比如mysql、minio、elastcsearch等服务的

密码以及端口

  • 启动服务

docker-compose up -d
  • 配置模型

直接访问阿里云的公网ip即可访问到RAGFlow,

初次访问需要设置邮箱、用户名和密码。

点击右上角头像,然后选择“模型提供商”

找到DeepSeek,点击“添加模型”

输入api-key

找到硅基流动,点击“添加模型”

输入api-key

设置默认模型

二、RAG项目实操

  • 项目整体构思

做一个公司内部员工智能问答助手,我们

可以将公司内部员工手册以及各部门新员工

入职培训手册,比如技术部各内部资源

使用指南导入到RAGFlow的知识库里,

然后做一个基于知识库+LLM的智能对话助手,

再将该助手发布到公司内部OA平台

  • 准备内部手册文档

借助coze空间https://space.coze.cn/生成

提示词1如下:​​​​​​​

帮我做一份用来作为RAG系统的知识库文档,这个文档主要内容为一家公司的内部员工手册,手册内容字数不少于10000字。

提示词2如下:​​​​​​​

我还需要一份技术部同事使用的内部员工培训手册,这份手册需要包含公司所有内部IT平台的介绍和访问方式
  • 创建知识库

右上角点击“+创建知识库”

点击“数据集”

然后新增文件,选择本地文件

搜索测试

  • 创建应用

点击“Agent”,然后点击“+创建Agent”

点击“知识检索”卡片,设置Rerank模型

点击“生成回答”卡片,设置系统提示词


试运行

调试完,没问题点击“保存”。

  • 嵌入OA

1)获取API

单击右上角头像,选择API,单击“API KEY”,

点击“创建新密钥”,然后复制新创建的key

2)嵌入网站

回到上面创建的Agent,点击“嵌入网站”

3)将代码嵌入OA系统

这里,我们还是让豆包做一个模拟的OA网页

借用豆包的编程能力,帮我们写一个简单的

OA网页。

https://www.doubao.com/chat/

提示词:​​​​​​​

帮我写一个公司OA平台,只需要提供一个静态网页即可,但需要嵌入我这段代码:  <iframe  src="http://47.105.99.194/chat/share?shared_id=e90421d665fe11f09b8a0242ac120006&from=agent&auth=ViZGNlZWNlNjYwNzExZjBiZTkzMDI0Mm&visible_avatar=1&locale=zh"  style="width: 100%; height: 100%; min-height: 600px"  frameborder="0"></iframe>​​​​​​​

最后介绍下我的大模型课:我的运维大模型课上线了,目前还是预售期,有很大优惠。AI越来越成熟了,大模型技术需求量也越来越多了,至少我觉得这个方向要比传统的后端开发、前端开发、测试、运维等方向的机会更大,而且一点都不卷!

读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用

针对0基础小白:

如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

请添加图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难

在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐