新闻详情

新闻详情

首页 / 资讯中心 / 详情

5 分钟在本机跑起 R2R:AI 检索与 RAG 系统的完整本地部署教程

发布时间:2026/9/20 1:56:31来源:尧图网络
5 分钟在本机跑起 R2R:AI 检索与 RAG 系统的完整本地部署教程
5 分钟在本机跑起 R2RAI 检索与 RAG 系统的完整本地部署教程【免费下载链接】R2RSoTA production-ready AI retrieval system. Agentic Retrieval-Augmented Generation (RAG) with a RESTful API.项目地址: https://gitcode.com/GitHub_Trending/r2/R2RR2R 是一套生产级的 AI 文档检索与生成RAG系统内置 RESTful API 和 Web 控制台支持文档管理、混合检索、知识图谱和多轮问答。如果你已经装好 Windows 和 Docker Desktop跟着本文约 10~15 分钟就能完成一次完整的 R2R 本地部署启动服务、验证健康检查、登录控制台并上传文档开始问答。读完本文你会清楚每一步在做什么、以及怎么确认它成功了。 先确认机器环境避免中途返工启动前先确认几件事能省掉大部分反复重启的时间。用下面的清单核对Windows 10 或更高版本已安装 Docker Desktop并能正常启动容器内存 16GB 及以上最低 8GB影响能否跑本地模型首次运行需要联网拉取镜像确认 Docker 是否就绪运行下面这条命令docker version如果同时看到客户端和服务端的版本号说明 Docker 正常运行。接着确认 7272API和 7273控制台两个端口没有被其他程序占用。环境没问题就可以拉取代码了。 拉取 R2R 代码并填好模型密钥先拿到项目代码这一步完成后你应能看到项目根目录下的docker/、py/、js/等子目录git clone https://gitcode.com/GitHub_Trending/r2/R2R cd R2R接着告诉 R2R 该用哪套模型。用编辑器打开docker/env/r2r-full.env把OPENAI_API_KEY后面填上你的密钥请替换为你自己的值。如果你用的是 Anthropic 等其他供应商则填写文件里对应的ANTHROPIC_API_KEY等行其余留空即可。密钥就位后服务就能正常调用了。下面用 Docker 把整套服务拉起来。 用 Docker 启动 R2R完整版和轻量版怎么选仓库提供了两套编排文件。只想开箱即用、体验图谱和编排等完整能力选完整版想省资源、只跑核心检索选轻量版。两条命令都从项目根目录运行--profile postgres会一并启动向量数据库# 完整版含图谱聚类、任务编排、对象存储 docker compose -f docker/compose.full.yaml --profile postgres up -d# 轻量版仅核心检索与看板 docker compose -f docker/compose.yaml --profile postgres up -d执行后终端会逐行打印 Pulling、Created 等日志耐心等它把镜像拉完。最后用下面这条命令查看状态看到r2r和r2r-dashboard都显示Up即启动成功docker compose -f docker/compose.full.yaml ps服务起来后下一步是确认它真的可用并进入控制台。 验证服务并登录 Web 控制台先用健康检查接口确认 API 正常在浏览器访问http://localhost:7272/v3/health返回一段 JSON 就说明后端在线。然后打开控制台http://localhost:7273登录页会显示默认账号和实例地址按提示填入即可登录。登录后可以按这三步快速上手确认检索链路通了进入 Documents 页面上传一份文档如 PDF 或 txt列表里状态变为已处理即解析成功。在 Collections 里把文档归入某个集合方便后续按集合检索。打开 Chat 页面提问能基于你上传的文档得到带引用的回答说明 RAG 已跑通。到这里系统已经能用了。如果你希望数据完全不出本机可以再接入本地模型。 接入本地模型让 R2R 离线运行可选不想调用云端 API 时可以用 Ollama 在本机提供模型。依次运行下面命令先下载一个生成模型和一个嵌入模型再启动服务ollama pull llama3.1 ollama pull mxbai-embed-large ollama serveR2R 的配置里已预置了指向本机 Ollama 的地址http://host.docker.internal:11434切换到 Ollama 配置后问答就不再依赖外部网络。内存受限时建议把模型上下文窗口设到 8K 左右。更多本地配置细节可参考仓库内的本地模型文档。如果某一步卡住了按下面的思路排查通常能解决。⚙️ 启动卡住时这样排查按出现概率从高到低逐条核对容器没起来运行docker compose -f docker/compose.full.yaml ps看哪个服务异常再用docker compose -f docker/compose.full.yaml logs r2r查看日志定位原因。端口被占用7272、7273 被其他程序占用时停掉占用进程或在编排文件里改成空闲端口请替换为你自己的值。密钥没生效确认填在docker/env/r2r-full.env对应行里并重启容器docker compose -f docker/compose.full.yaml up -d。Docker 与宿主网络不通容器内访问本机 Ollama 用的是host.docker.internal确认 Docker Desktop 网络设置正常。另外建议定期备份 Postgres 数据卷postgres_data避免文档和索引丢失。现在你已经完成了拉取代码、配置模型密钥、启动整套容器、通过健康检查并登录控制台还能上传文档完成一次 RAG 问答。下一步建议挑一份真实文档走一遍“上传—检索—问答”完整流程如果想彻底离线就按上一节配置 Ollama 后重启容器。【免费下载链接】R2RSoTA production-ready AI retrieval system. Agentic Retrieval-Augmented Generation (RAG) with a RESTful API.项目地址: https://gitcode.com/GitHub_Trending/r2/R2R创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

YOLO多目标跟踪部署选型:CPU、GPU、TPU三步定方案 2026/9/20 3:35:50

YOLO多目标跟踪部署选型:CPU、GPU、TPU三步定方案

YOLO多目标跟踪部署选型:CPU、GPU、TPU三步定方案 【免费下载链接】boxmot BoxMOT: Pluggable Python and C SOTA multi-object tracking modules with support for axis-aligned and oriented bounding boxes 项目地址: https://gitcode.com/GitHub_Trending/bo/…

阅读更多 →
FastGPT 接入企业微信:零代码接入企微机器人完整指南 2026/9/20 3:35:50

FastGPT 接入企业微信:零代码接入企微机器人完整指南

FastGPT 接入企业微信:零代码接入企微机器人完整指南 【免费下载链接】FastGPT FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI …

阅读更多 →
韩国法院拍卖信息查询全流程实操:courtauction.go.kr 上怎么查才不被封 IP 2026/9/20 3:35:50

韩国法院拍卖信息查询全流程实操:courtauction.go.kr 上怎么查才不被封 IP

韩国法院拍卖信息查询全流程实操:courtauction.go.kr 上怎么查才不被封 IP 【免费下载链接】k-skill 한국인을 위한 스킬 모음집 - 에이전트를 한국인으로 项目地址: https://gitcode.com/GitHub_Trending/ks/k-skill court-auction-notice-search 是 k-skil…

阅读更多 →
ANSYS Polyflow .poly文件实战指南:从案例复现到参数自动化 2026/9/20 3:35:50

ANSYS Polyflow .poly文件实战指南:从案例复现到参数自动化

简介:本资源为ANSYS官方发布的《Polyflow Examples Manual》(19.0版本)技术文档,面向流体仿真工程师、高校科研人员及化工/能源/生物工程领域从业者,聚焦非牛顿流体、多相流与热-流耦合等复杂流动问题的建模仿真实践。…

阅读更多 →
InvenTree 开源库存管理系统入门:3 条命令部署,分类、盘点、采购一次讲清 2026/9/20 3:35:50

InvenTree 开源库存管理系统入门:3 条命令部署,分类、盘点、采购一次讲清

InvenTree 开源库存管理系统入门:3 条命令部署,分类、盘点、采购一次讲清 【免费下载链接】InvenTree Open Source Inventory Management System 项目地址: https://gitcode.com/GitHub_Trending/in/InvenTree 仓库里同一个电阻放在三个抽屉里&am…

阅读更多 →
colibri:纯C实现的MoE推理引擎,消费级硬件本地部署实战 2026/9/20 3:32:50

colibri:纯C实现的MoE推理引擎,消费级硬件本地部署实战

1. 为什么"colibri"值得单独拿出来聊第一次看到 colibri 这个名字,是在一个折腾本地推理的群里。有人丢了一句"colibri 跑 MoE 比 llama.cpp 省一半内存",底下立刻炸出一堆人问链接。我当时的第一反应是:又一个蹭 MoE 热…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞