百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

离线在docker镜像方式部署ragflow0.17.2

wptr33 2025-03-26 17:47 7 浏览

经常项目上会出现不能连外网的情况,要怎么使用ragflow镜像部署呢,这里提供详细的步骤。

1、下载基础镜像

根据docker-compose-base.yml及docker-compose.yml中的image配置信息,下载所需要的基础服务镜像。

# 创建资源目录
mkdir -p /data/ragflow-offline/{docker-images,pip-packages}
cd /data/ragflow-offline


# 拉取并保存所有所需镜像
docker pull elasticsearch:8.11.3
#infinity和elasticsearch可以二选一下载
docker pull infiniflow/infinity:v0.6.0-dev3
#8+版本的mysql才支持向量数据
docker pull mysql:8.0.39
docker pull quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z
docker pull valkey/valkey:8

当使用sudo docker save时,虽然docker命令以root权限执行,但输出重定向操作(>)仍受当前用户目录权限限制。需要确保操作路径有足够权限,所以要先通过以下命令给足够的权限。

sudo chmod 777 /data/ragflow-offline/docker-images  # 临时放宽权限

再执行下面的保存命令

sudo docker save elasticsearch:8.11.3 > docker-images/elasticsearch-8.11.3.tar
sudo docker save infiniflow/infinity:v0.6.0-dev3 > docker-images/infinity-v0.6.0-dev3.tar
sudo docker save mysql:8.0.39 > docker-images/mysql-8.0.39.tar
sudo docker save quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z > docker-images/minio-2023-12-20.tar
sudo docker save valkey/valkey:8 > docker-images/valkey-8.tar


二、下载Ragflow

1、下载RagFlow,github上可能很慢,找一个gitee上的地址

cd /data
sudo git clone https://gitee.com/da_xu/ragflow.git
cd ragflow

2、配置python虚拟环境,如果已有请跳过

#安装venv
sudo apt install python3.12-venv
# 创建虚拟环境
sudo python3 -m venv .venv
#激活虚拟环境
source .venv/bin/activate
#安装所需要的依赖,可能会遇到很多版本问题,比如我是python3.12,要提示修改一些依赖版本
pip install -r requirements.txt

需要修改的依赖版本如下:

Pillow=10.3.0修改为11.1.0
torch=2.3.0修改为2.3.1

torch直接安装大概有800多M,看网络情况可能会超时,所以我直接选择先下载,下载地址:


https://download.pytorch.org/whl,找到你合适的版本

或者从阿里巴巴的镜像下载:
https://mirrors.aliyun.com/pypi/simple

然后使用以下命令安装

#下载
sudo wget https://download.pytorch.org/whl/cpu/torch-2.3.1%2Bcpu-cp312-cp312-linu
x_x86_64.whl#sha256=2141a6cb7021adf2f92a0fd372cfeac524ba460bd39ce3a641d30a561e41f69a
#安装torch
pip install torch-2.3.1+cpu-cp312-cp312-linux_x86_64.whl

以上可能会出现没有权限的问题,如下报错:

Installing collected packages: mpmath, typing-extensions, sympy, networkx, MarkupSafe, fsspec, filelock, jinja2, torch ERROR: Could not install packages due to an OSError: [Errno 13] Permission denied: '/data/ragflowd/.venv/lib/python3.12/site-packages/mpmath' Check the permissions.

解决方式如下:

# 进入虚拟环境上级目录
cd /data/ragflow

# 递归修改虚拟环境目录所有权(替换  为实际用户名)
sudo chown -R : .venv

# 赋予读写执行权限
sudo chmod -R 755 .venv

#或者如下操作
# 确保 /data/ragflow 目录允许当前用户操作
sudo chown -R $USER:$USER /data/ragflow
sudo chmod -R 755 /data/ragflow
#然后重新安装torch
pip install torch-2.3.1+cpu-cp312-cp312-linux_x86_64.whl

如果再遇到安装超时的问题,就采用以上方式先下载whl文件,然后单独安装,然后再安装其它的依赖。

比如又碰到160M的xgboost无法安装,如图操作:


其它比较大的whl下载:

sudo wget https://mirrors.aliyun.com/pypi/packages/67/ca/f42388aed0fddd64ade7493dbba36e1f534d4e6fdbdd355c6a90030ae028/nvidia_nccl_cu12-2.26.2-py3-none-manylinux2014_x86_64.manylinux_2_17_x86_64.whl#sha256=694cf3879a206553cc9d7dbda76b13efaf610fdb70a50cba303de1b0d1530ac6

sudo wget https://mirrors.aliyun.com/pypi/packages/92/0f/a6eeabc9d4f3dffa52d629ba2aedce3c3953a49340a65ef49be85eb26cc1/Aspose.Slides-25.2.0-py3-none-manylinux1_x86_64.whl#sha256=d60bacea1fd43d09ae1351e7a1a1c0790ff80ca7955ceb95823e47f6b39f6b91

三、打包.venv中已下载的包到pip-packages文件夹中

# 在本地开发环境执行
cd /data/ragflow
sudo tar czvf /data/ragflow-offline/pip-packages/venv.tar.gz .venv/

四、离线环境部署步骤

1. 传输离线资源到目标服务器

将以下目录复制到目标服务器/data/ragflow_inner:

sudo mkdir /data/ragflow_inner
cd /data/ragflow_inner
sudo cp -r /data/ragflow-offline/docker-images/ .
sudo cp -r /data/ragflow-offline/pip-packages/ .

2. 加载Docker镜像

cd /data/ragflow_inner
for img in docker-images/*.tar; do
    docker load -i $img
done

3. 恢复Python虚拟环境

# 解压已有虚拟环境
sudo tar xzvf pip-packages/venv.tar.gz -C /data/ragflow_inner/

4、优化配置

新的docker-compose.yml

services:
  elasticsearch:
    image: elasticsearch:8.11.3
    pull_policy: never
    environment:
      - discovery.type=single-node
      - ES_JAVA_OPTS=-Xms4g -Xmx4g
    volumes:
      - /data/ragflow_inner/data/elasticsearch:/usr/share/elasticsearch/data
    ports:
      - "9200:9200"
    healthcheck:
      test: ["CMD-SHELL", "curl --silent --fail localhost:9200/_cluster/health || exit 1"]

  infinity:
    image: infiniflow/infinity:v0.6.0-dev3
		pull_policy: never
    ports:
      - "8088:8088"
    depends_on:
      elasticsearch:
        condition: service_healthy

  mysql:
    image: mysql:8.0.39
		pull_policy: never
    environment:
      MYSQL_ROOT_PASSWORD: ragflow@2024
      MYSQL_DATABASE: ragflow
    volumes:
      - /data/ragflow_inner/data/mysql:/var/lib/mysql
    ports:
      - "3306:3306"
    healthcheck:
      test: ["CMD", "mysqladmin", "ping", "-h", "localhost"]

  minio:
    image: quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z
    pull_policy: never
    command: server /data --console-address ":9001"
    volumes:
      - /data/ragflow_inner/data/minio:/data
    ports:
      - "9000:9000"
      - "9001:9001"
    environment:
      MINIO_ROOT_USER: ragflowadmin
      MINIO_ROOT_PASSWORD: ragflow@minio

  valkey:
    image: valkey/valkey:8
		pull_policy: never
    ports:
      - "6379:6379"
    volumes:
      - /data/ragflow_inner/data/valkey:/data

  server:
    image: infiniflow/ragflow:0.17.2
		pull_policy: never
    environment:
      DB_HOST: mysql
      DB_PORT: 3306
      DB_NAME: ragflow
      DB_USER: root
      DB_PASSWORD: ragflow@2024
      MINIO_ENDPOINT: minio:9000
      MINIO_ACCESS_KEY: ragflowadmin
      MINIO_SECRET_KEY: ragflow@minio
      HF_ENDPOINT: ""  # 显式声明空变量避免警告
      MACOS: ""        # 同上
    volumes:
      - /data/ragflow_inner/logs:/app/logs
      - /data/ragflow_inner/models:/app/models
      - /data/ragflow_inner/.venv:/opt/venv  # 挂载已有虚拟环境
    ports:
      - "8000:8000"
    depends_on:
      mysql:
        condition: service_healthy
      minio:
        condition: service_started
      valkey:
        condition: service_started

5. 启动服务

# 创建数据目录
sudo mkdir -p /data/ragflow_inner/data/{elasticsearch,mysql,minio,valkey}

# 设置文件权限
sudo chmod -R 777 /data/ragflow_inner/data

# 启动所有服务
cd /data/ragflow_inner/docker
sudo docker compose -f docker-compose.yml up -d

#验证服务,输出如下图
sudo docker compose ps
sudo docker exec -it ragflow-server bash
source .venv/bin/activate


相关推荐

用Java实现RAG的3大核心模块与7个必知细节

一、真实场景驱动:某制造企业的知识管理之痛某汽车零部件企业有超过20万份技术文档(PDF/HTML/Word),工程师每天平均花费2小时查找资料。我们为其构建的Java版RAG系统,将查询耗时缩短至1...

在 C# .NET 中从 PDF 中提取表数据

概述:...

【分享】教你如何使用 Java 读取 Excel、docx、pdf 和 txt 文件

在Java开发中,我们经常需要读取不同类型的文件,包括Excel表格文件、"doc"和"docx"文档文件、PDF文件以及纯文本文件。其中最常用的是A...

Spring AI 模块架构与功能解析

SpringAI是Spring生态系统中的一个新兴模块,专注于简化人工智能和机器学习技术在Spring应用程序中的集成。本文将详细介绍SpringAI的核心组件、功能模块及其之间的关...

告别付费!一站式服务,PDF多功能工具!

大家好,我是Java陈序员。今天,给大家介绍一个PDF多功能在线操作工具,完全免费开源!...

本地PDF操作神器:永久告别盗版和破解,再也不用担心安全问题

前言PDF(便携式文档格式)目前已经成为了文档交换和存储的标准。然而,找到一个功能全面、安全可靠、且完全本地化的PDF处理工具并不容易。...

Python rembg 库去除图片背景

rembg是一个强大的Python库,用于自动去除图片背景。它基于深度学习模型(如U^2-Net),能够高效地将前景物体从背景中分离,生成透明背景的PNG图像。本教程将带你从安装到实际应用...

31个必备的python字符串方法,建议收藏

字符串是Python中基本的数据类型,几乎在每个Python程序中都会使用到它。...

python学习day1——输出格式化

print一般在控制台中我们用print进行输出,默认情况下,使用格式为:print(*objects,sep='',end='\n')第一个参数是我们要在控制台...

一张图认识Python(附基本语法总结)

一张图认识Python(附基本语法总结)一张图带你了解Python,更快入门,一张图认识Python(附基本语法总结)Python基础语法总结:1.Python标识符在Python里,标识符有字...

学习编程第188天 python编程 字典格式化

今天学习的是刘金玉老师零基础Python教程第84期,主要内容是python字典格式化。...

Python基础数据类型转换

Python中的基础数据类型转换可以分为隐式转换和显示转换。隐式转换是python解释器自动转换,显示转换是通过内置函数实现。无论哪种方式进行的转换,均为转换为对应类型的数据,而非改变原数据的类型。...

python之json基本操作

1.概述JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式,它具有简洁、清晰的层次结构,易于阅读和编写,还可以有效的提升网络传输效率。Python标准库的...

Python之迭代器及其用法

前面章节中,已经对列表(list)、元组(tuple)、字典(dict)、集合(set)这些序列式容器做了详细的介绍。值得一提的是,这些序列式容器有一个共同的特性,它们都支持使用for循环遍历存储...

从初始化一个现代 python项目学习到的东西

uv我准备用uv初始化一个python项目环境我用的是苹果笔记本MacBookPro,具体的操作系统及硬件参数如下:...