LibreChat 部署步骤

本文档整理 LibreChat 在 Ubuntu Server 虚拟机中的 Docker Compose 部署流程,并包含反向代理、Ollama 接入和后续架构建议。

一、先准备 VM

我建议你现在直接用 Docker Compose 安装 LibreChat,不要手搓 Node 环境。

你现在环境最适合:

txt
Ubuntu Server
+
Docker
+
Docker Compose

推荐配置:

txt
4 vCPU
16 GB RAM
100+ GB Disk
Ubuntu Server 24.04 LTS

主机名:

txt
ubuntu-ai-server

二、安装 Docker

SSH 进入 VM:

bash
sudo apt update
sudo apt install -y curl git

安装 Docker:

bash
curl -fsSL https://get.docker.com | sudo bash

加入 docker 用户组:

bash
sudo usermod -aG docker $USER

重新登录 SSH。

测试:

bash
docker ps

三、安装 Docker Compose

新版一般自带:

bash
docker compose version

如果没有:

bash
sudo apt install docker-compose-plugin

四、克隆 LibreChat

进入目录:

bash
cd /opt

克隆:

bash
sudo git clone https://github.com/danny-avila/LibreChat.git

进入:

bash
cd LibreChat

五、复制环境变量

bash
cp .env.example .env

六、修改 .env

最重要几个:

env
HOST=0.0.0.0
PORT=3080

生成 JWT:

bash
openssl rand -base64 32

填:

env
CREDS_KEY=xxxxx
CREDS_IV=xxxxx
JWT_SECRET=xxxxx
JWT_REFRESH_SECRET=xxxxx

再生成:

bash
openssl rand -hex 16

填:

env
MEILI_MASTER_KEY=xxxxx

七、先关闭注册限制(测试阶段)

env
ALLOW_REGISTRATION=true

八、启动

bash
docker compose up -d

第一次会:

  • 拉镜像
  • build 前端
  • 初始化 MongoDB
  • 初始化 Meilisearch

机械盘可能:

txt
10~30分钟
属于正常。

九、查看状态

bash
docker ps

看是否:

txt
Up

十、访问

浏览器:

txt
http://你的IP:3080

十一、反向代理(推荐)

你后面:

txt
ai.szr.hk

推荐 Nginx:

nginx
server {
    server_name ai.szr.hk;

    location / {
        proxy_pass http://127.0.0.1:3080;

        proxy_http_version 1.1;

        proxy_set_header Host $host;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";

        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

十二、接 Ollama

如果 Ollama 在:

txt
192.168.112.20:11434

编辑:

txt
librechat.yaml

添加:

yaml
endpoints:
  custom:
    - name: "Ollama"
      apiKey: "ollama"
      baseURL: "http://192.168.112.20:11434/v1/"
      models:
        default:
          - llama3
          - qwen2.5

然后:

bash
docker compose restart

十三、后面你一定会做的

后续你大概率会加:

txt
Authentik
LiteLLM
Cloudflare Tunnel
Mongo Backup
OIDC
会员系统

所以:

txt
/opt/LibreChat
这种结构会比较标准。

十四、你的最终架构(推荐)

txt
ai.szr.hk
    ↓
LibreChat
    ↓
LiteLLM
    ↓
OpenAI / Claude / Gemini / Ollama

认证:

txt
auth.szr.hk
    ↓
OIDC
这样后面基本就是真正 AI SaaS 平台架构了。