LibreChat 部署步骤
本文档整理 LibreChat 在 Ubuntu Server 虚拟机中的 Docker Compose 部署流程,并包含反向代理、Ollama 接入和后续架构建议。
一、先准备 VM
我建议你现在直接用 Docker Compose 安装 LibreChat,不要手搓 Node 环境。
你现在环境最适合:
txt
Ubuntu Server
+
Docker
+
Docker Compose
推荐配置:
txt
4 vCPU
16 GB RAM
100+ GB Disk
Ubuntu Server 24.04 LTS
主机名:
txt
ubuntu-ai-server
二、安装 Docker
SSH 进入 VM:
bash
sudo apt update
sudo apt install -y curl git
安装 Docker:
bash
curl -fsSL https://get.docker.com | sudo bash
加入 docker 用户组:
bash
sudo usermod -aG docker $USER
重新登录 SSH。
测试:
bash
docker ps
三、安装 Docker Compose
新版一般自带:
bash
docker compose version
如果没有:
bash
sudo apt install docker-compose-plugin
四、克隆 LibreChat
进入目录:
bash
cd /opt
克隆:
bash
sudo git clone https://github.com/danny-avila/LibreChat.git
进入:
bash
cd LibreChat
五、复制环境变量
bash
cp .env.example .env
六、修改 .env
最重要几个:
env
HOST=0.0.0.0
PORT=3080
生成 JWT:
bash
openssl rand -base64 32
填:
env
CREDS_KEY=xxxxx
CREDS_IV=xxxxx
JWT_SECRET=xxxxx
JWT_REFRESH_SECRET=xxxxx
再生成:
bash
openssl rand -hex 16
填:
env
MEILI_MASTER_KEY=xxxxx
七、先关闭注册限制(测试阶段)
env
ALLOW_REGISTRATION=true
八、启动
bash
docker compose up -d
第一次会:
- 拉镜像
- build 前端
- 初始化 MongoDB
- 初始化 Meilisearch
机械盘可能:
txt
10~30分钟
属于正常。
九、查看状态
bash
docker ps
看是否:
txt
Up
十、访问
浏览器:
txt
http://你的IP:3080
十一、反向代理(推荐)
你后面:
txt
ai.szr.hk
推荐 Nginx:
nginx
server {
server_name ai.szr.hk;
location / {
proxy_pass http://127.0.0.1:3080;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
}
}
十二、接 Ollama
如果 Ollama 在:
txt
192.168.112.20:11434
编辑:
txt
librechat.yaml
添加:
yaml
endpoints:
custom:
- name: "Ollama"
apiKey: "ollama"
baseURL: "http://192.168.112.20:11434/v1/"
models:
default:
- llama3
- qwen2.5
然后:
bash
docker compose restart
十三、后面你一定会做的
后续你大概率会加:
txt
Authentik
LiteLLM
Cloudflare Tunnel
Mongo Backup
OIDC
会员系统
所以:
txt
/opt/LibreChat
这种结构会比较标准。
十四、你的最终架构(推荐)
txt
ai.szr.hk
↓
LibreChat
↓
LiteLLM
↓
OpenAI / Claude / Gemini / Ollama
认证:
txt
auth.szr.hk
↓
OIDC
这样后面基本就是真正 AI SaaS 平台架构了。