十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Open WebUI自托管AI平台内网部署:3条命令跑通离线LLM聊天界面

Open WebUI自托管AI平台内网部署:3条命令跑通离线LLM聊天界面 Open WebUI自托管AI平台内网部署3条命令跑通离线LLM聊天界面【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webuiOpen WebUI 是一个自托管 AI 平台单个容器里打包了完整 Web 前端和 FastAPI 后端接上本地 Ollama 或任意 OpenAI 兼容 API即可在浏览器中使用聊天、私有知识库、代码解释器和多用户权限管理。所有数据落在自己机器的数据卷里不产生任何外发请求除你主动配置的搜索/外部 API。「适合已有 Ollama 或 OpenAI 兼容模型服务但缺一个能给团队用的 Web 界面的人」 「不适合只想单机命令行跑模型、不需要多用户和知识库管理——直接用 Ollama 自带界面即可」环境要求与最小部署命令门槛很低容器自带全部依赖CPU双核以上跑 7B 模型建议 4 核内存平台本身 2GB 够用跑模型另算7B Q4 约 5GB磁盘镜像约 2.5GB数据卷按知识库大小预留 10GB 起步系统Linux / macOS / WindowsDocker Desktop依赖Docker 20.10无其他系统级依赖# 执行说明一键启动自托管AI平台数据持久化到 open-webui 命名卷 docker run -d -p 3000:8080 --name open-webui --restart always \ --add-hosthost.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ ghcr.io/open-webui/open-webui:main执行成功的标志是浏览器打开 http://localhost:3000 出现注册页注册第一个账号即成为管理员。⚠️ GPU 环境改用ghcr.io/open-webui/open-webui:cuda镜像并加--gpus all宿主机需先装 nvidia-container-toolkit。 ⚠️ 纯内网镜像需提前在联网机器docker save后docker load导入拉取镜像是唯一的外网依赖。能力拆解Ollama 接入、私有知识库与多用户管理用 Ollama 模型接入聊天界面通过OLLAMA_BASE_URL把 11434 端口的 Ollama 接进来模型自动出现在顶部下拉框切换模型、调温度与最大 token 都在界面完成环境变量解析逻辑见backend/open_webui/config.py。跑一遍确认连通curl -s http://localhost:11434/api/tags能返回模型 JSON 列表且界面模型下拉不为空即打通。用文件上传搭私有知识库问答Knowledge 里上传 PDF、DOCX、TXT 或粘贴网页链接系统本地切分、向量化默认 sentence-transformers 嵌入模型聊天时勾选知识库即可带引用来源回答全部向量存于/app/backend/data实现见backend/open_webui/retrieval/。用 OpenAI 兼容 API 接入第三方模型商业模型或 vLLM、llama.cpp 等自托管推理服务在管理面板 Connections 里填 base URL 和 Key 即可与 Ollama 模型并存聊天时随意切换。用代码解释器与联网搜索辅助问答模型可在对话中发起 Python 执行浏览器内 Pyodide 沙箱或实时联网搜索两项在每次会话里单独开关内网可只开前者。用管理面板管多用户权限首个注册账号自动成为管理员用户、群组、模型级授权都在后台配置适合内网多人共用一套模型资源。三个必须固定的环境变量密钥、Ollama 地址、注册开关固定 WEBUI_SECRET_KEY改启动参数加-e WEBUI_SECRET_KEYopenssl rand -hex 32 的输出为什么不设的话每次容器重启都会生成新签名密钥所有登录态和会话 cookie 立即失效 验证docker restart open-webui后浏览器刷新不掉回登录页指定 OLLAMA_BASE_URL改-e OLLAMA_BASE_URLhttp://ollama所在主机IP:11434为什么默认只探测 localhost 和 host.docker.internalOllama 部署在别的机器上时永远连不上 验证重启容器后界面顶部模型下拉框出现 Ollama 模型列表关闭开放注册改-e ENABLE_SIGNUPfalse为什么默认任何能访问 3000 端口的人都能自注册账号拿到管理员之外的模型权限内网多人环境必须关掉、由管理员建号 验证刷新页面访问注册入口显示注册已禁用无法创建新账号高频故障速查端口冲突、模型列表为空、重启掉登录故障一页面打不开现象容器状态 running但浏览器访问 http://localhost:3000 提示连接被拒绝或显示的竟是别的服务页面。 定位ss -lntp | grep :3000确认 3000 是否已被其他进程占用。 修复换端口重建docker rm -f open-webui docker run -d -p 8080:8080 --name open-webui --restart always -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main故障二模型列表为空现象界面顶部模型下拉框空白日志出现 Ollama 连接超时。 定位docker exec open-webui printenv OLLAMA_BASE_URL为空或指向不可达地址即是原因。 修复按上面指定 OLLAMA_BASE_URL一节带正确地址重建容器几秒内模型列表刷新出来。故障三重启后全员掉线、旧会话 401现象docker restart后所有用户被迫重新登录且旧聊天接口返回 401。 定位docker exec open-webui printenv | grep WEBUI_SECRET_KEY无输出说明密钥没固定。 修复带固定WEBUI_SECRET_KEY重建容器命令同故障一追加-e WEBUI_SECRET_KEY...数据卷不动聊天记录不受影响。运维三件事数据卷备份、内网访问限制、磁盘检查数据丢失每日凌晨 2 点打包数据卷crontab 加一行0 2 * * * docker run --rm -v open-webui:/src -v /backup:/dst alpine tar -czf /dst/open-webui-$(date \%F).tar.gz -C /src .备份文件存到另一块盘。会被扫描3000 端口不要对公网放行防火墙只对内网网段开放ufw allow from 192.168.0.0/16 to any port 3000 proto tcp。撑爆磁盘docker system df查看 open-webui 卷增长docker system prune -f清掉悬空镜像与构建缓存不触碰命名卷。选型结论如果你的场景是内网多人团队要带知识库和权限管理的 LLM 界面选它如果只是单机快速体验本地模型用 Ollama 自带 Web UI。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表