十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

3 步跑起自托管 AI 对话平台:Open WebUI 离线部署新手实操

3 步跑起自托管 AI 对话平台:Open WebUI 离线部署新手实操 3 步跑起自托管 AI 对话平台Open WebUI 离线部署新手实操【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui使用云端 AI 服务时对话内容会发送到别人的服务器数据流向难以控制。Open WebUI 是一个可完全离线运行的自托管 AI 对话平台对话数据只存你自己的机器可连接 Ollama 本地模型或任意 OpenAI 兼容 API。它把界面、账号体系、知识库和权限管理打包在一起个人可以离线跑本地模型小团队可以按用户组分配不同模型的访问权限文档问答通过内置知识库完成。动手前的环境准备项目要求说明Docker已安装并启动推荐部署方式Ollama 同机可用 docker-compose 一并拉起端口 3000空闲容器默认对外端口WebUI 容器内监听 8080端口 11434空闲Ollama 服务端口磁盘空间约 10 GB 起镜像与首个模型7B 级的占用参考值Python 3.11仅源码/本地部署需要走 backend/dev.sh 时固定要求该版本3 步部署 Open WebUI 和 Ollama第 1 步克隆仓库。git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui第 2 步启动服务。docker-compose up -ddocker-compose.yaml 会同时拉起 ollama 与 open-webui 两个容器并创建持久化数据卷。第 3 步确认服务就绪。docker logs open-webui --tail 20预期结果日志中出现 uvicorn 启动信息无报错即表示 WebUI 已在 3000 端口对外提供服务。完成第一次接入从注册到第一条消息浏览器打开http://localhost:3000注册账号第一个注册的账号自动成为管理员。进入 Ollama 页面输入ollama pull llama3.2拉取一个本地模型等待拉取完成。进入 Admin 设置页确认 Ollama Base URL 为http://ollama:11434compose 默认已配置好。回到聊天界面模型选择器选中刚才拉取的模型发送你好看到流式返回的回复即表示整条链路打通。三个实用场景场景一用本地文档回答业务问题。背景需要基于公司内部资料问答且资料不出内网。操作上传 PDF/Markdown 到知识库并完成切片索引 → 新建对话在模型选择器旁选中该知识库 → 提问。效果回答基于文档内容生成可回溯引用来源整个检索过程在本地完成。场景二接入已有的 OpenAI 兼容 API。背景已有一台推理服务器vLLM、LMStudio 均可不想在本地跑模型。操作Admin 设置 → Connections 添加连接填 API 地址与密钥 → 保存 → 聊天界面切换模型。效果Open WebUI 直接作为该推理端点的统一入口多人共用同一套界面和账号体系。场景三重装系统前备份数据。背景机器要重装或迁移历史对话不能丢。操作查看 docker-compose.yaml 中open-webui:/app/backend/data卷挂载 →docker run --rm -v open-webui:/data alpine tar czf - -C /data . webui-data.tar.gz导出卷内容 → 重装后把该目录重新挂回。效果数据库、文件、知识库随卷一起迁移。⚠️ 排错速查现象处理方式浏览器打开 3000 端口被拒绝或 404本地已有其他服务占用改OPEN_WEBUI_PORT环境变量后重启容器Ollama 页面无模型、容器日志报连接失败容器内访问不到宿主机 Ollama给容器加--networkhost或确认 compose 中OLLAMA_BASE_URL指向正确模型列表为空先用ollama list确认宿主机已拉取模型再刷新页面离线部署启动后功能异常设置HF_HUB_OFFLINE1阻止尝试联网下载嵌入模型升级容器后历史对话丢失检查启动命令是否包含-v open-webui:/app/backend/data卷挂载资源与适用对象这套部署方式适合需要数据留本地、想给多人共用一个 AI 入口的个人与小团队。进一步配置见仓库 README.md 安装与故障排查章节服务启动逻辑见 backend/dev.sh运行时参数见 backend/open_webui/config.py。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表