十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

DB-GPT 怎么用 dbgpt profile 命令管理并切换多个 LLM 服务商配置

DB-GPT 怎么用 dbgpt profile 命令管理并切换多个 LLM 服务商配置 DB-GPT 怎么用 dbgpt profile 命令管理并切换多个 LLM 服务商配置【免费下载链接】DB-GPTopen-source agentic AI data assistant for the next generation of AI Data products.项目地址: https://gitcode.com/GitHub_Trending/db/DB-GPTDB-GPT 通过 CLI 的dbgpt profile命令管理多份 LLM 服务商配置。每个 profile 对应~/.dbgpt/configs/目录下的一个 TOML 文件里面记录服务商的 API key、模型名和 API 地址。当你同时有 OpenAI、KimiMoonshot、Qwen 等多家服务商的 key 时可以为每家各建一个 profile用一条switch命令切换默认服务商而不必每次手动改配置文件。完成本文后你可以创建多个服务商 profile、查看某份配置的内容、切换默认 profile并用指定 profile 启动 Web 服务。前提条件dbgpt profile属于dbgpt命令行的一部分。先安装 DB-GPT要求 Python 3.10 或更高版本包管理器推荐 uvpip 也可以# 推荐使用 uv uv pip install dbgpt-app # 或者用 pip pip install dbgpt-app安装完成后终端中会出现dbgpt命令。如果下载慢可以加 PyPI 镜像源例如uv pip install dbgpt-app --index-url https://pypi.tuna.tsinghua.edu.cn/simple这是可选的不影响 profile 功能本身。默认安装已包含 OpenAI 兼容接口可用于 Kimi、Qwen、MiniMax、Z.AI和 DashScope/通义的支持不需要额外加 extras。理解 profile 的存储位置首次运行后DB-GPT 会在用户主目录下创建如下结构见 cli-quickstart~/.dbgpt/ ├── config.toml # 记录当前 active profile 名称 ├── configs/ │ ├── openai.toml # Profile: OpenAI │ ├── kimi.toml # Profile: Kimi │ └── ... # 每个 profile 一个文件 └── workspace/ └── pilot/ # 运行时工作区数据库、数据文件等也就是说configs/下每个 TOML 文件就是一个 profileconfig.toml里记录哪一个 profile 是当前默认。启动时配置的解析顺序是--config参数指定的文件--profile参数指定的 profile查找~/.dbgpt/configs/profile.toml当前 active profile读自~/.dbgpt/config.toml如果以上都没有启动交互式配置向导。理解这条顺序就能解释为什么dbgpt start有时用 A 服务商、有时用 B 服务商——它取决于 active profile 和启动参数。创建一个服务商 profiledbgpt profile create name会启动配置向导与dbgpt setup相同的交互流程向导依次询问选择服务商、输入 API key、确认模型名和 API base URL。dbgpt profile create qwen向导和--profile参数支持的内置服务商如下Profile 名称显示名称LLM 模型Embedding 模型API Key 环境变量openaiOpenAIgpt-4otext-embedding-3-smallOPENAI_API_KEYkimiKimikimi-k2text-embedding-v3MOONSHOT_API_KEYembedding 另需DASHSCOPE_API_KEYqwenQwenqwen-plustext-embedding-v3DASHSCOPE_API_KEYminimaxMiniMaxabab6.5s-chatembo-01MINIMAX_API_KEYglmZ.AIglm-4-plusembedding-3ZHIPUAI_API_KEYcustomCustomgpt-4otext-embedding-3-smallOPENAI_API_KEY两点说明kimiprofile 的 LLM key 和 embedding key 来自两个不同的环境变量向导会分别询问见 _wizard.py 的说明。customprofile 用于连接任意 OpenAI 兼容接口文档示例Azure OpenAI、本地 vLLM向导会要求输入 API base URL如http://localhost:8000/v1、API key 和模型名。如果想在非交互环境CI/CD里创建可以用dbgpt setup的--yes模式代替向导例如export MOONSHOT_API_KEYsk-xxx dbgpt setup --profile kimi --yescreate同样适用于重新配置对已存在的 profile 再跑一次向导会覆盖原配置文档中改 API key 的推荐做法就是对同一 profile 重跑 setup 向导。查看和列出 profile创建完成后用show查看某个 profile 的完整 TOML 内容dbgpt profile show openai如果 profile 不存在命令会报错并提示先运行dbgpt profile create name。列出所有 profile当前 active 的会带*标记文档示例输出dbgpt profile list # openai ← 无星号 # * kimi ← 当前 active如果还没有配置过任何 profilelist会提示No profiles configured. Run: dbgpt setup。另外dbgpt setup --show会显示当前 active profile 名称和配置文件路径适合快速确认现在默认用的是哪份配置。切换 active profile 并启动确认要切换到哪个 profile 后执行switchdbgpt profile switch openaiswitch只修改~/.dbgpt/config.toml中记录的默认 profile 名不会改动各 profile 的 TOML 文件内容。切换成功后会输出见 _profile_cmd.pySwitched active profile to: openai如果传入的 profile 不存在命令会提示Error: Profile ... not found. Run: dbgpt profile create name并以退出码 1 结束不会切换。之后启动服务时# 使用当前 active profile dbgpt start # 或者临时指定 profile不改动 active 设置 dbgpt start web --profile kimi--profile只影响本次启动见上面配置解析顺序第 2 条适合想临时试一个服务商而不改变默认的情况。不带参数直接dbgpt start等价于dbgpt start web。启动成功的判断终端会打印启动横幅文档示例其中列出本次使用的 Profile 名和 Config 文件路径 DB-GPT Quick Start - - - - - - - - - - - - - - - - - - - - - - - - - - - - : Profile: openai : : Config: /Users/you/.dbgpt/configs/openai.toml: : Workspace: /Users/you/.dbgpt/workspace : - - - - - - - - - - - - - - - - - - - - - - - - - - - - /Users/you/...是文档中的示例路径你的机器上会是实际的 home 目录。横幅里的 Profile 和 Config 两项可以直接用来核对确认服务确实按你预期的 profile 启动。然后浏览器打开 http://localhost:5670 即可使用 Web 界面。切换服务商的完整主路径总结dbgpt profile create kimi # 向导创建 Kimi profile dbgpt profile switch kimi # 设为默认 dbgpt start # 用新 profile 启动删除 profiledbgpt profile delete minimax dbgpt profile delete minimax --yes # 跳过确认delete的副作用是直接从磁盘删除~/.dbgpt/configs/name.toml文件且不会自动备份执行前确认该配置不再需要。默认会先弹确认提示加--yes跳过。一个需要注意的行为删除的如果是当前 active profileconfig.toml里的默认记录会被清空之后dbgpt start走不到有效 profile 时会重新进入配置向导。删除后建议再跑一次dbgpt profile list确认状态。常见问题报 No config file found说明还没有配置过任何 profile运行dbgpt setup进向导配置一份。端口 5670 被占用先dbgpt stop webserver --port 5670停掉已有服务或者修改对应配置文件的[service.web]里port 5671换端口。换 API key对同一 profile 重跑dbgpt setup --profile openai向导覆盖配置或直接编辑~/.dbgpt/configs/openai.toml。更多命令细节dbgpt start的全部参数、--daemon后台运行、CI 部署示例、自定义端点配置可参考 CLI Quick Startprofile 子命令的实现在 packages/dbgpt-core/src/dbgpt/cli/_profile_cmd.py。【免费下载链接】DB-GPTopen-source agentic AI data assistant for the next generation of AI Data products.项目地址: https://gitcode.com/GitHub_Trending/db/DB-GPT创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表