十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

如何用 Qwen3-Coder 与 Milvus 在 ai-engineering-hub 跑通代码问答应用?

如何用 Qwen3-Coder 与 Milvus 在 ai-engineering-hub 跑通代码问答应用? 如何用 Qwen3-Coder 与 Milvus 在 ai-engineering-hub 跑通代码问答应用【免费下载链接】ai-engineering-hubIn-depth tutorials on LLMs, RAGs and real-world AI agent applications.项目地址: https://gitcode.com/GitHub_Trending/ai/ai-engineering-hub这篇文章的目标是在 ai-engineering-hub 仓库中从零跑通chat-with-code代码问答应用把 Milvus 向量数据库装到本地安装 Python 依赖启动 Streamlit 应用加载一个 GitHub 仓库然后对仓库代码提问并拿到经过校验的回答。应用通过 OpenRouter 调用 Qwen3-Coder 模型生成答案用 HuggingFace 的BAAI/bge-base-en-v1.5生成向量并用 Cleanlab Codex 对回答做可信度校验。应用代码在 chat-with-code/app.py操作依据来自 chat-with-code/README.md。准备条件环境与前置检查项目 chat-with-code/pyproject.toml 声明的运行约束Python3.12使用uv管理依赖项目自带uv.lockREADME 给出的安装命令就是uv sync关键依赖llama-index0.12.52及其 OpenRouter、Milvus、HuggingFace Embedding 子包pymilvus2.5.14、streamlit1.47.0、cleanlab-codex1.0.25开始前还需要准备DockerMilvus 以 Docker 容器方式安装启动两个 API KeyOpenRouter Key调用 Qwen3-Coder和 Cleanlab Codex Key校验回答应用侧边栏内提供了各自的获取入口链接应用启动前先在侧边栏填写git可执行文件点击 Load 后应用会克隆目标仓库到本地。第一步启动 Milvus 向量数据库README 给出了官方安装脚本先下载再启动。注意这两条命令的副作用第一条从网络下载 Milvus 的standalone_embed.sh脚本第二条会在本机用 Docker 启动 Milvus 容器因此需要 Docker 已安装并在运行。curl -sfL https://raw.githubusercontent.com/milvus-io/milvus/master/scripts/standalone_embed.sh -o standalone_embed.sh bash standalone_embed.sh start应用侧的连接目标是http://localhost:19530见 app.py 中create_index函数它创建dim768、overwriteTrue的 Milvus 集合所以 standalone 服务需要在本机 19530 端口可用。第二步安装依赖并启动应用在chat-with-code目录下同步依赖uv sync然后启动 Streamlit 应用streamlit run app.py在浏览器打开http://localhost:8501即可访问应用README 给出的访问地址。首次使用加载仓库并提问在页面左侧边栏依次填写Codex API Key密码输入框OpenRouter API Key密码输入框GitHub Repository URL要提问的仓库地址。点击Load后应用依次执行对应 app.py 中process_button分支用 Codex Key 初始化 Cleanlab Codex 项目项目名Chat-with-Code并创建一个 access key把仓库克隆到应用当前工作目录若目录已存在则直接读取不再克隆按文件类型切分.md用 Markdown 解析器.py、.ipynb按 Python 解析.js按 JavaScript 解析.ts按 TypeScript 解析将向量索引用BAAI/bge-base-en-v1.5的嵌入写入 Milvus以qwen/qwen3-coder:free作为 LLMmax_tokens1024用similarity_top_k4和流式输出构建查询引擎。加载完成后在页面下方的输入框提问。每个回答以流式方式输出答案下方显示Trust Score并带一个状态标记逻辑见 chat-with-code/validation.py分数 ≥ 0.8绿色标记分数 0.5 到 0.8黄色标记分数 0.5红色标记。Codex 校验结果会决定最终展示的内容如果答案被升级给专家且存在expert_answer展示专家答案如果触发 guardrail展示固定回退语 Im sorry, I couldnt find an answer for that — can I help with something else?否则展示 RAG 的原始回答。如何确认跑通按 README 与代码中的提示判断Load 成功后侧边栏显示Data loaded successfully!!页面显示Ready to Chat!提问后收到流式回答且回答下方出现 Trust Score各类报错信息的含义均来自 app.py 的实际输出Please provide OpenRouter API Key/Please provide Codex API Key对应 Key 未填Invalid owner or repository仓库 URL 格式不符合 GitHub 仓库地址Error occurred while cloning the repository, carefully check the url克隆失败需要检查 URLNo data found, check if the repository is not empty!仓库中没有被支持的代码或文档文件。可选路径改用 notebook 跑同一流程chat-with-code/notebook.ipynb 提供与 Streamlit 应用相同的流水线适合在 Jupyter 中逐步执行。使用前需要替换两处占位符“Codex Client Setup” 单元格把os.environ[CODEX_API_KEY]的值替换为你的 Codex KeyLLM 配置单元格把your_openrouter_api_key_here替换为你的 OpenRouter Key模型名保持qwen/qwen3-coder:free。notebook 中示例查询使用的仓库地址和输出文本例如关于 Model 名称的回答、各项 validation score都是文档示例你的仓库不同输出不会与示例一致。已知限制只索引.md、.py、.ipynb、.js、.ts五类文件其他文件类型不会被加载LLM 固定为qwen/qwen3-coder:free嵌入模型固定为BAAI/bge-base-en-v1.5768 维与 Milvus 集合维度对应每次 Load 都会新建一个集合集合名为chat_with_docs_加随机十六进制后缀代码中overwriteTrue如果 Milvus 索引创建失败app.py 会走except分支回退到内存版VectorStoreIndex——此时仍可查询但没有用到 Milvus若你确认目标是向量库路径应回到 Milvus 服务状态上排查仓库会被克隆到应用运行目录多次 Load 不同仓库会留下多个目录属于预期行为。验证方式与上述提示一致看到Data loaded successfully!!与Ready to Chat!、能收到带 Trust Score 的流式回答即表示该应用已从安装走到首次可用。【免费下载链接】ai-engineering-hubIn-depth tutorials on LLMs, RAGs and real-world AI agent applications.项目地址: https://gitcode.com/GitHub_Trending/ai/ai-engineering-hub创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表