十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

【零基础入门 LLM 开发 · Day 2】:查看可用模型列表——先问服务端“你有什么“

【零基础入门 LLM 开发 · Day 2】:查看可用模型列表——先问服务端“你有什么“ Day 2查看可用模型列表——先问服务端你有什么为什么需要这个技巧昨天的踩坑点里说过模型名写错会报404 model not found。与其瞎猜不如直接问服务端“你这儿都有哪些模型可以用”这就像去餐厅先看菜单而不是对着空气点菜。完整代码只有 10 行核心代码importosfromdotenvimportload_dotenvfromopenaiimportOpenAI load_dotenv()clientOpenAI(api_keyos.getenv(YUMC_MODEL_API_KEY),base_urlos.getenv(YUMC_MODEL_BASE_URL),)# 请求获取所有可用模型respclient.models.list()formodelinresp:print(f模型ID:{model.id})逐段拆解client.models.list()这是 SDK 专门提供的查菜单接口不需要传模型名因为你就是在问有哪些模型嘛。它返回的是一个可迭代的模型列表。model.id列表里每个元素是一个模型对象最有用的字段就是id——这就是你以后填给model参数的值。运行效果模型ID: yumcode-pro 模型ID: bge-m3 模型ID: ...小知识像bge-m3这种不带 chat 字样的一般是Embedding 模型把文字转向量用的Day 7 会专门讲它。今日踩坑点返回列表是空的说明base_url或密钥不对服务端没给你开放任何模型。菜单上有 ≠ 能随便用有些服务商会列出很多模型但你的账号只开通了部分权限还是要实际调用验证。模型列表 ≠ 模型能力列表不会告诉你哪个擅长写代码、哪个便宜。这需要看服务商文档。今日小练习跑一遍代码把所有模型 ID 记下来挑一个明天用。进阶把结果存到一个列表里并打印总共有多少个模型可用model_ids[m.idforminresp]print(f共{len(model_ids)}个模型{model_ids})明日预告Day 3AI 回复了但响应对象里还藏着 Token 用量等信息——看懂它你就知道每一句话花多少钱了。附录完整练习代码model.pyimportosfromdotenvimportload_dotenvfromopenaiimportOpenAI load_dotenv()clientOpenAI(api_keyos.getenv(YUMC_MODEL_API_KEY),base_urlos.getenv(YUMC_MODEL_BASE_URL),)# 请求获取所有可用模型respclient.models.list()# resp 是一个包含多个模型对象的列表print(type(resp))# class openai.types.model.Model 的列表包装器formodelinresp:print(f模型ID:{model.id})
返回列表