十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

LunaTranslator 大模型翻译接口完全指南:通用接口参数、主流平台接入与专用离线翻译模型

LunaTranslator 大模型翻译接口完全指南:通用接口参数、主流平台接入与专用离线翻译模型 LunaTranslator 大模型翻译接口完全指南通用接口参数、主流平台接入与专用离线翻译模型【免费下载链接】LunaTranslator视觉小说翻译器 / Visual Novel Translator项目地址: https://gitcode.com/GitHub_Trending/lu/LunaTranslatorLunaTranslator 内置了面向各类大语言模型LLM的统一翻译接口既支持 OpenAI、Gemini、Claude、DeepSeek 等主流云平台也支持通过 OpenAI 兼容协议接入任意本地部署模型。本篇指南将完整讲解大模型通用接口的每一项参数及其底层实现梳理欧美与中国主流大模型平台的接入要点并介绍专为 SakuraLLM、Hy-MT2 等离线翻译模型设计的专用接口帮助你在视觉小说 / Galgame 翻译场景中快速配置出高质量的 AI 翻译链路。大模型通用接口大模型通用接口是 LunaTranslator 接入几乎所有大模型平台的入口。它基于 OpenAI 兼容的 Chat Completions 协议设计并针对 Gemini、Claude、Azure、百度千帆、阿里云等平台的差异做了自动适配因此在绝大多数场景下只需填写「API 接口地址 API Key model」即可完成配置。同时使用多个大模型接口如果你只是拥有多个不同的 API Key 想要轮询切换无需复制接口直接在API Key一栏中用|符号分割即可例如sk-key1|sk-key2|sk-key3但如果你希望同时使用多组不同的api 接口地址 / prompt / model / 参数来对比翻译效果则需要复制接口操作步骤为点击接口列表上方的按钮选择「大模型通用接口」在弹出的窗口中为复制出的新接口取一个名字此时会复制一份当前通用接口的设置与 API 配置激活复制出的接口并单独修改其参数。复制出的接口可以与原接口同时运行从而以多套不同配置并行翻译、对比结果。参数说明API 接口地址大部分常见大模型平台的API 接口地址可直接在下拉列表中选取但列表可能存在遗漏。对于未列出的平台请自行查阅平台文档填写。从源码看utils.py 中的APIType类程序会根据地址自动识别接口类型以generativelanguage.googleapis.com结尾或匹配/v1beta的地址按 Gemini 协议处理https://api.anthropic.com/v1/messages按 Claude 协议处理包含openai.azure.com/openai/deployments/的地址按 Azure 协议处理qianfan.baidubce.com/v2对应百度千帆dashscope.aliyuncs.com/compatible-mode对应阿里云百炼其余地址默认走 OpenAI 兼容协议。finalurl()还会自动为未以/chat/completions结尾的地址补全该路径省去了手动拼接的麻烦。API KeyAPI Key在对应平台的控制台获取。当填入多个 Key以|分隔时系统会自动轮询使用并根据错误反馈动态调整各 Key 的优先级。底层实现在 commonbase.py 中每次请求前按顺序轮换 Key一旦某个 Key 发生错误其apikey_error_cnt计数增加同时apikey_skip_round累加一个与错误次数成正比的「跳过轮数」出错越多的 Key 被暂时跳过的概率越大从而实现自动降权、保护可用 Key 的效果。model大多数平台在填写好API 接口地址与API Key后点击model输入框旁的刷新按钮即可自动拉取可用模型列表。模型列表的获取逻辑位于common_list_models()utils.pyOpenAI 兼容平台请求GET {base}/modelsGemini 请求{base}/v1beta/models并过滤出支持generateContent的模型Cohere、Claude 也有各自的专用拉取函数。如果平台不支持模型列表接口返回 404或默认列表中找不到你需要的模型请参照平台官方 API 文档手动填写模型名。流式输出开启后模型输出将以流式增量逐段显示关闭则等待模型完整生成后一次性显示全部内容。源码中流式输出对应请求体中的streamtrue见common_create_gpt_data()流式响应由parsestreamresp()gptcommon.py解析其中针对 Gemini、Claude 及阿里云 qwen-mt 系列分别实现了专用的增量解析器兼容data:前缀与[DONE]结束标记。附带上下文个数系统会把若干条历史原文与译文拼接到请求中提供给大模型以优化前后文的翻译一致性设置为0则禁用该优化。该值在 gptcommon.py 的__replace_history与commoncreatemessages中被引用_context中保存了最近翻译的 user/assistant 消息对_gpt_common_parse_context会按时间倒序取出最近 N 组原文与译文插入到当前请求的 messages 中。自定义 system prompt / 自定义 user message / prefill这是几种控制模型输出的手段按喜好配置或保持默认即可。三种方式在 basetranslator.py 中分别对应_gptlike_createsys、_gptlike_get_user_prompt与_gptlike_create_prefill自定义 system prompt默认值为You are a translator. Please help me translate the following {srclang} text into {tgtlang}. You should only tell me the translation result without any additional explanations.自定义 user message默认值为{DictWithPrompt[When translating, please ensure to translate the specified nouns into the translations I have designated: ]}\n{sentence}若自定义文本中没有{sentence}程序会自动在末尾补上prefill可预先填入 assistant 角色的起始回复引导模型按指定格式作答例如直接以译文开头、跳过解释。自定义 system prompt 与 user message 中支持引用以下字段{sentence}当前欲翻译的文本{srclang}与{tgtlang}源语言和目标语言。若 prompt 中只使用英文则替换为语言名称的英文否则替换为当前界面语言下的语言名称翻译{contextOriginal[N]}、{contextTranslation[N]}、{contextBoth[N]}分别引用 N 条历史原文、历史译文、以及原文译文。若写成{contextBoth[N]}N 为字面量 N则使用「附带上下文个数」的设定值若写成{contextBoth[10]}则固定使用 10 条{DictWithPrompt[XXXXX]}引用「专有名词翻译」词条。当没有匹配到的词条时该字段会被整体清除避免破坏翻译内容XXXXX是一段引导 LLM 使用给定词条优化翻译的 prompt可自行定义或关闭自定义 user message 使用默认引导语。该字段的解析逻辑位于 gptcommon.py__parsecontextN()用正则替换{context...}系列字段__if_has_dwp()负责将命中的专有名词词条含可选的#备注信息以原文-译文的格式展开进 prompt并在词条为空时清空对应段落。Temperature / max tokens / top p / frequency penaltyTemperature控制随机性默认 0接近确定性输出可通过开关选择是否随请求发送max tokens限制最大生成长度默认 1024部分平台已弃用该参数并改用max completion tokens此时打开「使用 max completion tokens」开关即可切换请求字段use_max_completion_tokenstop p核采样默认 0.3可关闭frequency penalty频率惩罚默认 0 且默认不发送。对于部分平台的部分模型top p、frequency penalty可能不被接口接受此时只需关闭对应参数的开关即可让请求体不携带该字段从而避免 4xx 报错。具体的请求体拼装逻辑见 utils.py 的common_create_gpt_data()。reasoning effort部分平台支持的「思考强度」控制。对 Gemini 平台会自动映射为 Gemini 的thinkingBudget见common_create_gemini_request()映射规则为reasoning effortthinkingBudget含义none / minimal0停用思考不适用于 Gemini-2.5-Pro 模型low512低强度思考medium-1开启动态思维high / xhigh24576高强度思考thinking.type部分平台主要是 DeepSeek支持的思考模式开关可选项为disabled/enabled。开启后请求体中将携带thinking: {type: ...}字段utils.py。其他参数以上只是常用参数。如果使用的平台提供了其他未列出的有用参数可在「其他参数」中自行以键值对形式添加例如自定义repetition_penalty等。这些自定义参数最终会通过extrabody合并进请求体data.update(extrabody)同时也可通过自定义请求头实现额外的鉴权或网关需求。常见的大模型平台欧美的大模型平台以下平台均可在 LunaTranslator 大模型通用接口中直接使用API Key 在对应平台的控制台 / API Keys 页面生成OpenAI在其平台 API Keys 页面创建密钥Gemini在 Google AI Studio 的 API Key 页面创建密钥Nvidia在 Nvidia Build 平台获取密钥Claude在 Anthropic Console 创建密钥模型列表参照官方 Models 文档Cohere在 Cohere Dashboard 的 API Keys 页面创建x.ai在 xAI Console 创建密钥Groq在 Groq Console 的 Keys 页面创建OpenRouter在 OpenRouter Settings 的 Keys 页面创建可通过单一 Key 中转访问多种模型Mistral AI在 Mistral Console 的 API Keys 页面创建AzureAPI 接口地址格式为https://{endpoint}.openai.azure.com/openai/deployments/{deployName}/chat/completions?api-version2023-12-01-preview将{endpoint}与{deployName}替换为你的 Azure 资源与部署名即可程序会自动识别 azure 协议并在请求头使用api-keyCerebras在 Cerebras Cloud 的 API Keys 页面创建。中国的大模型平台DeepSeek在 DeepSeek 开放平台创建 API Key小米 MiMo在小米 MiMo 平台控制台创建 API Key阿里云百炼在百炼控制台 API-KEY 页面创建模型清单参照阿里云 Model Studio 官方文档字节跳动火山引擎在火山引擎方舟控制台创建 API Key模型参照方舟官方文档月之暗面Moonshot在 Moonshot 开放平台创建 API Key智谱 AI在智谱开放平台创建 API Key讯飞星火大模型参照官方文档获取APIKey与APISecret后按APIKey:APISecret的格式填入API Key一栏模型参照星火 HTTP 调用文档腾讯混元大模型API Key 参照腾讯云官方文档获取模型列表参照混元大模型文档百度千帆大模型API Key 获取方式见下方警告模型列表参照千帆 ModelBuilder 官方文档MiniMax在 MiniMax 开放平台获取 API Key。[!WARNING]百度千帆大模型的API Key请使用百度智能云 IAM 的 Access Key、Secret Key 来生成接口所需的 BearerToken 后填入或者按Access Key:Secret Key的格式直接将两者一起填入API Key中。注意这不是千帆 ModelBuilder 旧版 v1 接口的 API Key / Secret Key两者不能通用。源码中 gptcommon.py 的qianfanIAM类实现了完整的 BCE 签名流程当检测到千帆地址且 Key 中包含:时会自动拆出 AK/SK请求 IAM 的https://iam.bj.baidubce.com/v1/BCE-BEARER/token换取 BearerToken 作为请求头使用。API 聚合管理器除了直接对接单一平台也可以使用 new-api 等 API 中继 / 聚合工具将多个大模型平台的模型与多个密钥统一管理后以单一 OpenAI 兼容地址接入 LunaTranslator从而更方便地切换模型、共享密钥和配额。这类工具的接入方法与上述通用接口完全一致把聚合服务提供的地址填入API 接口地址填入聚合服务生成的 Key即可在 model 列表中看到所有已聚合的模型。特定离线翻译模型除通用接口外LunaTranslator 还提供了一类专门面向「离线翻译大模型」的专用接口。这类模型专为离线翻译设计或针对特定场景做了微调大多数模型部署好后直接用大模型通用接口即可调用但部分模型需要专用 prompt 格式才能发挥最佳翻译效果。该专用接口正是为这类需要专用 prompt 格式的模型而生因此它不提供用户自定义 prompt 的设置而是使用模型发布者提供的专用 prompt 格式。从 sakura_base.py 的实现看接口内部按prompt_version分发不同的消息构造逻辑SakuraLLM v0.9 / v0.10 / v1.0 / v1.5与GalTransl各有一套专用的 system user 消息模板Hy-MT2使用腾讯的专用 prompt并支持auto模式走默认翻译 prompt以及自动探测模型类型。翻译时还会按需携带历史上下文与专有名词词条保证角色名、物品名等术语的一致性。目前该专用接口支持以下模型作者模型语言tencentHy-MT2通用SakuraLLMSakuraLLM GalTransl日语 - 中文使用方式先在本地或通过 llama.cpp 等推理框架完成模型部署得到 OpenAI 兼容的本地 API 地址然后在 LunaTranslator 中选择该专用接口并填入本地地址即可部署方法可参考模型发布者提供的文档。小结LunaTranslator 的大模型翻译能力由「通用接口 专用模型接口」两层构成通用接口以 OpenAI 兼容协议为骨架通过APIType自动识别并适配 Gemini、Claude、Azure、百度千帆、阿里云等平台的协议差异配合流式输出、多 Key 加权轮询、上下文注入、专有名词词条引导等机制可覆盖绝大多数云平台与本地部署模型专用接口则针对 SakuraLLM、Hy-MT2 等微调模型内置了发布者专用 prompt开箱即用。相关实现可继续查阅 gptcommon.py、utils.py、basetranslator.py 与默认配置 translatorsetting.json含全部参数的默认值与取值范围。结合文档 docs/zh/guochandamoxing.md 可获取各平台的最新接入地址与模型清单。【免费下载链接】LunaTranslator视觉小说翻译器 / Visual Novel Translator项目地址: https://gitcode.com/GitHub_Trending/lu/LunaTranslator创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表