十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

LunaTranslator 大模型翻译接口使用指南:通用接口配置、主流平台接入与专用离线翻译模型

LunaTranslator 大模型翻译接口使用指南:通用接口配置、主流平台接入与专用离线翻译模型 LunaTranslator 大模型翻译接口使用指南通用接口配置、主流平台接入与专用离线翻译模型【免费下载链接】LunaTranslator视觉小说翻译器 / Visual Novel Translator项目地址: https://gitcode.com/GitHub_Trending/lu/LunaTranslator本篇技术指南围绕 LunaTranslator 的大模型翻译接口展开先讲解面向任意 OpenAI 兼容平台与 Gemini/Claude 等平台的大模型通用接口的全部参数API 地址、多 Key 轮询、自定义 prompt 占位符、思考强度等再给出欧美与中国主流平台的接入要点最后说明针对 SakuraLLM、Hy-MT2 等专用离线翻译模型的内置接口设计。读完你可以独立完成从平台取 Key、配置接口、调优 prompt 到接入本地离线模型的完整翻译链路。大模型通用接口把任意大模型接入视觉小说翻译LunaTranslator 把以对话补全chat/completions方式调用大模型的能力抽象为一个统一接口。该接口由 translator/chatgpt-3rd-party.py 声明实际逻辑全部继承自 translator/gptcommon.py 中的gptcommon基类它负责按 API 类型组装请求体、发送流式/非流式请求、解析 Gemini/Claude/OpenAI 风格响应并管理翻译历史上下文。因此只要你的模型服务提供 HTTP API无论云平台还是本地部署的 llama.cpp / Ollama 等都可以通过该接口接入。同时运行多个大模型接口日常使用中如果只是有多个不同的API Key想要轮询使用直接在 Key 输入框中用|分隔即可程序会自动轮询并按错误反馈调整各 Key 的权重对应实现见 gptcommon.py 中的multiapikeycurrent逻辑。但当你希望同时使用多个不同的 API 地址 / prompt / model / 参数来对比翻译效果时可以复制出多个独立接口实例点击接口列表上方的按钮选择大模型通用接口弹出的窗口会要求为该副本命名随后它会复制当前通用接口的全部设置与 API 配置激活这个副本并单独调整参数。副本可与原接口并行运行从而用多套不同配置同时翻译同一文本便于 A/B 对比翻译质量。从配置结构看每个翻译接口都对应 defaultconfig/translatorsetting.json 中的独立配置项chatgpt-3rd-party、sakura等复制接口本质上是生成一份独立参数集互不干扰。核心参数逐项说明以下参数均可在通用接口设置页中调整其默认值与取值范围可在 translatorsetting.json 的chatgpt-3rd-party.args中找到依据。API接口地址大部分常见大模型平台的API接口地址已内置在下拉列表中但可能有遗漏。对于未列出的接口请查阅对应平台文档后手动填写完整地址。程序会根据地址自动识别接口类型见 myutils/utils.py 的APIType以generativelanguage.googleapis.com开头或匹配/v1beta的地址识别为Geminihttps://api.anthropic.com/v1/messages识别为Claude包含openai.azure.com/openai/deployments/识别为Azure包含qianfan.baidubce.com/v2识别为百度千帆https://dashscope.aliyuncs.com/compatible-mode识别为阿里云百炼其余一律按OpenAI 兼容协议处理会自动在地址后拼接/chat/completions。这也是一个接口通吃几乎所有平台的原理。API KeyKey 在各平台控制台获取。可同时填入多个 Key用|分隔程序自动轮询并根据请求的错误反馈动态调整每个 Key 的使用权重。Key 字段在界面中标记为issecret: true输入会被掩码保护。model多数平台在填好API接口地址和API Key后点击model旁的刷新按钮即可拉取可用模型列表。拉取逻辑见 gptcommon.py 的list_models与 utils.py 的common_list_models——Cohere、Gemini、Claude 分别调用各自的模型列表 API其余平台请求{地址}/models接口若接口返回 404平台不支持模型列表 API程序会明确提示请检查API接口地址或手动填写模型名。此时参照官方文档在输入框直接手填模型名即可。流式输出开启后模型输出会以流式增量逐字显示关闭则等待模型完整生成后一次性显示全部内容。该开关同时决定请求体是否携带stream: true并选择不同的响应解析路径见 utils.py 与 gptcommon.py 的parsestreamresp。流式响应解析对 OpenAI 风格SSEdata:行、Geminitext: ...片段和 Claudecontent_block_delta事件分别处理。附带上下文个数设置会附带多少条历史原文 译文作为多轮对话上下文发送给大模型帮助其保持翻译连贯设为 0 即禁用。程序内部维护翻译历史_context按最近的译文、原文顺序提取最近 N 轮见 basetranslator.py 的_gpt_common_parse_context。自定义 system prompt / 自定义 user message / prefill三种控制输出内容的手段按需自定义或使用默认值。其中 system prompt 与 user message 支持以下占位符解析实现见 gptcommon.py{sentence}当前欲翻译的文本{srclang}/{tgtlang}源语言与目标语言名称。若 prompt 中只使用英文则替换为语言的英文名否则替换为当前 UI 语言下的语言名翻译由smartparselangprompt处理{contextOriginal[N]}、{contextTranslation[N]}、{contextBoth[N]}分别引用 N 条历史原文、历史译文、两者。若写{contextBoth[N]}引用的是附带上下文个数的设定值若写{contextBoth[10]}则直接用数字 10 作为条数{DictWithPrompt[XXXXX]}引用专有名词翻译词条GptDict。其中XXXXX是一段引导 LLM 使用给定词条优化翻译的 prompt可自行定义也可关闭自定义 user message来使用内置默认引导语。当没有任何匹配词条时该字段会被自动清除避免破坏翻译内容见 gptcommon.py 的__if_has_dwp。另外自定义 system prompt的默认模板与自定义 user message的默认模板定义在 basetranslator.pysystem 默认为You are a translator. Please help me translate the following {srclang} text into {tgtlang}...user 默认为{DictWithPrompt[...]}\n{sentence}。prefill 则允许你预填一段assistant 角色内容引导模型从指定位置开始续写请求体中以 assistant 消息附加见 gptcommon.py。Temperature / max tokens / top p / frequency penalty部分平台的部分模型可能不接受top p、frequency penalty等参数或已弃用max_tokens改用max completion tokens。每个参数都带独立开关激活或关闭开关即可解决这类兼容性问题。请求体组装见 utils.py 的common_create_gpt_datause_max_completion_tokens为真时发送max_completion_tokens否则发送max_tokensfrequency_penalty、top_p、repetition_penalty等仅在对应_use开关开启时才会写入请求。默认配置为max_tokens: 1024、Temperature: 0、top_p: 0.3、frequency_penalty: 0关闭。reasoning effort思考强度部分平台支持的控制思考强度的参数。特别地对Gemini平台会自动映射为其原生thinkingBudget见 utils.py 的common_create_gemini_request映射规则reasoning effort 选项Gemini thinkingBudget含义none / minimal0停用思考不适用于 Gemini-2.5-Prolow512低思考预算medium-1开启动态思考high / xhigh24576高思考预算其他 OpenAI 兼容平台则直接在请求体写入reasoning_effort字段。thinking.type思考模式开关部分平台主要是 DeepSeek支持的思考模式开关取值为disabled/enabled。开启后在请求体写入thinking: {type: ...}见 utils.py默认disabled。对应地流式解析会识别reasoning_content与think.../think标记在隐藏思考模式下仅显示思考字数进度避免思考过程污染译文见 gptcommon.py 的commonparseresponse_good。其他参数以上只是常用参数。如果所用平台提供了其他有用的参数可在其他参数customparams中自行添加键值对这些键值会作为extrabody合并进请求体、或作为自定义请求头注入对应 gui/customparams.py 的getcustombodyheaders在 gptcommon.py 中被调用。常见大模型平台接入速查欧美平台以下平台的API Key获取地址可直接跳转model行给出模型列表文档未标注时可点击刷新按钮拉取OpenAIAPI Key 在https://platform.openai.com/api-keysGeminiAPI Key 在https://aistudio.google.com/app/apikeyNvidiaAPI Key 在https://build.nvidia.com/explore/discoverClaudeAPI Key 在https://console.anthropic.com/模型列表见官方 models 文档CohereAPI Key 在https://dashboard.cohere.com/api-keysx.aiAPI Key 在https://console.x.ai/GroqAPI Key 在https://console.groq.com/keysOpenRouterAPI Key 在https://openrouter.ai/settings/keysMistral AIAPI Key 在https://console.mistral.ai/api-keys/Azure OpenAIAPI接口地址格式为https://{endpoint}.openai.azure.com/openai/deployments/{deployName}/chat/completions?api-version2023-12-01-preview将{endpoint}与{deployName}替换为你的实际值识别为 Azure 类型后请求会使用api-key头见 gptcommon.py 的createheadersCerebrasAPI Key 在https://cloud.cerebras.ai/→ API Keys中国平台DeepSeekAPI Key 在https://platform.deepseek.com/api_keys其思考模式可用thinking.type开关控制Xiaomi MiMoAPI Key 在https://platform.xiaomimimo.com/#/console/api-keys阿里云百炼API Key 在https://bailian.console.aliyun.com/?apiKey1#/api-key模型列表见官方 model-studio 文档识别为 aliyuncs 类型字节跳动火山引擎通过官方控制台创建 API Key模型见 ark 文档月之暗面MoonshotAPI Key 在https://platform.moonshot.cn/console/api-keys智谱AIAPI Key 在https://bigmodel.cn/usercenter/apikeys模型见官方文档讯飞星火参考官方文档获取APIKey与APISecret后按APIKey:APISecret的格式填入 API Key 字段腾讯混元API Key 参考腾讯云官方文档获取模型列表见对应文档百度千帆API Key 获取见百度智能云文档模型见千帆 ModelBuilder 文档[!WARNING]API Key请使用百度智能云 IAM 的 Access Key、Secret Key 生成接口的 BearerToken 后填入或直接按Access Key:Secret Key的格式一并填入。注意这不是千帆 ModelBuilder 旧版 v1 接口的 API Key/Secret Key两者不能通用。若按冒号格式填写程序会自动调用 IAM 换取 BearerToken见 gptcommon.py 的qianfanIAM签名逻辑MiniMaxAPI Key 在https://platform.minimaxi.com/document/Fast%20access?key66701cf51d57f38758d581b2API 聚合管理如果平台和 Key 数量较多可以使用 new-api 等 API 中继工具将多种大模型平台模型和多个密钥聚合管理后再统一接入 LunaTranslator只需在通用接口中填入中继服务的单一地址与 Key 即可。特定离线翻译模型接口除通用接口外LunaTranslator 还为需要专用 prompt 格式的离线翻译大模型提供了专用接口。大部分离线模型部署好后用大模型通用接口即可直接调用但部分模型必须使用模型发布者规定的 prompt 格式才能发挥最佳翻译效果因此该专用接口不提供用户自定义 prompt 设置而是内置模型发布者的官方 prompt 格式。当前支持的模型作者模型语言tencentHy-MT2通用SakuraLLMSakuraLLM GalTransl日语 - 中文该接口由 translator/sakura.py 与 translator/sakura_base.py 实现。配置项sakura见 translatorsetting.json中有一个关键的prompt格式下拉框可选auto自动检测、Hy-MT2、GalTransl、SakuraLLM v0.9、SakuraLLM v0.10、SakuraLLM v1.0、SakuraLLM v1.5选择auto时程序会根据模型名自动匹配 prompt 格式模型名含hy-mt2用 Hy-MT2含galtransl用 GalTransl含sakura时再按qwen3-v1.5/qwen2.5-v1.0/v0.10/v0.9细分版本见 sakura_base.py 的maybedetectprompttype各 SakuraLLM 版本的 system prompt 内置为轻小说/视觉小说翻译模型风格的角色设定并要求结合上下文正确使用人称代词、不擅自添加原文没有的代词GalTransl 版本还会把历史翻译和术语表src-dst #备注格式一起拼入 user 消息见 sakura_base.py 的sakura_make_messagesHy-MT2 的 prompt 则按目标语言简体中文/繁体中文或其他语言分别内置中英文指令并可参考术语表见 sakura_base.py 的hymt2_make_messages。该接口其余参数与通用接口类似包括流式输出、附带上下文个数、max_tokens、Temperature、top_p、frequency_penalty、repetition_penalty等默认API接口地址为本地部署地址http://127.0.0.1:8080/适用于 llama.cpp / Sakura 本地服务。请求与解析完全复用通用接口的链路sakura_base.py因此也支持流式输出与思考内容隐藏。小结配置大模型翻译时把握三个要点即可一是利用API接口地址的自动类型识别接入任意 OpenAI 兼容平台或 Gemini/Claude 原生 API二是善用多 Key|轮询与复制接口实现多配置并行对比三是根据模型选择通用接口自定义 prompt或专用接口内置官方 prompt。所有参数最终落在 defaultconfig/translatorsetting.json 中而请求组装与响应解析则集中在 translator/gptcommon.py 与 myutils/utils.py遇到兼容性问题时可从这两处入手排查。【免费下载链接】LunaTranslator视觉小说翻译器 / Visual Novel Translator项目地址: https://gitcode.com/GitHub_Trending/lu/LunaTranslator创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表