单卡跑通自研中文法律大模型Awesome-Chinese-LLM 六款法务模型对比与私有化部署实践【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM很多企业法务团队对大模型的第一个顾虑很现实合同文本、裁判文书、合规意见书这些数据不能送进公有云 API。好消息是中文法律大模型已经不再是大机构专属——Awesome-Chinese-LLM 项目系统整理了开源中文大语言模型与垂直微调项目法律方向就收录了獬豸(LawGPT_zh)、LaWGPT、LexiLaw、Lawyer LLaMA、韩非(HanFei)、ChatLaw 六款代表性模型大多基于 6B7B 底座微调单台 GPU 服务器即可私有化部署。本文按要不要自建 → 选哪个 → 怎么跑起来 → 用在哪 → 怎么贴合业务的路径走一遍全流程所有模型的底座、训练数据与许可信息都可在仓库的 doc/Legal.md 里查到原始记录。要不要自建私有化部署前的三个判断最直白的问题是私有化部署真的有必要吗你可以先做三点检查如果都成立走开源模型路线就值得数据不能出域。合同草稿、诉讼策略、合规自查报告属于典型高敏法律数据私有部署意味着数据全程不出内网调用链路只经过你自己的服务器。算力预算有限。这些法律模型的训练算力在 doc/Legal.md 中都有记录从獬豸的 4 张 RTX 3090 到韩非、LaWGPT 的 8 张 A100/V100——但那是训练一次的成本。你只需要下载训练好的权重做推理成本就从训练级降到服务器级。许可允许商用。底座模型决定商用边界按仓库 README 的底座概览ChatGLM、Baichuan、Qwen 系列标注可商用LLaMA 系则部分可商用。底座之上还要看模型自身的 LicenseLexiLaw 是 MITLawyer LLaMA 与韩非是 Apache-2.0LaWGPT 是 GPL-3.0ChatLaw 是 AGPL-3.0。如果计划把模型能力内嵌到闭源对外产品里MIT/Apache 是最省心的选择。选哪个跑六款法律大模型的三个维度对比仓库法律清单条目不少但按底座与参数量分档后选型思路就清晰了模型基础模型训练数据特点微调算力许可协议獬豸(LawGPT_zh)ChatGLM-6B20 万真实律师问答 基于 9k 核心法条的情景问答LoRA 微调4×RTX 3090未标注LaWGPTChinese-Alpaca-Plus-7B法律领域专有词表扩充 大规模法律语料预训练法考数据精调8×V100 32GBGPL-3.0LexiLawChatGLM-6B5 万裁判文书 多源法律问答覆盖法律文书处理7×A100 40GBMITLawyer LLaMAChinese-Alpaca-Plus-13BJEC-QA 法考客观题 法律指令微调未披露Apache-2.0韩非(HanFei)BLOOMZ-7B1国内首个全参数训练法律模型60G 法律语料预训练8×A100/A800Apache-2.0ChatLawZiya-LLaMA-13B / Anima-33B93 万判决案例构造对话数据另附 Text2Vec 法条匹配模型多卡 V100AGPL-3.0按两档来选入门档单卡可跑6B7B獬豸与 LexiLaw 同基于 ChatGLM-6B部署门槛最低适合内部问答与合同初审LaWGPT 的预训练语料最厚适合法律研究类场景韩非采用全参数训练通用对话能力更稳。专业档13B 及以上Lawyer LLaMA 与 ChatLaw-13B 对复杂法律问题的推理更强ChatLaw-33B 逻辑推理进一步提升但需要多卡。另外值得单独提一句ChatLaw 附带开源的 ChatLaw-Text2Vec——基于 93 万条判决案例训练的相似度匹配模型可以直接做输入案情描述、检索对应法条与类案省掉自建向量检索的一整套工作。怎么跑起来从克隆到推理服务的最短路径⚡ 模型选定之后部署链路其实很短三步即可# 1. 获取项目查看法律模型清单 git clone https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM cd Awesome-Chinese-LLM less doc/Legal.md确认目标模型后从模型方在 README 中指向的模型平台下载权重各模型的官方发布地址见 doc/Legal.md 对应条目放到服务器/data/models/LexiLaw之类的目录。启动推理服务时高并发批量场景首选 vLLM仓库 README 记录其吞吐量可达 HuggingFace Transformers 默认实现的 1424 倍若想进一步压缩显存可换用 LMDeploy它支持 4bit 量化推理按仓库记录其 4bit 推理速度是 FP16 的 2.4 倍以上# 启动 OpenAI 兼容服务任意 OpenAI SDK 即可调用 vllm serve /data/models/LexiLaw \ --served-model-name lexi-law --max-model-len 4096 --port 8000显存参考4bit 量化后6B7B 模型约占 58GB单张 24GB 卡可留足并发余量13B 约 1014GB单张 24GB 或双 16GB 均可33B 建议双卡起步。用在哪三个场景对应三种模型组合服务跑通后建议分三步接入法务流程每步的模型组合不同合同初审与条款风险识别。接 LexiLaw 或獬豸把合同文本分段喂入让模型逐条输出违约条款、知识产权归属、责任限制等风险点清单人工终审。这类任务对模型要求相对宽松6B 档就能跑通闭环。内部法律问答机器人。推荐开源模型 知识库检索RAG的形态把公司制度、合规手册、历史问答存入向量库模型基于检索到的条款生成回答并在输出中注明出处。韩非的多轮对话与检索能力适合这种形态。RAG 的意义在于即使模型没见过最新修订的法规也能引用检索内容作答这是压低幻觉最直接的抓手。裁判文书分析与类案检索。案件量大的团队用 ChatLaw-Text2Vec 对历史裁判文书做类案匹配再结合 ChatLaw-13B/33B 或 Lawyer LLaMA 做判决说理分析、争议焦点抽取。找案和读案这两个耗时点正好被这一组合覆盖。模型跑起来之后怎么让它懂你的业务通用法律模型懂法但不懂你的业务。两条路径按成本从低到高先挂知识再谈微调推荐顺序。用 RAG 接入企业合同模板、合规文档与历史案例等检索质量稳定后再评估是否需要微调——不少团队会发现 RAG 已经覆盖大部分需求。LoRA 微调注入企业数据。确实要微调的话不必从零开始仓库列出了 LMFlow 等工具README 记录单张 3090 约 5 小时可微调一个 7B 定制模型。数据组织可参照 doc/Legal.md 中各模型的训练数据构成——表现好的法律模型都是法律语料预训练 法律问答/法考指令微调对应到企业侧就是把历史合同修订记录、内部合规问答、行业监管解读整理成指令数据集。 法务领域的私有化部署并不是大工程选定一个 6B 级模型、一张 24GB 显存的卡第一周就能有一个内网可用的法律助手。而这份清单把底座、数据、算力、许可都整理成了表格后续新模型出现时选型可以直接对着 doc/Legal.md 增量比对不需要重新调研一遍。【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 单卡跑通自研中文法律大模型：Awesome-Chinese-LLM 六款法务模型对比与私有化部署实践
单卡跑通自研中文法律大模型Awesome-Chinese-LLM 六款法务模型对比与私有化部署实践【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM很多企业法务团队对大模型的第一个顾虑很现实合同文本、裁判文书、合规意见书这些数据不能送进公有云 API。好消息是中文法律大模型已经不再是大机构专属——Awesome-Chinese-LLM 项目系统整理了开源中文大语言模型与垂直微调项目法律方向就收录了獬豸(LawGPT_zh)、LaWGPT、LexiLaw、Lawyer LLaMA、韩非(HanFei)、ChatLaw 六款代表性模型大多基于 6B7B 底座微调单台 GPU 服务器即可私有化部署。本文按要不要自建 → 选哪个 → 怎么跑起来 → 用在哪 → 怎么贴合业务的路径走一遍全流程所有模型的底座、训练数据与许可信息都可在仓库的 doc/Legal.md 里查到原始记录。要不要自建私有化部署前的三个判断最直白的问题是私有化部署真的有必要吗你可以先做三点检查如果都成立走开源模型路线就值得数据不能出域。合同草稿、诉讼策略、合规自查报告属于典型高敏法律数据私有部署意味着数据全程不出内网调用链路只经过你自己的服务器。算力预算有限。这些法律模型的训练算力在 doc/Legal.md 中都有记录从獬豸的 4 张 RTX 3090 到韩非、LaWGPT 的 8 张 A100/V100——但那是训练一次的成本。你只需要下载训练好的权重做推理成本就从训练级降到服务器级。许可允许商用。底座模型决定商用边界按仓库 README 的底座概览ChatGLM、Baichuan、Qwen 系列标注可商用LLaMA 系则部分可商用。底座之上还要看模型自身的 LicenseLexiLaw 是 MITLawyer LLaMA 与韩非是 Apache-2.0LaWGPT 是 GPL-3.0ChatLaw 是 AGPL-3.0。如果计划把模型能力内嵌到闭源对外产品里MIT/Apache 是最省心的选择。选哪个跑六款法律大模型的三个维度对比仓库法律清单条目不少但按底座与参数量分档后选型思路就清晰了模型基础模型训练数据特点微调算力许可协议獬豸(LawGPT_zh)ChatGLM-6B20 万真实律师问答 基于 9k 核心法条的情景问答LoRA 微调4×RTX 3090未标注LaWGPTChinese-Alpaca-Plus-7B法律领域专有词表扩充 大规模法律语料预训练法考数据精调8×V100 32GBGPL-3.0LexiLawChatGLM-6B5 万裁判文书 多源法律问答覆盖法律文书处理7×A100 40GBMITLawyer LLaMAChinese-Alpaca-Plus-13BJEC-QA 法考客观题 法律指令微调未披露Apache-2.0韩非(HanFei)BLOOMZ-7B1国内首个全参数训练法律模型60G 法律语料预训练8×A100/A800Apache-2.0ChatLawZiya-LLaMA-13B / Anima-33B93 万判决案例构造对话数据另附 Text2Vec 法条匹配模型多卡 V100AGPL-3.0按两档来选入门档单卡可跑6B7B獬豸与 LexiLaw 同基于 ChatGLM-6B部署门槛最低适合内部问答与合同初审LaWGPT 的预训练语料最厚适合法律研究类场景韩非采用全参数训练通用对话能力更稳。专业档13B 及以上Lawyer LLaMA 与 ChatLaw-13B 对复杂法律问题的推理更强ChatLaw-33B 逻辑推理进一步提升但需要多卡。另外值得单独提一句ChatLaw 附带开源的 ChatLaw-Text2Vec——基于 93 万条判决案例训练的相似度匹配模型可以直接做输入案情描述、检索对应法条与类案省掉自建向量检索的一整套工作。怎么跑起来从克隆到推理服务的最短路径⚡ 模型选定之后部署链路其实很短三步即可# 1. 获取项目查看法律模型清单 git clone https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM cd Awesome-Chinese-LLM less doc/Legal.md确认目标模型后从模型方在 README 中指向的模型平台下载权重各模型的官方发布地址见 doc/Legal.md 对应条目放到服务器/data/models/LexiLaw之类的目录。启动推理服务时高并发批量场景首选 vLLM仓库 README 记录其吞吐量可达 HuggingFace Transformers 默认实现的 1424 倍若想进一步压缩显存可换用 LMDeploy它支持 4bit 量化推理按仓库记录其 4bit 推理速度是 FP16 的 2.4 倍以上# 启动 OpenAI 兼容服务任意 OpenAI SDK 即可调用 vllm serve /data/models/LexiLaw \ --served-model-name lexi-law --max-model-len 4096 --port 8000显存参考4bit 量化后6B7B 模型约占 58GB单张 24GB 卡可留足并发余量13B 约 1014GB单张 24GB 或双 16GB 均可33B 建议双卡起步。用在哪三个场景对应三种模型组合服务跑通后建议分三步接入法务流程每步的模型组合不同合同初审与条款风险识别。接 LexiLaw 或獬豸把合同文本分段喂入让模型逐条输出违约条款、知识产权归属、责任限制等风险点清单人工终审。这类任务对模型要求相对宽松6B 档就能跑通闭环。内部法律问答机器人。推荐开源模型 知识库检索RAG的形态把公司制度、合规手册、历史问答存入向量库模型基于检索到的条款生成回答并在输出中注明出处。韩非的多轮对话与检索能力适合这种形态。RAG 的意义在于即使模型没见过最新修订的法规也能引用检索内容作答这是压低幻觉最直接的抓手。裁判文书分析与类案检索。案件量大的团队用 ChatLaw-Text2Vec 对历史裁判文书做类案匹配再结合 ChatLaw-13B/33B 或 Lawyer LLaMA 做判决说理分析、争议焦点抽取。找案和读案这两个耗时点正好被这一组合覆盖。模型跑起来之后怎么让它懂你的业务通用法律模型懂法但不懂你的业务。两条路径按成本从低到高先挂知识再谈微调推荐顺序。用 RAG 接入企业合同模板、合规文档与历史案例等检索质量稳定后再评估是否需要微调——不少团队会发现 RAG 已经覆盖大部分需求。LoRA 微调注入企业数据。确实要微调的话不必从零开始仓库列出了 LMFlow 等工具README 记录单张 3090 约 5 小时可微调一个 7B 定制模型。数据组织可参照 doc/Legal.md 中各模型的训练数据构成——表现好的法律模型都是法律语料预训练 法律问答/法考指令微调对应到企业侧就是把历史合同修订记录、内部合规问答、行业监管解读整理成指令数据集。 法务领域的私有化部署并不是大工程选定一个 6B 级模型、一张 24GB 显存的卡第一周就能有一个内网可用的法律助手。而这份清单把底座、数据、算力、许可都整理成了表格后续新模型出现时选型可以直接对着 doc/Legal.md 增量比对不需要重新调研一遍。【免费下载链接】Awesome-Chinese-LLM整理开源的中文大语言模型以规模较小、可私有化部署、训练成本较低的模型为主包括底座模型垂直领域微调及应用数据集与教程等。项目地址: https://gitcode.com/GitHub_Trending/aw/Awesome-Chinese-LLM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考