核心要点速览

  • 由 inclusionAI 发布于 Hugging Face(inclusionAI/Ling-3.0-flash-Sante),具备 124B 总参数、5.1B 激活参数与 256K 超长上下文窗口。
  • 专为医学知识检索、长篇文献分析与结构化提取等科研场景设计,官方明确声明它不属于医疗器械,严禁单独用于患者诊断、分诊或治疗决策。
  • 官方模型卡提供了基于 SGLang 与 vLLM 的服务端启动示例,支持工具调用与推理模式设置,完整加载 124B 权重需配备多卡大容量 GPU 环境。

专为医学文献梳理与科研证据检索打造的 Ling 系列模型

inclusionAI 公开的《Ling-3.0-flash-Sante》(https://huggingface.co/inclusionAI/Ling-3.0-flash-Sante)是 Ling 系列中专门针对医疗知识问答、复杂推理、循证检索与工具调用(Tool Use)训练的科研向模型,名称中的「Sante」源自法语里代表「健康」的词汇。

根据官方模型卡说明,该模型的核心应用场景包括医学文献梳理、长篇科研文档分析、结构化信息抽取以及学术研究辅助。官方同时提醒,模型仍有可能输出错误或过时的信息,其在公开基准测试上的得分不能直接等同于真实临床环境中的诊疗效果。

严禁用于个人症状问诊:非医疗器械的使用红线

在官方 README(https://huggingface.co/inclusionAI/Ling-3.0-flash-Sante/raw/main/README.md)的安全边界声明中,inclusionAI 明确指出 Sante 仅是一枚研究用模型而非认证医疗器械,严禁将其单独用于疾病诊断、开具处方、急诊分诊(Triage)或临床治疗决策。任何关键场景的结论都必须经过专业医护人员复核,并与权威医学指南做交叉比对。

如果想合理测试它的科研辅助能力,推荐的做法是传入已公开发表的研究摘要(Abstract),让它提取主要评估指标,或是横向对比两篇论文的受试者入组条件差异,而不是输入个人体检报告或症状去寻求用药建议。

124B 总参数与 5.1B 激活架构,支持 SGLang 与 vLLM 部署

该模型在 Hugging Face 上的正式仓库名称为「inclusionAI/Ling-3.0-flash-Sante」。官方模型卡内置了使用 SGLang 与 vLLM 启动推理服务的完整命令行示例,并详细说明了如何配置 256K 超长上下文输入、外部工具调用以及开启推理模式(Reasoning Mode)。

在硬件规划上需要注意:虽然模型推理时每生成 1 个 Token 仅激活 5.1B 参数,但这并不意味着显存里不需要加载完整的 124B 权重。官方给出的部署示例依赖于多张大容量 GPU 组成的集群,动手部署前建议先对照模型卡核实显存需求与开源许可条款。

inclusionAI《Ling-3.0-flash-Sante》:面向医疗:原站入口在新标签页查看原始页面的完整内容
查看 Hugging Face 官方模型卡 ↗

X(推特)首发原帖

可在 X 上直接查看创作者发布的原帖与互动详情。

常见问题

可以把自己的症状输入 Ling-3.0-flash-Sante 来代替看医生吗?

绝对不可以。官方模型卡明确声明该模型仅用于科研辅助,不属于医疗器械,不能代替执业医师的诊断,也不得单独用于处方、分诊或治疗方案决策。

它写着 5.1B 激活参数,是不是普通单卡消费级显卡就能跑?

不是。5.1B 指的是每个 Token 动态激活的参数量,但模型总参数量高达 124B,运行时仍需将完整权重载入显存,官方提供的 SGLang 与 vLLM 示例均采用多张大容量 GPU 运行。

参考链接与官方出处

  1. inclusionAI Sante公式モデルカードhuggingface.co
  2. inclusionAI Sante公式README本文huggingface.co
  3. ハカセ アイ(Ai-Hakase)🐾生成AI・ComfyUI (@ai_hakase_) のX投稿x.com
  4. ハカセ アイ(Ai-Hakase)🐾生成AI・ComfyUI (@ai_hakase_) のX投稿x.com