核心要点速览

  • 以12万亿token从零预训练650亿参数稠密模型,上下文长度最长100万。
  • TerminalBench 2.1得分为80.52,超过816B与975B量级的美国开源权重模型。
  • 研发费用为3200万美元。后训练数据并未外购,而是用合成数据构建。

从芯片设计内部走出的650亿通用版

2026年11月4日,Ricursive Intelligence(@RicursiveAI)发布了Ripple-65B Preview。该公司是同时优化硬件、软件与模型的全栈AI研究机构,为驱动自有芯片设计平台,从零训练了语言模型。此次发布的是该自研模型的通用版本。

预训练使用12万亿token,上下文长度最长100万。稠密结构旨在加快推理、降低token生成延迟;由于参数规模较小,即便在算力充足、但内存带宽比数据中心加速器更窄的NVIDIA DGX Spark这类本地机器上,也能高效运行。公司如此说明。

以十分之一的费用创下智能体编程的美国纪录

官方帖文将其定位为面向智能体编程的美国开源权重新标杆。TerminalBench 2.1得分为80.52,高于Reflection Beam 501B的80.1、Meta Muse Spark Open 816B的76.4、Thinking Machines Inkling 975B的63.8,以及NVIDIA Nemotron 3 Ultra 550B的56.4。

避开蛮力强化学习的3200万美元

公司将开发与训练总费用定为3200万美元,并估计这仅为以往训练面向智能体编程的顶尖开源权重所需费用的十分之一。该金额涵盖阶梯开发、数据配比、评测、调试、合成数据、后训练方案,直至最终的正式训练与后训练,是从零开始的全部研发费用。

作为对照,页面提到:2023年萨姆·奥尔特曼曾说GPT-4的训练费用超过1亿美元;达里奥·阿莫迪则认为前沿模型最高可达10亿美元,并预计2026年至2027年仅预训练就可能达到100亿至1000亿美元规模。他们没有采用蛮力强化学习,而是以计算效率为优先,反复迭代SFT与RL。

650亿稠密模型Ripple超越巨型模型:原站入口在新标签页查看原始页面的完整内容
打开《Ripple-65B Preview》官方页面及相关链接 ↗

X(推特)首发原帖

可在 X 上直接查看创作者发布的原帖与互动详情。

常见问题

3200万美元是否只是最终一次预训练的费用?

不是。页面注明,这笔费用涵盖阶梯开发、数据配比、评测、调试、合成数据生成、后训练方案,直至最终的正式训练与后训练,是从零开始的全部研发费用。

参考链接与官方出处

  1. Ripple-65B Preview 関連ソース (1)x.com
  2. Ripple-65B Preview 関連ソース (2)www.ricursive.com