核心要点速览

  • Rayline 的 David Valerio Gilmore 发布了专为模型选择而做的统一模型 ARC。
  • 官方帖说明,相较 Opus 5.5,质量为 97.5%,成本最多为十分之一,并且完全开源。
  • 网站上的推理成本若以 Opus 5.5 为 100%,ARC 为 14.3%,与本地并用时为 7.1%。

癌症检测研究者推出的、用来决定路径的模型

Rayline 与 Workshop 的 CEO David Valerio Gilmore(@davidvgilmore)在 11 月 11 日先回顾了自己 2015 年做过检测早期癌症的 AI,随后把 ARC 介绍为全球首个统一路由模型。个人简介中还写到,他此前在斯坦福任职,并以 1 亿美元出售了 DataFleets。

该帖浏览约 678 万,点赞 684,收藏 473,转发 97。核心是在智能体作业的每一步选择合适的模型与思考量。质量为 Opus 5.5 的 97.5%、成本最多为十分之一、并且完全开源,这三点各写一行。

网站所示的质量与推理成本明细

rayline.ai 的标题是「A unified model for routing AI」。页面开头依次说明:以更低成本达到所需质量,并控制数据的去向。在质量维持图表中,以 Opus 5.5 为 100% 时,ARC 为 97.4%,与帖文中的 97.5% 只相差 0.1 个百分点。

按同一基准,推理成本方面 ARC 为 14.3%,在 ARC 上再叠加本地则为 7.1%。帖文里的「最多十分之一」,接近这种本地并用的水平。通往技术报告的入口也放在同一页面上。

是接收回答,还是只把路径带回去

ARC 的用法分为两种:一种是经由 Rayline 的推理,接收已经完成的回答;另一种是只接收模型与思考等级,再在自己的网关、云端或本地模型上执行。后者明确写着「You run inference」,设计上是把技术栈留在自己手里。

一旁还有面向结构化回答、专门针对模型路由训练的、兼容 Jev 的 Decisions API,以及在本地终端运行、把工具接到本地模型或云端的开源 Rayline CLI。其外的 Workshop 是另一款产品,用于在云端或桌面端制作网站、应用、仪表盘和内部工具。

Rayline 的 ARC,守住质量、压低成本:原站入口在新标签页查看原始页面的完整内容
打开「Rayline ARC」官网及相关链接 ↗

X(推特)首发原帖

可在 X 上直接查看创作者发布的原帖与互动详情。

常见问题

ARC 是连推理也一并代劳,还是只返回所选路径?

官网同时给出了两种方式:一种由 Rayline 完成推理并返回回答;另一种只返回模型与思考等级,由使用者在自有基础设施上推理。

参考链接与官方出处

  1. Rayline ARC 関連ソース (1)x.com
  2. Rayline ARC 関連ソース (2)rayline.ai
  3. Rayline ARC 公式・公開ページrayline.ai