核心要点速览

  • MaxxBench是在DeepSWE的89道题上,对指令文本和初始代码做了细微改动的验证用基准
  • 在DeepSWE上集中在74%左右的模型群,到了MaxxBench上最大拉开23分
  • 对89题扰动最稳定的是Opus 5.5,实现能力的差距被可视化

从「能否扛住小写文件名」开始的验证

Justin Lo(@loresjpg)随这句话一并公开了MaxxBench。它只是对DeepSWE的89道题,在指令文本和初始代码上做了细微改动。要解决的工程问题骨架保持不变,只是把需求稍稍错开。

结果十分鲜明。在DeepSWE上挤在74%左右的模型群,到了MaxxBench上最大拉开了23分。这究竟是针对出题模式优化出来的分数,还是真正的实现能力?他的提问把这个差距直接摆到了台面上。

改动始终很轻,排名照样对调

所加的改动并不是大规模规格变更,而是指令措辞、初始代码细节这类一不留神就会被绊倒的差异。仅凭这些,模型分布就不再挤在一起,实力差距暴露出来。

扛住扰动的Opus 5.5,以及公开基准该怎么读

面对89题的改动,得分最稳的是Opus 5.5。它不是贴着某一套基准走,而是展现了能扛住需求晃动的实现能力。这也强化了一个论点:针对基准刷出来的分数,和实际工作中的强弱并不一致。

基准已在maxxbench.unlap.ai公开。把它和DeepSWE的结果对照着看,可以作为选型模型的判断依据。

X(推特)首发原帖

可在 X 上直接查看创作者发布的原帖与互动详情。

常见问题

MaxxBench和DeepSWE有什么不同?

题目骨架沿用DeepSWE的89道题,不同之处在于对指令文本和初始代码做了细微改动。用稍有差异的需求去解同一批问题,从而区分这是针对基准特化的得分,还是真正的实现能力。

参考链接与官方出处

  1. MaxxBench 関連ソース (1)x.com