核心要点速览

  • 帕特尔认为,达到最优秀人类水平的AI研究系统还需数年,最快可能只需数月。
  • 他表示,全领域专家级AI有望在2030年实现,某些情况下甚至明年就能达到。
  • 依据是数学领域的急速进展,以及Anthropic与OpenAI已经可见的研发加速。

从年初的十年,缩短到2030年的时间轴

Dwarkesh Podcast主持人德瓦克什·帕特尔(@dwarkesh_sp)于11月13日发表同题长文,并在X上贴出了这一句。该帖获得约136万次浏览、5014次点赞、4294次收藏、449次转发,预测本身被提前,成了讨论的中心。

他写道,若在年初有人问起,自己大概会回答:距离超智能至少还有十年里的大半时间。看过相关讨论,以及AI在可验证领域的进展之后,他在这三个月里大幅更新了判断。能在AI研究上比肩最优秀人类的系统,需要数年,视情况也可能只需数月。研究自动化会把此后的进步压缩进随后的一年;到2030年——若这一判断站得住,甚至明年——就会出现在一切领域都超过最优秀专家的AI。他特别说明,就连几个月前的自己也不会相信这个看法。

在前沿,AI已开始推高下一代AI

进入推测之前,帕特尔先摆出证据:在最前沿,AI已经在大幅加快下一步进展。他介绍说,独立评估机构METR进驻Anthropic三个月,结论是范围明确的任务进展速度已是一年前的两倍,加速的大部分来自把AI用于研发。

数学是预告片,正片是研究本身的自动化

正文把数学能力提升得有多快,当作同样的事情发生在AI研究上时的预告片。写作过程中有Max Farrens、Gabe Fried、Thomas Larsen一同参与,约44分钟的朗读可在YouTube、Spotify和Apple Podcasts收听。

篇章依次展开为:速度、智力与数量;是奇点还是火花;超智能会不会成为出色的元学习者。附录讨论AI研发中有很大一部分可以验证、样本效率与在线学习,以及预训练、后训练和推理效率;作为反驳,则提出持续学习,以及能否找到恰当、可验证的代理指标。

https://www.dwarkesh.com/p/rsi

帕特尔:超智能在2030年,研究自动化不出数年:原站入口在新标签页查看原始页面的完整内容
打开《数学的雪崩与AI开发》官方页面及相关链接 ↗

X(推特)首发原帖

可在 X 上直接查看创作者发布的原帖与互动详情。

参考链接与官方出处

  1. 数学の雪崩とAI開発 関連ソース (1)x.com
  2. 数学の雪崩とAI開発 公式・公開ページwww.dwarkesh.com