核心要点速览
- Q Labs的Samip在X上主张，人类的样本效率大约比LLM高100万倍。
- 大脑用约100万亿个突触从约2亿个token中学习，Chinchilla则把20万亿token用于1万亿参数。
- 每个token对应的参数相差7个数量级，论文展示了外推至千万亿参数级的学习方法。
用参数不足解释100万倍的效率差
Q Labs联合创始人Samip（@industriaalist）于2026年11月2日发帖称，人类的样本效率大约比大语言模型高100万倍，却几乎没有令人信服的解释。他给出的答案核心是：现行LLM的参数量少了好几个数量级。该帖浏览约16.7万，获赞2632，收藏2051。
出处[1]
100万亿突触与Chinchilla最优之间
帖子给出的数字很直接。大脑使用约100万亿个突触，在语言上从约2亿个token中学习。Chinchilla缩放定律给出的配比，是用20万亿token训练一个1万亿参数的模型。把参数数除以token数，两者大约相差7个数量级，这一对比构成了讨论的核心。
出处[1]
外推至千万亿参数的学习方法
Samip等人表示，他们提出了数据成为约束时的新缩放定律与学习算法。其所示的终点，是外推得到的千万亿参数级Transformer。全文论文由@EthanBaron78553主导，@ShmuelBerman与@andrewgwils共同署名。
容易产生分歧的，是把100万倍效率差的主因归于参数不足，以及把千万亿参数作为外推来谈论。Chinchilla一直是展示数据与参数均衡的经典基准；把大脑放在比该配比少7个数量级的一侧来解读，就把“把模型做大，数据效率是否会接近人类”这个问题推到了台前。
出处[1]
X（推特）首发原帖
可在 X 上直接查看创作者发布的原帖与互动详情。
