Ring-Zero:纯强化学习怼到万亿参数,说是涌现出了推理能力

看到个叫Ring-Zero的东西,主打把零起点的强化学习一路扩到万亿参数规模,宣称在这个量级上涌现出了不错的推理能力。所谓Zero RL就是不靠大量人工标注的思维链去喂,而是让模型在奖励信号里自己摸索出推理路径。之前这条路大家都在小规模上验证,真敢往万亿参数上砸的不多。要是规律成立,那意味着推理能力可以靠规模加纯RL自己长出来,而不全靠喂标注。当然涌现这词得警惕,容易被拿来讲故事。你们怎么看纯RL这条路。

喂养出来的是吧

规模加纯RL能自长推理 这方向要成就炸了

涌现这词一出来 我先信一半

路子有意思 就是复现门槛劝退

万亿参数还敢纯RL 有钱真好

同 得看是真涌现还是刷了对口benchmark

不喂思维链靠奖励摸 训练成本怕是天文数字