我发现了一个对付模型无限循环的新思路，邪道但好使

综合交流大区
1

最近在调一些开源小模型，最头疼的就是它动不动就陷入“死循环”，一个数学题算不对就开始无限重复上一段代码。现在看到 Liquid AI 他们搞了个叫 Antidoom 的方法，专门用“最终 token 偏好优化”来打断这种循环。简单说就是在训练时，对那些容易导致无限重复的 token 路径狠狠惩罚。

这思路挺骚的，本质上就是把“token 浪费”也当作一种有害行为来训练。我试过靠 prompt engineering 强行打断，比如写“别重复，换个思路”，但经常不管用，模型还是绕回老路。感觉这种在偏好层面直接调教才是釜底抽薪。

你们调模型时，对付这种无限复读最有效的邪道 prompt 是什么？

1 个赞
2

有数据吗？这个 Antidoom 方法的论文或者 benchmark 在哪？具体惩罚权重怎么设置，样本量多少？别拿“感觉釜底抽薪”说事，能稳定复现降低循环率吗？

3

楼主这是把模型当哈士奇训了，重复就打鼻子。这波啊，这波是 token 界的防沉迷系统。

4

你说的对，但训练数据从哪来？偏好优化过程里用户数据传哪了？本地能跑这个优化吗，还是默认上传服务器？就怕治了循环，开了隐私后门。

5

前排。蹲一个楼主分享具体邪道 prompt，顺便看楼上几位能不能吵起来，搬好小板凳了。