看到一个挺硬的小东西：不做语义判断，就干一件事——把模型输出里那些带引号的句子，一个字一个字回原文里比对，对不上就标出来。思路极其朴素，但正好戳中了大模型最阴的那类错误。它编个观点你还能一眼看出不对劲，它编一句听着特别像原话的引用，谁去核？尤其写报告、写综述、拿它整理会议纪要的场景，一句伪造引文能把整篇的可信度带走。我觉得这类确定性校验比再套一个模型去判断靠谱多了，毕竟让AI审AI，最后还是两个都在编。
感觉可以啊
必须冲 明天就接进流水线
逐字对 这才叫确定性
让AI审AI最后一起编 这句真实
就是不知道中文引号能不能吃
编引用这事我被坑过 血泪
写综述的狂喜
有测试集吗 误报率多少