这也太不靠谱了吧，同一个问题问两遍答案都不同。这种随机性是特性还是bug？能不能让它稳定输出
这是特性不是bug。语言模型每次生成的时候有个temperature参数控制随机性。默认值大于0所以每次输出不同。设temperature=0可以让输出几乎一致但创造力也会下降
更准确地说：AI不是在"回答问题"而是在"生成最可能的下一个词"。每次生成有微小的随机性所以结果不同。这个随机性恰恰是AI能产生创造性回答的原因
需要稳定输出的场景（比如生成报告模板）：temperature设0、加detailed的system prompt定义输出格式。需要创意的场景：保持默认温度让它发挥
你问同一个人两次同一个问题他也不会给一模一样的回答啊。为什么要求AI做到人都做不到的事
在龙虾里可以在高级设置里调temperature。设成0或者0.1就会非常稳定。但有些API不支持temperature=0（会改成极小值比如0.01），所以可能还是会有微小差异
这叫temperature，采样随机性
AI的非确定性本质就是这样
这帖收藏数居然比点赞多