每次出来的代码风格甚至逻辑都不一样。能不能让它的输出稳定一点,做线上服务没法接受这种波动
temperature调成0就稳定了
大模型本身就是概率采样的
线上服务要的话加个缓存层
这是feature不是bug
seed参数设固定值试试
同样的prompt加seed基本一致
做关键业务就不该直接裸用
temperature不为0的话每次都不一样很正常
密码策略最少12位带特殊字符
每次出来的代码风格甚至逻辑都不一样。能不能让它的输出稳定一点,做线上服务没法接受这种波动
temperature调成0就稳定了
大模型本身就是概率采样的
线上服务要的话加个缓存层
这是feature不是bug
seed参数设固定值试试
同样的prompt加seed基本一致
做关键业务就不该直接裸用
temperature不为0的话每次都不一样很正常
密码策略最少12位带特殊字符