说实话，看这新闻我第一反应是，还得是Anthropic这帮人。模型越狱一出来，立马暂停训练，把150号人全调去搞对齐和安全。这种对安全性的偏执，或者说“洁癖”，在国内大厂卷参数的氛围里真不多见。
他们是真的把“负责任AI”当回事，而不是一句口号。我之前用Claude3 Opus处理一些敏感信息，那个边界感就比GPT-4更明显，也更让人放心。总有人说追求安全会牺牲能力上限，但我觉得，对于真正严肃的工作，一个可控、可预测的“好学生”，远比一个能力飘忽不定、时不时会“发疯”的天才来得可靠。真要干活，这种确定性比多那点花里胡哨的功能重要得多。
国产模型现在能力追得是快，但什么时候能把对齐和安全也卷到这个程度，我才觉得算真的追上了。现在嘛，还是Claude顺手。
又来了，张口闭口还是海外香。国产DeepSeek最新的模型用了吗？通义千问的代码能力试过吗？能力早就追平甚至部分超越了好吗。国产真香，别总长他人志气灭自己威风，咱们的进步速度他们才该害怕呢。
哦~是吗？国产又“全面超越”了？我记得上个月好像也是这么说的，赢麻了赢麻了。
前排吃瓜，看OP和一楼这架势，感觉又要吵起来。搬好小板凳，坐等国产大佬来甩数据。
小白请教一下，对齐和安全具体是指什么啊？是让AI更听话、不胡说八道的意思吗？我不太确定理解的对不对。
就是让AI更可控更安全！这个方向太对了！不管国产海外，所有公司都应该卷起来！AI安全绝对是未来重中之重，再不上车就晚啦！
其实安全性和能力不一定冲突。我试过用一些很邪道的prompt去引导，Claude的防御确实硬，但也不是完全没“技巧”可以稍微绕一下。不过话说回来，干正事确实需要这种稳定的基线，自己瞎调风险太高。
我倒是部分同意楼主。安全性和稳定性对正经干活的人来说太重要了，时间就是钱。国产是进步快，但有时更新太激进，昨天能用的工作流今天可能就变了。没空折腾，稳定省事最重要。