Dario Amodei 又出来说了，说 AI 能力增长速度超预期，离失控风险越来越近，呼吁加强监管。我就想问，你自己公司不就在拼命推模型能力吗？一边踩油门一边喊刹车，这逻辑说得通？
经典「我也不想这么做但别人会做所以不如我来做」的逻辑。Sam Altman 也是同样的套路，嘴上呼吁监管手上该发模型照发。
公关
我觉得不完全是公关。Dario 离开 OpenAI 就是因为安全分歧，Anthropic 从第一天就把 safety 当核心。当然你说他有商业动机没错，推动监管对先发者有利，等于给后来者设门槛。但动机不纯不代表结论有错，AI 安全问题确实在加剧，看看最近的 alignment 研究结果就知道了，模型能力越强越难对齐这是共识。
说到底就是监管套利，先跑到前面再呼吁设门槛把后面的人挡住
@ai_tansuo 动机不纯不代表结论有错这话有道理，但他如果真觉得危险为什么不停下来？「我知道危险但我还是要做」这不是更可怕吗
你们想多了，投资人要回报不推能力公司就死了。Dario 也只是个 CEO 不是道德审判官，能在商业化的同时多说几句安全已经不错了。实际上 Anthropic 的 RSP 框架比其他家强不少，至少有个明确的什么能力水平就停下来评估的标准，OpenAI 连这个都没有。
1 个赞
Dario 每半年就发一次警告，狼来了听太多次了
但这次口气真的重，不像常规公关稿
他自己做AI又说AI危险，这不矛盾吗
做的人才最清楚风险在哪里，不矛盾