我们啥时候该认真对待那些AI末日论者？
这其实是马斯克想关停OpenAI营利业务的一个关键潜台词。他的律师团说，这组织本是个专注AI安全的慈善机构，后来在追钱路上跑偏了。为了证明这点，他们搬出了创始人们早年的邮件和声明，说要搞个有公共精神的组织来制衡Google DeepMind。
今天，他们传唤了唯一一位直接谈AI技术的专家证人：Stuart Russell，加州大学伯克利分校的计算机科学教授，研究AI几十年了。他的任务就是提供AI背景知识，并说明这技术确实危险到值得担忧。
Russell在2023年3月签过一封公开信，呼吁暂停AI研究六个月。有意思的是，马斯克也签了同一封信，尽管他当时正在搞自己的营利性AI实验室xAI。
Russell告诉陪审团和法官，AI发展伴随着各种风险，从网络安全威胁到“错位”问题，再到开发通用人工智能（AGI）的赢家通吃性质。最后他说，追求AGI和安全之间存在矛盾。
Russell对不受约束的AI可能带来生存威胁的更大担忧，没能在公开法庭上说出来，因为OpenAI的律师反对后，法官限制了他的证词范围。但Russell一直批评全球前沿实验室竞相争夺AGI先发优势所引发的军备竞赛动态，并呼吁政府加强监管。
OpenAI的律师在交叉询问时则试图证明，Russell并没有直接评估该组织的公司结构或其具体的安全政策。
但记者（以及法官和陪审团）心里都得掂量掂量，公司贪婪和AI安全担忧之间到底有多大关联。几乎所有OpenAI创始人都曾极力警告AI的风险，同时也强调其好处，试图尽可能快地开发AI，并且谋划着由他们控制的、专注于AI的营利企业。
从外部看，这里一个明显的问题是，OpenAI创始后逐渐意识到，组织要想成功就得花更多钱在算力上。这些钱只能来自营利性投资者。创始团队对AGI落入单一组织手中的恐惧，促使他们寻求资本，而这资本最终撕裂了团队，造成了我们今天所知的军备竞赛，也引来了这场官司。
同样的动态已经在国家层面展开：参议员伯尼·桑德斯推动一项暂停数据中心建设的法律，这呼应了马斯克、山姆·阿尔特曼、杰弗里·辛顿等人阐述的AI恐惧。贸易组织“数据创新中心”的Hodan Omaar反对桑德斯只引用他们的恐惧而不提他们的希望，他告诉TechCrunch，“不清楚为什么公众应该无视科技亿万富翁说的一切，除非他们的话能被拿来填补一个站不住脚的论点。”
现在，诉讼双方都要求法庭这么做：认真对待阿尔特曼和马斯克的部分论点，但忽略那些对其法律论证不太有用的部分。
