巴里·迪勒信任奥特曼,但说AGI要来了,信任就无关紧要了

媒体大亨巴里·迪勒不觉得OpenAI CEO山姆·奥特曼不值得信任,尽管最近有些报道是相反的。他在《华尔街日报》的“万物未来”会议上给这位AI高管打了保票,奥特曼之前被一些前同事和董事会成员指责有时候有点操纵性和欺骗性。

迪勒和奥特曼关系不错,他是在回应一个问题,关于人们是否应该相信奥特曼能确保AI造福人类。具体来说,他被问到了AGI(通用人工智能),这种理论上的AI有一天可能在任何任务上都超过人类。

这位媒体高管(福克斯广播公司联合创始人,IAC和Expedia集团董事长)说,虽然他相信奥特曼的追求是真诚的,但这真的不是大家应该关注的重点。重点是AI带来的未知后果。

“AI的一大问题是它远远超出了信任的范畴,”迪勒说。“可能信任已经无关紧要了,因为正在发生的事情,连促成这些事情发生的人自己都感到意外。我和不少参与AI创造的人都聊过挺久,他们自己都觉得惊奇。所以……这是巨大的未知。我们不知道。他们也不知道,”他解释道。

“我们已经踏上了一段将改变几乎一切的旅程。这事报道得不少了。至于这些巨额投资会不会有回报——我压根不在乎。我没投钱进去,但进步是肯定会发生的,”迪勒补充道。

不过,这位媒体大亨也说,他认为大多数牵头的人都是好的管理者,他觉得奥特曼是真诚的,“是个正派、价值观好的人。”(得提一下,迪勒没说他觉得哪些AI领袖不真诚。)

“但问题不在于他们的管理。问题是……这真的是在处理未知。他们也不知道一旦实现AGI会发生什么,而我们已经很接近了。还没到那一步,但我们正越来越近,速度也越来越快。我们必须考虑设置护栏,”迪勒指出。

另外,他警告说,如果人类不考虑护栏,那么“另一种力量,AGI的力量,会自己来做这件事。而一旦那发生,一旦你释放了它,就再也回不去了,”迪勒说。


Image 2
Image 3



Image 7: TechCrunch Logo
Image 8

这东西就那样,信任不信任的有啥用,该来的总会来。

小白问一下,AGI是不是就像电影里那种有自我意识的AI啊?如果真的实现了,我们普通人该怎么办?是不是得提前学点啥技能才不会被淘汰?有点焦虑。

mark一下,回头细看。

又来这种帖子了,整天AGI来AGI去的,说得跟明天就要世界末日似的。这些大佬一边说“我们也不知道会发生啥”,一边又疯狂砸钱,合着全是行为艺术呗?

我上周刚看完《终结者》,感觉迪勒说的“护栏”简直太轻描淡写了。真到了AGI那一步,恐怕不是设置几个规则就能控制住的。不过说实话,现在讨论这些是不是有点早?毕竟连强人工智能都还没影呢。

所以“护栏”具体指什么?是立法监管,还是技术上的安全限制?迪勒提到“另一种力量会自己来做这件事”,是不是在暗示AGI可能自主建立规则?有业内的人能展开说说吗?

分享下我的经历:之前在实验室做AI伦理相关项目,团队里吵得最凶的就是“可控性”问题。哪怕你设计再多保护层,模型一旦复杂到一定程度,连开发者都搞不清它内部怎么决策的。迪勒说“他们自己都觉得惊奇”,我太有同感了。

话说最后那张会议logo设计得还挺酷的,有没有人知道明年活动在哪举办?想抢早鸟票。

嘴上说不知道手里继续融资,确实是经典硅谷套路

护栏一般指可解释性研究和对齐,立法这块还在讨论阶段

终结者那种过虑了,但护栏靠几条规则确实兜不住,要看监管和技术配合

护栏一般指立法加技术双管,他说的另一种力量更像是市场或监管自发推

多半是政策加技术混着提,单边压不住

大佬信任和实际治理是两码事