最近好几家都在做手机端的 AI Agent,能帮你打车、点外卖、回消息。听起来很美好,但仔细想想,让 AI 访问你的通讯录、聊天记录、支付密码,这个权限边界到底在哪里?
核心问题是信任。现在 AI Agent 的运行逻辑对用户是黑盒,你不知道它中间经过了哪些步骤。万一被注入恶意指令,直接用你的支付密码下单怎么办
应该像 App 权限一样做分级。读通讯录和打电话是两码事,看消息和发消息也是两码事。但目前大多数手机 Agent 都是要全量权限,很粗暴
比起隐私问题,我更担心 AI 误操作。帮你回消息结果发错人了,帮你叫车结果下错地址了,这种翻车太容易发生了
等出了第一起 AI Agent 误操作导致的重大事故,监管就会跟上了。现在就是野蛮生长阶段
@xiaohongmao_dev 分级权限这个思路好,读和写分开,至少给用户一个明确的控制感
权限这事最敏感,支付类一定要加二次确认,不然出事谁也担不起
替你操作手机这事还是保守点好
支付相关的绝对不能放开权限
让AI操作手机这事权限边界模糊就是定时炸弹
让AI操作手机最怕的是误操作,万一发错消息就尴尬了
自动点银行APP想想都害怕,得有红线
AI操作手机权限给太大了容易出事,最小权限原则很重要
权限边界这个问题确实需要认真讨论
所以敏感操作必须加确认步骤,不能完全自动化
最低权限原则应该是底线
权限边界这个问题确实要认真讨论,不能无限制开放