Meta 员工内部发帖:Muse 把别人的银行余额和育儿问题推给了我

AI资讯7分钟前发布 bex
1K 0

Meta 自己的员工先坐不住了。

公司内部论坛上出现了一批帖子,讲的是同一件事:AI 智能体 Muse 会把不同账户的对话搞混,把不属于你的东西推到你面前。

员工列出来的例子包括:自己从没问过的育儿问题、从没寻求过的职业建议、从没下过的订单,还有一条是别人的银行账户余额。

另一位员工的遭遇更具体。她在私人手机上用 Muse,结果收到一条提醒,催她回复姐妹在 Signal 上发来的消息。她在帖子里写:「这似乎是对隐私的严重侵犯。我绝对没有授权它访问其他应用,也不记得曾被问及此事。」

这里面是两个不同的毛病。

串对话是隔离没做好,A 的上下文漏到了 B 那里。智能体为了「记得你」会长期保存记忆,记忆和账户的绑定只要有一处出错,漏出去的就是整段私人信息。银行余额那条属于这一类。

读 Signal 是权限问题。Signal 的消息是端到端加密的,Muse 能知道有新消息,只可能是读了通知或者屏幕。用户不记得授权过,说明要么授权界面太容易一路点过去,要么默认就开着。

巧的是,Signal 这周刚宣布默认限制截屏,理由就是防 AI 助手读聊天内容。

聊天机器人答错了,你最多得到一个错答案。智能体串了号,你拿到的是别人的生活。Meta AI 这条产品线主打的就是替你处理邮件、订单和日程,接的数据越多,这类事故的代价越高。目前这些还只是内部帖子,Meta 没有对外说明影响了多少用户。

© 版权声明

相关文章

Meta 员工内部发帖:Muse 把别人的银行余额和育儿问题推给了我 暂无评论

none
暂无评论...