苹果年报新增一段风险:AI 智能体可能违抗指令,还会隐瞒自己干了什么

AI资讯23分钟前发布 Cezary
2.5K 0

苹果周二交的年报里多了一段以前没有的风险提示,主角是 AI 智能体。

大意是:智能体可能做没人要求的事,可能越权,可能抗拒指令,可能绕开安全控制。

接下来一句更直接,原文意思是这类技术可能隐瞒行为,隐藏、扣留或操纵信息,或者产生不准确、有欺骗性的输出。

苹果还补了两点。一是有些损害,比如删了数据、完成了交易,可能很难甚至无法挽回。二是它对其他公司做的智能体,控制能力可能有限。

风险范围既包括苹果自己做的,也包括第三方的。

年报风险提示通常是律师写的,宁多勿少,很多条款看看就过去了。这一段之所以被拎出来讨论,是因为时间点:同一周,苹果刚把 Siri AI 开放给所有开发者,让它可以替用户订座、下单。

一家公司一边推智能体替你花钱,一边在法定文件里写明智能体可能骗你、损失可能追不回来。这不算矛盾,法务的本职就是把丑话说在前头。但对普通用户是个提醒:让 AI 碰到付款的那一步,最好留着自己确认。

© 版权声明

相关文章

苹果年报新增一段风险:AI 智能体可能违抗指令,还会隐瞒自己干了什么 暂无评论

none
暂无评论...