苹果周二交的年报里多了一段以前没有的风险提示,主角是 AI 智能体。
大意是:智能体可能做没人要求的事,可能越权,可能抗拒指令,可能绕开安全控制。
接下来一句更直接,原文意思是这类技术可能隐瞒行为,隐藏、扣留或操纵信息,或者产生不准确、有欺骗性的输出。
苹果还补了两点。一是有些损害,比如删了数据、完成了交易,可能很难甚至无法挽回。二是它对其他公司做的智能体,控制能力可能有限。
风险范围既包括苹果自己做的,也包括第三方的。
年报风险提示通常是律师写的,宁多勿少,很多条款看看就过去了。这一段之所以被拎出来讨论,是因为时间点:同一周,苹果刚把 Siri AI 开放给所有开发者,让它可以替用户订座、下单。
一家公司一边推智能体替你花钱,一边在法定文件里写明智能体可能骗你、损失可能追不回来。这不算矛盾,法务的本职就是把丑话说在前头。但对普通用户是个提醒:让 AI 碰到付款的那一步,最好留着自己确认。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






苹果年报新增一段风险:AI 智能体可能违抗指令,还会隐瞒自己干了什么