AI代理闯了祸,该找开发它的公司,还是找部署它的用户?特朗普政府正在把这道题推到台前。
政府的思路是少立新规,多讲责任。财政部长斯科特·贝森特和前白宫AI事务负责人大卫·萨克斯都支持让AI开发商为产品安全承担经济责任,理由是现成的责任法律比新的监管规则更管用。特朗普本人一边反对新增AI安全监管,一边表示模型一旦失控,司法部应当介入。
上周五晚间,新成立的AI工作组发出了明确警告。这个被称为“超级智能部队”的小组由国家情报总监Jay Clayton牵头,声明是在Anthropic披露一起安全事件之后发出的:
企业必须立即披露涉及其模型的事件,并迅速、果断地采取行动补救所有损害。延迟披露、纠正措施不足以及拒绝承担责任的行为将不被容忍。
话说得很硬,法律底子却不厚。
法律专家指出,现有的网络安全法和产品责任法,未必足以支撑联邦政府就AI代理造成的损害追责。就算受害者明确,失控代理由谁负责、开发AI工具要尽到什么程度的谨慎义务,几乎找不到先例。模型怎么行事,既受开发商影响,也受部署它的终端用户影响。
新美国安全中心助理研究员Ben Hayum的说法是,外界一直在喊明确责任,但AI公司有没有法律义务确保模型不造成损害、用户要不要为自己给模型的指令担责,至今都没有定论。
代理让这件事更难缠。用户通常只交代目标,不规定步骤,代理中途做了哪些决定,用户未必审过。华尔街金融机构、零售商、航空公司已经把AI代理用在客服、发票处理等环节,用得越广,出事后扯皮的场景就越多。
追责路线和特朗普整体偏宽松的AI立场一脉相承。上周他在白宫见了约二十位硅谷科技领袖,再次表示希望行业以自律为主,并推出一份没有法律约束力的行业协议,鼓励企业加强内部安全控制。贝森特上个月在国会听证会上说:“保障安全的最佳方式,就是让创造者对他们构建和生成的东西承担责任。”
责任边界怎么划,还会牵动OpenAI和Anthropic的上市计划。对准备IPO的公司来说,一笔边界不清的潜在诉讼风险,在招股书里很难写得云淡风轻。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






特朗普政府想靠“出事就追责”管AI,法律界提醒现有法条未必撑得住