一个代理把任务完成了,不代表它做得“对”。它有没有隐瞒信息、越权操作、擅自推翻人的决定?iFixAi 想做的是这类问题的独立审计,官方自比“代理可信度的米其林指南”。

流程是连接、模拟、审计、出报告、发徽章五步。代理通过 GitHub 或 MCP 接入,审计范围覆盖 64 类以上的对齐问题,从提示词注入、工具调用管控,到是否忠于委托人的意图都包括在内,最后出带证据的报告,可以挂一个通过徽章。

商业版按代理数和每月检查次数分档,入门档 2 个代理、85 次检查,往上有含官方人工审计的 Growth 和 Enterprise;具体价格页面上没写清楚。另有 Apache 2.0 协议的开源引擎,自己部署、自己填模型 Key,含 60 项检查,GitHub 上星标不少。

如果你的代理能动钱、动客户数据,或者一个团队同时在跑三个以上代理,这类外部体检迟早要做,可以先用开源版摸个底。

iFixAi相关导航

iFixAi 暂无评论

none
暂无评论...