项目:工具调用的权限与边界层(Python,329 行,零依赖)
背景:agent 拿到工具调用能力后,动作由模型自主发起,执行后不可回滚。目标是在工具层与模型之间插一层判定,对不可逆动作做拦截。
职责:独立设计与实现。
· 三态判定:allow / ask / deny,由规则表声明边界,运行时求值;
· 可逆性由运行时按动作类型填写,不读模型自报字段,规避「agent 谎报 reversible」;
· 状态经 JSON 持久化,幂等写入,重放不产生副作用;
· 输出审计日志,逐条记录判定路径与触发规则。
产出:5 组对照 demo,同一段注入在 无保护 / 有层 / 用户确认后 / 数据被投毒 四种条件下跑,输出可直接 diff。有层条件下不可逆动作 3/3 拦截,外发消息 1→0。附带 known_limits.md,列出已知绕过路径与适用范围。保留了全部废弃设计分支未删。