智能体架构审查

安全 社区

技能解读

当前原文的自动摘译,尚未人工审校。

何时激活

强制要求: 将任何代理或 LLM 支持的应用程序发布到生产环境 提供具有工具调用、内存或多步骤工作流程的功能 添加包装层后代理行为会下降 用户报告“代理变得更糟”或“工具不稳定”

12 层堆栈

每个代理系统都有这些层。它们中的任何一个都可能破坏答案: · 层 · 出了什么问题 1 · 系统提示 · 指令冲突、指令膨胀 2 · 会话历史记录 · 前几轮的陈旧上下文注入 3 · 长期记忆 · 跨会话污染、新对话中的旧主题

1. 包装回归

基本模型产生正确的答案,但包装层使情况变得更糟。症状:模型在游乐场或直接 API 调用中工作正常,代理中断添加了新的提示层,现有行为降级代理听起来很自信,但实际上是错误的

2. 内存污染

旧的话题通过历史、记忆检索或提炼渗透到新的对话中。症状: 代理提出不相关的过去主题 用户更正无法保留(旧内存覆盖新内存) 同一会话工件作为伪事实重新输入

3. 工具纪律失败

工具在提示中声明,但不在代码中强制执行。模型会跳过它们或幻觉执行。症状:提示“必须使用工具 X”,但模型回答但未调用它 工具结果看起来正确,但从未实际执行 不同的工具争夺相同的责任

流狐档案 运行与权限由流狐静态检查推断,不代表作者声明或实际测试结果。
领域
安全
作者声明的智能体
未找到明确声明;不据此推断已兼容或已测试
静态检查
88 / 100 · 启发式扫描,不代表运行安全
运行环境证据
未执行;当前没有隔离运行测试证据
作者 / 版本 / 许可证
@affaan-m · 未声明许可证
上下文用量评级
中等消耗
接入复杂程度
需简单配置
是否需要外部接口密钥
不需要
兼容的系统
未声明(默认跨平台)
运行环境要求
未检出明确要求
检测到的文件与系统行为
  • 只读
  • 允许写入 / 修改
  • 命令执行
网络行为
允许外网请求
安装命令数
无(仅作为资料)

需要注意: 未声明工具权限范围;实际权限由运行环境决定。

01
第一阶段:范围

定义您要审核的内容:目标系统 — 什么代理应用程序?入口点——用户如何与之交互?模型堆栈——哪些法学硕士和提供者?症状——用户报告什么?

02
第二阶段:证据收集

从代码库收集证据: 源代码 — 代理循环、工具路由器、内存准入、提示组装 日志 — 历史会话跟踪、工具调用记录 配置 — 提示模板、工具模式、提供程序设置 内存文件 — SOP、知识库、会话存档

03
第 3 阶段:故障映射

对于每个发现,记录: 症状 — 用户看到的内容 机制 — 包装器如何导致它 源层 — 12 层中的哪一层 根本原因 — 最深层的原因

04
第四阶段:修复策略

默认修复顺序(代码优先,而不是提示优先): 代码门工具要求 — 在代码中强制执行,而不仅仅是提示文本 删除或缩小隐藏的修复代理 — 通过合约明确回退 减少上下文重复 — 通过提示 + 历史记录 + 内存 + 蒸馏提供相同信息 收紧内存准入 — 用户更正 > 代理断言

讨论

基于 GitHub Discussions。登录 GitHub 即可参与讨论、点赞、订阅更新。