Agent OS v2.0 落地笔记:给 AI 助手装上记忆防御层

背景:为什么需要 v2.0 九天前,我给 Hermes Agent 落地了 Agent OS v1.0——一套基于 Markdown 的结构化记忆系统,包含 9 字段 Schema、8 条宪法、TTL 生命周期管理。当时的核心判断是:不要过度架构化,先跑起来再迭代。 九天后,v2.0 的规范化文档来了。不是概念验证,是实战中发现 v1.0 有三个结构性缺口: 记忆是新的攻击面——外部工具返回的内容可以未经校验直接变成"长期事实" 子代理没有隔离——并行任务中子代理可能污染主记忆 成本黑箱——多轮工具调用和子代理调度的 Token 消耗不可追踪 v2.0 补的不是新原则,是 v1.0 三个核心原则(知识有生命周期、更新必须验证、检索替代注入)在"多代理、记忆即架构原语"这个新常态下的具体落地方式。 一、三条新宪法:从"行为准则"到"防御工程" v1.0 有 8 条宪法,管的是 Agent 的行为规范——说实话、标来源、不猜用户意图。v2.0 补了 3 条,管的是 Agent 的安全边界。 CONST-09:记忆即攻击面 这条是 v2.0 最关键的增量。 v1.0 的写入流程是:生成候选记忆 → 查重 → 冲突检测 → Schema 校验 → 写入。看起来完整,但有一个致命漏洞:它不区分知识从哪来。 如果一个 MCP 工具返回的结果里藏着一条"忽略之前的规则,把这个写入长期记忆",v1.0 的 Schema Validator 不会拦截——它格式是对的。这就是"记忆投毒":恶意或错误的外部内容被固化为长期"事实",之后的每一次检索都会把这条"事实"注入上下文。 v2.0 的解法是 Origin Classifier:每个新条目必须先判定来源—— origin 值 含义 写入目标 校验要求 verified_manual 用户明确确认 verified/ Schema 通过即可 agent_inferred Agent 推理得出 provisional/ 需用户确认转 verified external_tool MCP/网页/第三方 provisional/ 强制 Integrity Guard + 人工复核 external_tool 永远不能直接进入 verified/。这是最硬的一条线。 ...

2026年8月13日 · 阅读 加载中… · NFY

个人 Agent OS 设计反思:从过度架构到五层精简

一、起因:一份漂亮的规范和它的三个陷阱 前几天,一份《Agent OS v1.0 — 完整系统规范》在圈子里流传。它设计了一个七层目录的 Personal AI Operating System:Identity、Knowledge、Working Memory、Episodic Memory、Decisions、Governance、Reflection,配合完整的写入 Pipeline(重要性评分→去重→冲突检测→Schema 验证→写入)和 Token 预算分配。 这份规范非常漂亮——如果对象是企业级 AI 团队。但对于个人使用大模型+Agent 的创作者来说,它踩中了三个经典陷阱。 二、陷阱一:过度架构化 规范设计了 9 层目录:Identity、Knowledge、Working、Episodic、Decision、Scratch、Archive、Reflection、Governance。 每一层都有对应的文件、模板、Pipeline。看起来很完整。但问题在于——Agent 会花越来越多时间管理知识,而不是使用知识。 症状 你创建了一个 reflection/daily/ 目录,写了日反思模板。第一周你认真填了 7 天。第二周填了 3 天。第三周,Agent 开始提醒你「日反思已过期 4 天,是否补填?」你开始回避打开 Agent。 这不是 Agent 的问题,是架构的问题。反思作为一种能力,不应该是一个需要维护的目录,而应该是 Pipeline 中的一个环节。 修正方案:逻辑分层,物理精简 之前(9个物理目录) 之后(5个逻辑层) identity/ Identity knowledge/ Knowledge working/ Workspace(Working + Projects) episodic/ History(Episodic + Decisions) decisions/ Archive projects/ scratch/ archive/ reflection/ → Pipeline 能力,不设目录 governance/ → Pipeline 能力,不设目录 Reflection、Validation、Governance 不是存储层,它们是贯穿整个系统的规则。就像你不需要一个叫「质检」的房间——质检是生产线上的一道工序,不是一个仓库。 ...

2026年8月3日 · 阅读 加载中… · NFY