免费获取学习方案
ARTICLE DETAIL

资讯详情

深耕编程基础知识与建站技术分享的一线实战洞察。

Agent-OS 与 Agent-Mesh 协同实现全栈 AI 治理:跨项目示例深度解析

Agent-OS 与 Agent-Mesh 协同实现全栈 AI 治理:跨项目示例深度解析 Agent-OS 与 Agent-Mesh 协同实现全栈 AI 治理跨项目示例深度解析【免费下载链接】agent-governance-toolkitAI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.项目地址: https://gitcode.com/GitHub_Trending/ag/agent-governance-toolkit导读本篇文章以仓库中 cross-project 示例 为核心完整解析 Agent-OS本地治理内核与 Agent-Mesh智能体间信任层如何分工协作构成多智能体系统的全栈full-stack治理方案。你将通过可运行的 cross_project_example.py 掌握如何为每个智能体配置本地策略工具限额、内容过滤、如何通过信任握手完成委托前的身份与能力校验、如何基于协作结果动态更新信任分以及如何把两层审计日志汇总成统一的治理报告。一、为什么需要两层治理本地治理与智能体间治理单个智能体的行为安全调用了哪些工具、输出了什么内容与多智能体之间的协作信任对方是谁、能否被信任、具备哪些能力是两类完全不同的问题。示例 README 用一张表格清晰划分了两个项目各自的职责边界层职责所属项目本地治理Local governance策略执行、工具限额、内容过滤、飞行记录flight recordingAgent-OS智能体间治理Inter-agent governance信任评分、DID 身份、能力验证、哈希链审计Agent-MeshAgent-OS是每个智能体本地运行的内核它拦截每一次动作执行在动作发生前检查策略在输出产生时过滤内容并记录全部操作形成飞行记录必要时还能通过信号SIGSTOP / SIGKILL强制终止失控进程。Agent-Mesh是智能体之间的信任层它为每个智能体签发 DID 身份、维护多维信任评分、验证对端能力声明并用哈希链保证审计日志不可篡改。在真实系统中这两个项目对应的完整实现分别位于 agent-os 源码 与 agent-mesh 源码。而 cross-project 示例的巧妙之处在于它不依赖任何外部包把两个项目的最小核心内联inline在一个 Python 文件中从而让读者在零依赖的前提下完整跑通本地策略 跨智能体信任的治理闭环。二、运行方式与前置条件示例文件位于 agent-governance-python/agent-os/examples/cross-project/cross_project_example.py运行命令为python cross_project_example.py示例源码头部注明的前置条件用于真实项目而非本示例pip install agent-os-kernel # Agent-Mesh 通过其 Python SDK 使用需要说明的是本示例为了自包含、可零依赖运行将 Agent-OS 内核与 Agent-Mesh 信任层的最小核心内联在了脚本中源码注释明确标注Inline minimal Agent-OS kernel (normally: from agent_os import KernelSpace)与Inline minimal Agent-Mesh trust layer (normally: from agentmesh import TrustRegistry)。生产环境应直接导入正式包而不是复制示例中的内联实现。三、七步治理流程全景README 列出了示例演示的完整流程共七步覆盖了一个多智能体研究系统的全生命周期搭建 Agent-Mesh— 注册两个智能体Researcher 研究员、Writer 写手为它们签发 DID 身份搭建 Agent-OS— 为每个智能体配置本地策略工具限额、拦截模式Researcher 收集数据— 每一次工具调用都经过 Agent-OS 内核门kernel gate检查信任握手— 委托前Agent-Mesh 校验 Writer 的身份与能力Writer 生成报告— Agent-OS 对输出执行内容策略信任更新— Agent-Mesh 根据协作结果更新信任分合并审计— 两层审计输出统一的治理汇总报告下面结合示例源码逐段深入。第 1 步注册 DID 身份与能力声明registry TrustRegistry(min_trust_score60.0) researcher_id AgentIdentity.create(researcher, [web_search, data_analysis]) writer_id AgentIdentity.create(writer, [text_generation, formatting]) registry.register(researcher_id) registry.register(writer_id)DIDDecentralized Identifier是 Agent-Mesh 身份体系的核心。示例中以did:mesh:sha256前16位哈希的形式生成去中心化标识符与仓库正式实现 agentmesh/identity/agent_id.py 中的did:mesh:命名模式一致正式实现 trust/handshake.py 在TrustHandshake.__init__中强制校验 DID 必须以did:mesh:开头否则抛出HandshakeError。能力capabilities是后续委托决策的依据Researcher 声明web_search、data_analysisWriter 声明text_generation、formatting。第 2 步为每个智能体配置差异化本地策略researcher_policy Policy( max_tool_calls5, blocked_patterns[DROP TABLE, rm -rf, password], allowed_tools[web_search, data_analysis, summarize], ) writer_policy Policy( max_tool_calls3, blocked_patterns[script, eval(, password], max_output_length5000, )Policy数据类定义了四类治理参数参数默认值说明max_tool_calls10单次会话内允许的最大工具调用次数blocked_patterns[]内容中禁止出现的模式大小写不敏感匹配allowed_tools[]允许使用的工具白名单为空表示不限制max_output_length10000输出内容最大长度注意两个智能体策略的差异Researcher 侧重工具白名单约束只能调用研究类工具Writer 侧重输出安全拦截 HTML 脚本注入与动态执行模式、限制输出长度。这种按角色差异化授权正是最小权限原则least privilege在智能体治理中的体现。第 3 步Researcher 收集数据 —— 每次调用都过内核门ok, reason researcher_gate.check(tool, query) if ok: result f[{tool}] Results for: {query} research_results.append(result) else: print(f ❌ BLOCKED: {reason}) # 尝试一次被拦截的动作 ok, reason researcher_gate.check(web_search, find password database)KernelGate.check()是 Agent-OS 内核门的最小实现执行三类前置检查工具调用限额call_count超过max_tool_calls即拒绝返回Tool call limit exceeded内容模式拦截把输入文本转为小写后逐一匹配blocked_patterns命中即返回Blocked pattern: ...因此find password database会因命中password而被拦截工具白名单当allowed_tools非空时不在白名单内的动作一律拒绝。每次通过检查的动作都会被写入flight_log飞行记录记录 UTC 时间戳、动作名、结果与累计调用次数self.flight_log.append({ timestamp: datetime.now(timezone.utc).isoformat(), action: action, outcome: outcome, call_count: self.call_count, })这正是 README 架构图中 Agent-OS 模块飞行记录audit every action的代码级印证——在正式实现中飞行记录器FlightRecorder由 agent_os/init.py 导出并作为 Agent-OS CLI 初始化配置项flight_recorder: true见 cmd_init.py。第 4 步信任握手 —— 委托前的身份与能力验证ok, reason registry.verify_peer( researcher_id.did, writer_id.did, required_capabilities[text_generation], )TrustRegistry.verify_peer()在委托发生前执行三道校验身份存在性对端 DID 必须已在注册表中登记否则返回Unknown agent信任分阈值对端信任分不得低于min_trust_score本例设为 60.0否则返回Trust score too low能力验证对端声明的能力必须覆盖required_capabilities中的全部项缺失则返回Missing capabilities: ...。本例中 Writer 信任分初始为 100.0 且具备text_generation故握手通过。每次成功的验证都会追加一条peer_verified审计记录。在仓库正式实现中这一过程由 trust/handshake.py 的TrustHandshake类承载安全强度大幅升级采用Ed25519 挑战/响应challenge/response签名机制防止 DID 伪造校验顺序包括 challenge ID 匹配、challenge 未过期、响应 DID 与期望 DID 绑定防 DID 替换、签名与公钥校验、以注册表权威的信任分为准绝不信任对端自报值、能力覆盖校验等八项还支持 RFC 9334 新鲜性 nonce 实现存活证明liveness proof并通过结果缓存默认 TTL 15 分钟与异步锁控制并发安全。第 5 步Writer 生成报告 —— 输出侧内容策略ok, reason writer_gate.check(text_generation, \n.join(research_results)) if ok: report # AI Governance Research Report\n\n...这一步展示的是输出侧治理Writer 的生成报告动作同样要经过它自己的KernelGate。由于writer_policy.blocked_patterns包含script、eval(、password任何混入这些模式的输出都会被拒绝同时max_output_length5000限制了报告长度。也就是说工具调用前的输入检查与内容生成后的输出检查是对称的——Agent-OS 在读写两个方向都实施治理与仓库正式实现 content_governance.py 中运行期治理回答『智能体行为是否安全』内容治理回答『智能体输出是否准确、合规』的设计理念一致该模块进一步定义了 accuracy、completeness、freshness、structure、relevance、consistency 六维内容质量评估与 PASS/WARN/FAIL 质量门。第 6 步基于协作结果更新信任分registry.update_trust(researcher_id.did, 5, delivered quality research data) registry.update_trust(writer_id.did, 3, produced compliant report)信任分不是一成不变的静态值而是随协作结果动态演化成功交付高质量数据使 Researcher 5产出合规报告使 Writer 3。update_trust将分数钳制在 [0, 100] 区间内max(0, min(100, ...))并记录trust_updated审计事件含 delta、新分数与原因。分数一旦跌破min_trust_score该智能体将无法再通过后续委托前的verify_peer校验——信任分因此成为声誉与准入的统一闸门。仓库正式实现把这一机制扩展为五维奖励评分体系见 reward/scoring.py 中的DimensionType维度含义policy_compliance策略合规性resource_efficiency资源效率output_quality输出质量security_posture安全态势collaboration_health协作健康度各维度的RewardSignal0差1好可配权重汇聚成维度分再聚合为 0-1000 的总体信任分并由TrustScoretrust_types.py等共享类型在所有集成中统一使用。第 7 步合并审计报告print(f Agent-OS (Researcher): {len(researcher_gate.flight_log)} events, {researcher_gate.call_count} calls) print(f Agent-OS (Writer): {len(writer_gate.flight_log)} events, {writer_gate.call_count} calls) print(f Agent-Mesh: {len(registry.audit_chain)} audit entries) print(f Hash chain valid: ✅ ({len(registry.audit_chain)} entries))示例结尾把两层的审计数据汇总为统一报告Agent-OS 侧报告每个智能体的飞行记录事件数与总调用数Agent-Mesh 侧报告哈希链审计条目数并验证链完整性最后打印所有智能体的最终信任分。这就是全栈治理的最终交付物既有细粒度的动作级审计又有跨智能体的信任演化轨迹。四、架构图两层嵌套的治理模型README 给出了清晰的架构示意可概括为嵌套式两层模型Agent-Mesh智能体间信任层 ├── DID 身份验证 ├── 信任分管理5 个维度 ├── 能力证明capability attestation └── 哈希链审计日志 Agent-OS每个智能体的本地内核 ├── 策略执行拦截模式、工具限额 ├── 内容过滤输入 输出 ├── 飞行记录审计每一次动作 └── 信号处理SIGSTOP、SIGKILL对应到代码一个 Agent-Mesh 信任注册表TrustRegistry下辖两个独立 Agent-OS 内核门KernelGate每个智能体都被本地内核 网格信任层双重包裹。动作先过本地内核门跨智能体交互再过网格信任层——两层各有各的审计最终合并成统一视图。哈希链审计防篡改的关键设计示例中的审计链通过_append_audit实现是理解 Agent-Mesh 防篡改能力的核心entry { type: event_type, timestamp: datetime.now(timezone.utc).isoformat(), previous_hash: self._prev_hash, **data, } canonical json.dumps(entry, sort_keysTrue) entry[hash] hashlib.sha256(canonical.encode()).hexdigest() self._prev_hash entry[hash]每条审计记录都包含previous_hash指向上一条记录并用 SHA-256 对规范化 JSON 计算自身哈希。这意味着任何对历史记录的篡改都会破坏链的连续性审计方只需重放全部记录即可验证完整性。仓库正式实现将其升级为完整的 Merkle 树审计链见 governance/audit.pyAppend-only JSON log with Merkle tree integrity verification支持更高效的成员证明与防篡改校验与 ADR-0017Merkle Chain for Audit Tamper Evidence 的架构决策一致。五、从示例到生产对照正式实现cross-project 示例的价值在于用约 100 行内联代码讲清楚治理模型而生产部署应迁移到仓库中的正式实现。以下是示例内联类与正式实现的对照表示例内联实现正式实现仓库路径生产环境增强点Policy/KernelGateagent_os 包如 lite.py、content_governance.py结构化策略语言、内容质量多维评估、MCP 网关、沙箱、凭证保险库、提示注入防护等AgentIdentity.createidentity/agent_id.py完整 DID 生命周期注册、吊销、轮换、过期、外部 JWKS 联邦、SPIFFE 等TrustRegistrytrust/handshake.py、trust_types.pyEd25519 挑战/响应、RFC 9334 存活证明、缓存、并发锁update_trustreward/scoring.py五维奖励信号、信任衰减、0-1000 分制哈希链audit_chaingovernance/audit.pyMerkle 树、审计后端文件/Postgres/Redis、OpenTelemetry 导出六、核心要点总结职责分离是设计主轴Agent-OS 管单个智能体能不能这么做本地策略Agent-Mesh 管这个智能体值不值得委托跨智能体信任二者不可互相替代。治理发生在每一个动作上工具调用前查策略、跨智能体交互前查信任、内容输出后再查策略三层检查构成完整的防护链。信任是动态演化的信任分随协作结果实时增减低于阈值即被排除在委托之外形成声誉驱动的准入机制。审计必须可验证Agent-OS 提供动作级飞行记录Agent-Mesh 提供哈希链/Merkle 树审计两层合并输出统一治理报告满足合规与取证需求。示例零依赖可复现python cross_project_example.py即可跑通全流程是理解两层治理模型的最佳入门路径生产环境则按上文对照表迁移到正式 SDK。【免费下载链接】agent-governance-toolkitAI Agent Governance Toolkit — Policy enforcement, zero-trust identity, execution sandboxing, and reliability engineering for autonomous AI agents. Covers 10/10 OWASP Agentic Top 10.项目地址: https://gitcode.com/GitHub_Trending/ag/agent-governance-toolkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表