自主 AI 代理工作流的运行时授权和治理
Intentframe,由Intentframe开发,是一个用于自主AI代理的安全和治理框架,它在代理与它们可以修改的系统之间插入了一个外部运行时授权层。该工具根据确定性政策评估提议的行动,提供意图验证、政策即代码、审计日志记录,以及一个专用的模型上下文协议服务器以进行执行。它支持SDK和HTTPS集成,面向需要可执行决策的开发人员和企业安全团队,构建代理工作流。
执行边界实际上阻止或允许什么?
该工具创建了一个外部运行时授权边界,在代理操作触及文件、凭证、网络或金融API之前拦截提议的代理操作。它执行意图验证,验证所述目的和具体请求,并应用用简单英语或确定性限制编写的政策作为代码规则,因此决策是基于规则而非概率的。通过将执行保持在代理之外,该层防止自我授权行为。
安全团队的执行决策有多确定?
决策以确定性的允许或阻止结果生成,以机器速度而非人类队列执行。该工具的外部执行模型确保代理无法自行评分,因此治理不依赖于内部代理检查。审计日志记录每个授权结果,提供可搜索的合规和事件审查轨迹。人工审查仍然是可选的,工作流程在政策需要手动批准时插入人员。
它接受什么输入和集成?
该工具通过专用的模型上下文协议服务器、TypeScript/JavaScript和Python的SDK、HTTPS授权端点或作为工具网关进行集成。它与任何支持MCP的环境兼容,并列出集成示例,如LangGraph、OpenAI的SDK、LangChain和Anthropic工具使用。该设计使开发人员能够将执行连接到不同框架中的代理,而无需将政策嵌入模型内部。
将其添加到现有治理和开发工作流程中是否实用?
部署选项包括一个可自托管的开源核心运行时,可在GitHub上获得,允许团队本地检查和原型执行。政策作为代码要求团队以简单英语编写确定性规则,这将工作重心转向治理和规则维护。开发人员将该工具定位于软件开发人员、安全团队和运行代理工作流程的企业,其中分配政策所有权和治理资源是项目规划的一部分。
对于能够致力于治理工作的团队来说,这是一个实用的选择
该工具是工程和安全团队的一个实用选项,这些团队必须对自主代理施加确定性的控制。它需要在治理流程和明确的政策所有权上进行投资,以实现其好处,因此没有专门安全工程资源的组织可能无法充分利用。它最适合在受监管或高风险工作流程中运营的团队,在这些团队中,可预测、可执行的决策至关重要。