LangSmith 推出 LLM Gateway 公测版,为生产智能体提供运行时控制
LangSmith LLM Gateway 进入公测,作为智能体与模型之间的集中治理层,统一执行花费上限、限流、模型回退和敏感数据脱敏。花费与限流可按组织、工作区、API key 和用户四级设置,命中上限时智能体收到 402 响应;回退规则可跨模型与托管商统一生效。
推荐理由: 原文列出了网关在成本、限流、回退和数据脱敏上的具体控制层级,可帮助判断生产智能体的治理该放在哪一层。
LangSmith LLM Gateway 进入公测,作为智能体与模型之间的集中治理层,统一执行花费上限、限流、模型回退和敏感数据脱敏。花费与限流可按组织、工作区、API key 和用户四级设置,命中上限时智能体收到 402 响应;回退规则可跨模型与托管商统一生效。
推荐理由: 原文列出了网关在成本、限流、回退和数据脱敏上的具体控制层级,可帮助判断生产智能体的治理该放在哪一层。
LangChain 在 LangSmith Cloud 上线 Managed Deep Agents 公测,用户把智能体写成由 agent.py、instructions.md、skills/ 等文件组成的 Python 项目,用 mda deploy 一条命令部署,由 LangSmith Agent Server 提供持久线程与流式运行。
推荐理由: 原文说明了把智能体项目按文件组织并一键部署到 LangSmith 的方式,以及托管运行时替团队承担的基础设施。
Anthropic 在 Claude Platform 上线托管服务 Managed Agents,把智能体拆成 session、harness 和 sandbox 三个可独立替换的接口,用来运行长周期任务。
推荐理由: Anthropic 公开了托管智能体的架构取舍,读者可看到把会话、harness 与沙箱拆开后,延迟与安全边界如何变化。
Anthropic 发布开源审计工具 Petri(Parallel Exploration Tool for Risky Interactions),由自动化智能体通过多轮对话测试目标模型,再用 LLM 评委按安全维度打分并挑出最值得人工复核的对话记录。
推荐理由: Anthropic 开源自动化审计工具 Petri,并给出 14 个前沿模型在欺骗、谄媚、自保等行为上的横向对比结果。