Amazon Bedrock AgentCore runtime V2 架构模式:加速会话启动
Amazon Bedrock AgentCore runtime V2 通过一次性准备环境并快照恢复,将会话启动时间缩短至约 2 秒,同时回收未使用的内存。V2 支持构建钩子以加载大文件或 CLI,适用于需要提前准备资源的场景。通过 CloudWatch 指标可测量会话启动时间,优先优化平台开销或代码执行时间。
Amazon Bedrock AgentCore runtime V2 通过一次性准备环境并快照恢复,将会话启动时间缩短至约 2 秒,同时回收未使用的内存。V2 支持构建钩子以加载大文件或 CLI,适用于需要提前准备资源的场景。通过 CloudWatch 指标可测量会话启动时间,优先优化平台开销或代码执行时间。
开发者使用 Claude Code 和 OpenAI Codex CLI 等编码智能体时,需按任务而非单次调用付费,因此模型路由应基于每项任务的成本。NVIDIA NeMo Switchyard 是一个开源库,可帮助 AI 智能体选择处理每个请求的模型,支持 Stage 和 Random 两种路由策略。
Google 在 Antigravity 中向外部研究者和开发者开放 /teamwork 多智能体工作流,可与 Gemini 4 Argon、Carbon、Hydrogen 配合使用,/boost 和 Deep Review 也已可用。
推荐理由: Google公开了/teamwork在多智能体科研与工程任务上的具体结果,并开放给外部研究者使用。
Amazon Bedrock 通过内置的零 instrumentation 成本归因功能,将每一次推理调用追踪到 IAM 主体,并将身份信息与组织标签传递至 AWS Cost and Usage Reports (CUR 2.0) 和 AWS Cost Explorer,同时保持数据在 AWS 安全边界内。
AssemblyAI 通过混合使用 AWS 的 EC2 On-Demand 和 Spot 实例,并利用 Amazon ECS、SQS 和 EventBridge 构建弹性架构,以 3.5 倍的速度提升 GPU 实例利用率,在欧洲 AWS 区域内实现成本降低并满足服务等级协议(SLA),其推理平台部署在 g4dn、g5、g6 三种 GPU 实例家族上。
Meta 将 Android 虚拟设备框架 Cuttlefish 原生移植到 macOS,通过支持 QEMU 和 vhost-user,解决在 Apple Silicon 上运行虚拟设备的技术难题,提升开发效率并统一测试环境。新版本支持 macOS 的显示、签名和构建流程,并扩展了蓝牙、Wi-Fi、3D 图形等特性,使 Mac 开发者可使用与 CI 相同的高保真虚拟设备。
LangChain 宣布完成 3 亿美元 C 轮融资,估值 30 亿美元,由现有投资方 CapitalG 领投,GIC、DFJ Growth 等新投资方参与。公司称已有超过 7000 家机构使用 LangSmith,Clay 用它每月监控数亿次 Agent 运行,Workday 将新 Agent 部署时间从五个月缩短到一天以内。
推荐理由: LangChain 公布 3 亿美元 C 轮融资,并给出 LangSmith 在运行时、改进与治理三层的产品结构,可据此判断其 Agent 平台的定位。
Databricks 发布了 Genie Migrate,现支持从 Microsoft SQL Server、Azure Synapse、Teradata、Oracle、Snowflake、Amazon Redshift、Google BigQuery 迁移至 Lakehouse,自动转换 SQL 代码至 ANSI SQL。
llama.cpp 与 ggml 发布 v1.0.0,将公共 C API 的破坏性变更与主版本号绑定,后续两者都按语义化版本规则发布。项目已支持超过 150 种模型架构和主流投机解码方法,并提供 Linux、macOS、Windows、Android、iOS 的预发布产物及 Docker、Homebrew、conda-forge 等分发渠道。
推荐理由: llama.cpp 与 ggml 同步发布 v1.0.0,并明确主版本号对应 C API 破坏性变更,下游依赖者可据此规划升级节奏。
Agent技能允许捕获可重复指令供用户和智能体复用,通过以SKILL.md文件为中心的版本化目录定义任务执行时机与方式。Proof Agent使用独立验证器对抗性验证AI生成内容,Data Forge则通过多个协同技能构建支持台指标管线,各技能共享通过manifest定义的上下文而非独立重发现。
Lakebase 架构通过单一持久化数据副本服务于 Postgres 和分析,无需 CDC 管道或第二数据库。该架构将数据分层存储于对象存储和缓存中,并非传统复制。其支持点查和扫描两种访问路径,使用 Postgres 堆页和 Parquet 格式分别优化,且无额外同步任务。
Natera 为解决实验室设备故障导致的知识断层问题,开发 SWARM 智能体系统,通过 Amazon Bedrock AgentCore 实现 130 倍响应提速和 96.2% 自动化处理支持工单。
SGLang-Neuron 通过 AWS Deep Learning Container 公开可用,支持在 AWS Trainium 上使用 SGLang 推理和强化学习部署,采用与 SGLang 相同的接口,运行在原生 PyTorch 上,支持 PD disaggregation 和 10240 token 上下文长度。
Genie Migrate 正式可用,帮助用户轻松迁移至 Databricks Lakehouse,支持大规模数据迁移并保持性能。
vLLM 在 Inkling 2 Small 发布首日提供支持。该模型是文本与视觉输入的多模态 MoE,总参数 594B、激活参数 17B,上下文最长 1M tokens,并自带 DSpark 推测解码器。
推荐理由: 原文给出了 vLLM 对 Inkling 2 Small 的 Day-0 支持细节与多项内核优化,读者可据此了解该模型的部署路径与吞吐表现。
亚马逊 Bedrock 推理的请求级选择仍会改变服务处理的 token 数量和应用税率。缓存持续时间、服务层级、推理努力和 maxTokens 可在不改变模型或提示的情况下影响成本。每个选择取决于模型和工作负载,可通过响应元数据、日志和账单数据验证其效果。
Claude Meetings 开始在 Team 和 Enterprise 计划的 Google Meet 上以 Beta 版形式推出,AI 智能体作为可见参与者加入视频会议,在交谈中实时构建文档、白板等内容,并自动记录笔记和行动项,所有生成内容会保存在会议页面。其他视频会议平台支持即将到来。
Amazon Bedrock 自动记录调用者身份,用户可通过 IAM 主机分配标签、激活成本分配标签并使用 CUR 2.0 或 AWS Cost Explorer 报告数据,再结合 AWS Budgets 设置预算动作实现支出限制。无需编写应用代码,当达到阈值时预算动作会自动应用 Deny IAM 策略。此方案适用于已使用 IAM 角色的账户,支持静态主标签和动态会话标签两种身份映射方式。
Eclipse Aerospace 与 Databricks 合作,通过 PySpark 自定义数据源将近 20 年的专有飞行数据(总计 3TB)更便捷地用于服务中心和工程师,无需额外基础设施。
开发者可通过 Amazon Bedrock 应用推理配置文件和 LiteLLM 快速访问基础模型,实现单 API 访问、用户级成本控制和模型性能可观察性。
Databricks 发布 Lakehouse//RT,用于在湖仓上直接承载 AI 智能体带来的高并发实时查询,目前处于 beta 阶段。官方称可在 12,000 QPS 下提供低于 100 毫秒的延迟,并通过高并发、快速执行、小步扩容和单一系统四条路径让成本增速低于查询量增速。
推荐理由: 原文给出四个降本机制和三家客户的迁移数据,可据此判断实时分析层是否值得替换。
Amazon Bedrock AgentCore 运行时通过硬件隔离的 Firecracker 微虚拟机(MicroVM)为每个会话提供安全环境,新版本将启动速度提升 15 倍,计算扩展至 4 倍,效率提高 68%,支持最高 8 vCPUs 和 32 GB 内存及 10 GB 容器镜像,会话启动时间少于 2 秒,适用于复杂工作负载。
H6.ai 在客户现有 ERP 上自动化应付账款处理,通过读取发票、匹配采购订单、分配会计科目并对照公司政策执行,结合 AI 辅助理解与确定性政策执行。其采用 Lakebase Postgres 为每位客户建立专用数据库,存储采购订单、供应商、会计科目、历史交易和政策等财务上下文,支持频繁回归测试。
Block 公司推出 Buzz 开源协作空间,让员工与 AI 智能体在共享工作区互动。通过 Databricks Unity Gateway,用户可访问 OpenAI、Anthropic、Google 等前沿模型及开源模型(原文未提具体数量),实验不同智能体框架组合。员工能创建 AI 智能体并选择模型(如包含 Goose 轻量版),实现多人协作开发、分析等任务。
LangChain Deep Agents v0.7.36 发布,修复了 `FilesystemBackend.download_files` 在 FIFO 文件上挂起的问题,并新增了将代理后端传递给请求它的中间件、记录子代理检查点命名空间到 `task` 工具消息等功能。
AWS 推出 Agent-to-Agent (A2A) 协议,使跨组织边界运行的多智能体系统能够通过标准化协议发现彼此、通信和交换任务,无需暴露内部细节或依赖相同框架。
两人的团队借助 AI 编程智能体,在不到一周内完成了 SGLang 与 IBM Spyre 的集成,构建了一个约 1,500 行代码的插件。SGLang 在 Spyre 上的推理吞吐量比参考 PyTorch 实现(使用 torch-spyre)高约 3.6 倍,并在 Granite 3.3 8B 和 Gemma 4 26B A4B 工作负载上与 vLLM 性能相当。
vLLM-Omni 团队将 MiniMax H3-Image 接入 NVIDIA Vera Rubin,四卡 SP4 配置下原生 4096×4096 文生图短提示词基准中位延迟 0.87 秒,四副本 SP1×DP4 吞吐达 6115 张/小时。
推荐理由: 原文给出 H3-Image 在 Vera Rubin 上的实测延迟、吞吐与跨硬件部署配置,可据此判断 4K 图像生成的部署成本。
LangChain 内部 GTM Agent 在 12 周内为销售代表生成 1540 份售前物料,使销售效率提升 47%(发送物料交易进入下一阶段的概率从 16% 提升至 47%),平均每份物料节省 3.37 小时人力成本。
Java 团队可以利用 Amazon Bedrock 和 Spring AI 构建自主 AI 智能体,解决可扩展性、治理、安全和运维问题。Spring AI 通过 Spring 模式(自动配置、依赖注入、可组合顾问)为 JVM 带来 AI 能力,而 Amazon Bedrock AgentCore 平台支持框架和模型无关的智能体构建、连接和优化。
Google Research 发布可穿戴设备驱动的 CKM 风险评估框架,通过可解释健康年龄模型(CHA)预测未来健康轨迹。该框架基于 2.2 百万人周穿戴数据训练的 SensorWM 模型,提供个性化 12 周反事实健康模拟,结合语言模型生成临床验证的指导方案。CHA 模型整合心率、步数、睡眠等可改变指标,预测 68,000 人年疾病风险,改善临床指标预测效果。
Databricks 开放 235,000 平方英尺旧金山新总部,投资超 10 亿美元用于 AI 研究,支持 KARL、MemCurrent 等模型及 Genie 代理,并承诺至 2030 年举办 Data + AI Summit。
亚马逊网络服务使用其自动化推理工具Tiros验证网络隔离,通过将网络配置转换为逻辑命题并分析模型中的可能路径,检查隔离是否符合声明策略,替代了传统的动态采样方法。
Meta 的 Intelligent Delivery 系统通过 AI 优化计算资源分配,自 2017 年以来为广告排序性能额外提升约 10%。该系统包含预测计算边际效用的 Resource Core Model(6B 稀疏参数+20M 密集参数)、跨系统资源迁移的多层机制,以及利用智能体 AI 持续检测响应系统变化的框架。
AWS 发布开源框架 UAEF,用适配器将 LangGraph、LangChain、Strands Agents、Amazon Bedrock AgentCore 和 Langfuse 的执行轨迹统一为 AgentTrace,再用 7 个维度 36 项内置指标打分。
推荐理由: 原文给出跨框架统一评测的适配器与指标设计,读者可据此判断多框架智能体版本对比的落地方式。
AWS Quick 的 AI-驱动的产品开发生命周期(AI-PDLC)通过六种专用技能代理,结合人类审批,将企业信号转化为验证原型。Discovery 代理分析企业数据源中的痛点,Prioritize 代理使用 0-10 分数框架评估用例优先级,所有决策均需人工确认。
Bright Machines 通过在工厂边缘使用 Debezium 捕获 PostgreSQL 变更,将其写入 Apache Iceberg,再通过单一可审计的出站路径发送,最终在 Databricks 中通过 Unity Catalog 联邦读取,为客户提供了无需开放工厂网络访问的实时、受治理的工厂数据仪表盘。
亚马逊 SageMaker AI 双向流推出按使用量计费模式,使模型提供商能通过 AWS Marketplace 报告实时流式推理的实际使用量。Deepgram 成为首发合作伙伴,为 AWS Marketplace 带来语音转文本和文本转语音的按使用量计费。
Databricks 宣布 Genie One 成为企业 AI 协作的统一入口,将搜索、产物生成和跨工具操作集中到一处,并基于 Genie Ontology 提供企业上下文,由 Unity Gateway 统一治理。
推荐理由: 原文给出 Genie One 从问答扩展到产物生成、跨工具执行与治理的具体能力,可据此判断企业 AI 工作台如何落地。
Databricks 发布 Genie Ontology 企业上下文层,结合受管定义与持续学习的组织知识,为 AI 智能体提供业务理解能力。Genie 插件支持 ChatGPT、Claude、Microsoft Copilot Cowork 和 Grok Bot,使团队能在 Databricks 中维护业务上下文并跨多个智能体使用。