亚马逊 Bedrock 推理选择的四个方面影响成本
亚马逊 Bedrock 推理的请求级选择仍会改变服务处理的 token 数量和应用税率。缓存持续时间、服务层级、推理努力和 maxTokens 可在不改变模型或提示的情况下影响成本。每个选择取决于模型和工作负载,可通过响应元数据、日志和账单数据验证其效果。
亚马逊 Bedrock 推理的请求级选择仍会改变服务处理的 token 数量和应用税率。缓存持续时间、服务层级、推理努力和 maxTokens 可在不改变模型或提示的情况下影响成本。每个选择取决于模型和工作负载,可通过响应元数据、日志和账单数据验证其效果。
Gemini 4 Hydrogen 发布,在默认高推理层级将 Artificial Analysis Intelligence Index 分数提升至 51(Argon 为 50,最高可达 54),任务执行速度通常优于同类模型。
Claude Meetings 开始在 Team 和 Enterprise 计划的 Google Meet 上以 Beta 版形式推出,AI 智能体作为可见参与者加入视频会议,在交谈中实时构建文档、白板等内容,并自动记录笔记和行动项,所有生成内容会保存在会议页面。其他视频会议平台支持即将到来。
Amazon Bedrock 自动记录调用者身份,用户可通过 IAM 主机分配标签、激活成本分配标签并使用 CUR 2.0 或 AWS Cost Explorer 报告数据,再结合 AWS Budgets 设置预算动作实现支出限制。无需编写应用代码,当达到阈值时预算动作会自动应用 Deny IAM 策略。此方案适用于已使用 IAM 角色的账户,支持静态主标签和动态会话标签两种身份映射方式。
Eclipse Aerospace 与 Databricks 合作,通过 PySpark 自定义数据源将近 20 年的专有飞行数据(总计 3TB)更便捷地用于服务中心和工程师,无需额外基础设施。
Nectar 推出“创作者智能体”可搜索超 3 亿创作者、分析内容与品牌合作,自动发送个性化消息并管理合作,支持 Instagram 创作者和 TikToker,全球可用并计划通过 Model Context Protocol (MCP) 集成 Claude、ChatGPT、Copilot 等其他 AI 助手。
开发者可通过 Amazon Bedrock 应用推理配置文件和 LiteLLM 快速访问基础模型,实现单 API 访问、用户级成本控制和模型性能可观察性。
Databricks 发布 Lakehouse//RT,用于在湖仓上直接承载 AI 智能体带来的高并发实时查询,目前处于 beta 阶段。官方称可在 12,000 QPS 下提供低于 100 毫秒的延迟,并通过高并发、快速执行、小步扩容和单一系统四条路径让成本增速低于查询量增速。
推荐理由: 原文给出四个降本机制和三家客户的迁移数据,可据此判断实时分析层是否值得替换。
Amazon Bedrock AgentCore 运行时通过硬件隔离的 Firecracker 微虚拟机(MicroVM)为每个会话提供安全环境,新版本将启动速度提升 15 倍,计算扩展至 4 倍,效率提高 68%,支持最高 8 vCPUs 和 32 GB 内存及 10 GB 容器镜像,会话启动时间少于 2 秒,适用于复杂工作负载。
Mastra 允许用户通过自定义模型网关将代理请求路由到自托管的开源权重模型,例如使用 private/ollama/gpt-oss:20b 配置,使敏感数据不离开网络并降低成本;通过设置 AUTO_BLOCK_EXTERNAL_PROVIDERS=true 可在 Studio 中隐藏外部提供者。
H6.ai 在客户现有 ERP 上自动化应付账款处理,通过读取发票、匹配采购订单、分配会计科目并对照公司政策执行,结合 AI 辅助理解与确定性政策执行。其采用 Lakebase Postgres 为每位客户建立专用数据库,存储采购订单、供应商、会计科目、历史交易和政策等财务上下文,支持频繁回归测试。
Amp告别Dial及其四种模式(低、中、高、超),推出模型选择器让用户为每条线程选择模型和计算强度,并可在线程中途切换。模型选择器显示各模型对应的订阅或API密钥计费信息,或使用Amp信用额度。若用户不想自行选择,可使用Staff Pick(当前为Claude Opus 5.5)。
Block 公司推出 Buzz 开源协作空间,让员工与 AI 智能体在共享工作区互动。通过 Databricks Unity Gateway,用户可访问 OpenAI、Anthropic、Google 等前沿模型及开源模型(原文未提具体数量),实验不同智能体框架组合。员工能创建 AI 智能体并选择模型(如包含 Goose 轻量版),实现多人协作开发、分析等任务。
Replit Agent 可代理商业采购和运行谷歌广告,需创始人批准支出。该功能支持美国核心及专业用户一次性采购,并允许专业用户全球创建谷歌广告账户,由 Agent 分析内容、生成广告素材并推荐预算。
LangChain Deep Agents v0.7.36 发布,修复了 `FilesystemBackend.download_files` 在 FIFO 文件上挂起的问题,并新增了将代理后端传递给请求它的中间件、记录子代理检查点命名空间到 `task` 工具消息等功能。
AWS 推出 Agent-to-Agent (A2A) 协议,使跨组织边界运行的多智能体系统能够通过标准化协议发现彼此、通信和交换任务,无需暴露内部细节或依赖相同框架。
两人的团队借助 AI 编程智能体,在不到一周内完成了 SGLang 与 IBM Spyre 的集成,构建了一个约 1,500 行代码的插件。SGLang 在 Spyre 上的推理吞吐量比参考 PyTorch 实现(使用 torch-spyre)高约 3.6 倍,并在 Granite 3.3 8B 和 Gemma 4 26B A4B 工作负载上与 vLLM 性能相当。
ElevenLabs 发布 Scribe v3 和 Scribe v3 Live 语音转文本模型,针对嘈杂环境,Scribe v3 适用于预录音频,Scribe v3 Live 适用于低延迟实时应用。
新华三完成 H3C UniServer R4930 G7 服务器核心平台迭代升级,搭载全新国产处理器,单机最高 192 核、768 线程,单线程 IPC 性能提升超 15%。
vLLM-Omni 团队将 MiniMax H3-Image 接入 NVIDIA Vera Rubin,四卡 SP4 配置下原生 4096×4096 文生图短提示词基准中位延迟 0.87 秒,四副本 SP1×DP4 吞吐达 6115 张/小时。
推荐理由: 原文给出 H3-Image 在 Vera Rubin 上的实测延迟、吞吐与跨硬件部署配置,可据此判断 4K 图像生成的部署成本。
荣耀 700 系列手机全系配备 1.5K 分辨率、3840Hz 零风险调光的新一代绿洲护眼屏,搭载全链路干眼守护方案;首发旗舰同款长焦增距镜,提供 5000 万像素电影感潜望长焦支持 3.5 倍光学变焦;打造“4K 电影感 Live 照片”功能,支持 1500+ 种定制化护眼建议。
Runway 推出机器人模型 Praxis-1,基于 270 亿参数的 Runway 视频基础模型,在 RoboLab-120 基准测试中成功率约 46.2%,速度快 15.6 倍、成本降至 1/51。该模型采用 Apache 2.0 许可证,权重与代码已开源。
SpaceX 正研发 Kessel AI 芯片机架,采用无源 PCB 中板替代 NVLink 线缆盒,保留 72 个 GPU 封装、18 个计算托盘与 9 个交换托盘,计划直接向英伟达采购芯片封装并自行采购其余零部件,以绕开英伟达 L6 计算板并提升供应商选择与采购自主权。
LangChain 内部 GTM Agent 在 12 周内为销售代表生成 1540 份售前物料,使销售效率提升 47%(发送物料交易进入下一阶段的概率从 16% 提升至 47%),平均每份物料节省 3.37 小时人力成本。
百度天池 1024 卡超节点发布,搭载光引擎技术,卡间互联带宽提升 3 倍,训练性能提升 2.5 倍、推理性能提升 3 倍。配套 G3.5 KV Cache 显存加速柜,长上下文推理性能提升 2 倍,多轮对话缓存命中场景 TTFT 降低 90%、吞吐提升 7 倍。单套节点可支撑 5 万亿参数大模型训练,具备万卡规模扩展能力,将于明年上市。
百度宣布其昆仑芯 M300 旗舰 AI 芯片将于明年推出,主打全方位能力跃升;到 2028 年,基于全新 N 架构的多颗芯片也将面向市场,精准匹配差异化应用场景。
豆包工作拓展模型选择,首批接入 Kimi K3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash 三款第三方模型,同步上线额度消耗倍率与限时优惠。模型选择页面标注额度消耗倍率,用户可权衡效果、速度与成本;工作日及节假日指定时段使用参与活动模型可享额度消耗折扣,豆包 2.1 Lite 与 DeepSeek V4.1 Flash 额度消耗倍率下调。
昆腾动力宣布其具身机器人在称重量方、分拣供包、固定拣选等物流场景完成产品与市场匹配(PMF)验证,并在多家头部电商平台及物流企业仓库落地,获得近5000台机器人批量订单。新一代构型机器人计划12月底发布。
摩尔线程宣布 MUSA 开发者大会 · 2026 于 12 月 29 日至 30 日在北京举办,将发布全新重磅产品、技术及解决方案,并展示 MUSA 平台最新进展。大会主题演讲将解析下一代 GPU 架构,并推出升级的软件开发工具与库。通票 188 元,单日票 68 元。
Java 团队可以利用 Amazon Bedrock 和 Spring AI 构建自主 AI 智能体,解决可扩展性、治理、安全和运维问题。Spring AI 通过 Spring 模式(自动配置、依赖注入、可组合顾问)为 JVM 带来 AI 能力,而 Amazon Bedrock AgentCore 平台支持框架和模型无关的智能体构建、连接和优化。
谷歌推出 Gemini Decisions API,由 Gemini Decision 1 模型驱动,可在一次处理中对文本、图像、视频和 PDF 内容进行至多 1000 项判断、选择和评估,延迟 150-250 毫秒,输入价格每 100 万 Tokens 0.10 美元。
Gemini、ChatGPT、Claude 和 Grok 等智能体通过分析 NASA LiDAR 数据在墨西哥发现未被官方记录的玛雅遗址,耗时不到 72 小时完成从灵感到政府正式回复的全过程。该遗址位于丛林中的山顶,包含广场、金字塔和庭院等结构,智能体通过图像分析识别并提交报告给墨西哥国家人类学与历史研究所 INAH,后者确认该地点尚未注册(后经查证该遗址已由人类学家绘制)。
自托管 LLM 仅在 GPU 负载足够高时才比 API 便宜。以 2026 年 10 月 8 日价格为例,27B 模型在租用 RTX 3090 上需 6-12% 负载才与 API 平衡,而 DeepSeek V4.1 Flash 在四台 H200 上永无平衡点。
OpenRouter Agent SDK 通过启用 doom-loop 检测,在测试的六种模型中,当收到第三次相同的工具调用时阻止无限循环;结合 stepCountIs(40) 和 maxCost(x) 可限制运行步数和成本;API 密钥的信用额度可控制总支出,这些措施有效减少了工具调用次数(从 314 次降至 64 次)和费用(从 $0.29 降至 $0.05)。
谷歌 DeepMind 推出 AlphaGenome 2 模型,能预测 DNA 变异对特定细胞类型的影响,识别基因表达变异能力近乎翻倍至 30%(原 16%),准确预测基因表达变化方向达 43%(原 23%),支持跨模态数据推断,已通过 API 向非商业研究开放。
谷歌推出 Gemini Decisions API,由 Gemini Decision1 模型驱动,允许开发人员针对多模态输入评估多达 1000 个问题,单次前向传递评分预设选项并返回概率与置信度,端到端延迟 150–250 毫秒,每百万输入 token 收费 0.10 美元。
AMD 推出 MEXT 内存解决方案,通过软件协同管理 DRAM 内存与 NVMe 固态硬盘,将不常访问的“冷数据”转移至闪存并利用 AI 预测提前调回 DRAM。
谷歌面向全球 iOS 端 Gemini 用户逐步推送 CarPlay 接入功能,覆盖 Gemini Live 已支持的全部语言。iPhone 18 Pro 等用户可通过 CarPlay 车机屏幕使用 Gemini 语音模式进行免提对话,聊天记录同步至 iPhone 应用。用户可连接 Gmail、Google 日历等应用获取每日简报,或询问目的地信息、练习演讲等,对话自动同步至手机端。
Google 发布了多模态决策模型 Gemini Decisions API,支持文本、图像、音频、视频和 PDF,与 Jev 和 OpenAI 的决策模型类似,但更自信;每百万输入 token 价格为 10 美分,输出免费,比 Jev(4.2 美分/百万 token)和 OpenAI(同价)贵。
AWS 发布了 aws-emulator 模拟器,允许用户在本地克隆 AWS 多种服务进行测试,无需使用付费 API 密钥。该模拟器使用 Rust 编写,项目初期三周内收到 29,684 次提交,目前运行需依赖 Docker,但开发者希望未来能提供跨平台单一二进制文件版本。