AssemblyAI 如何在 AWS 上使用 EC2 Spot 实例优化语音转文本推理成本
AssemblyAI 通过混合使用 AWS 的 EC2 On-Demand 和 Spot 实例,并利用 Amazon ECS、SQS 和 EventBridge 构建弹性架构,以 3.5 倍的速度提升 GPU 实例利用率,在欧洲 AWS 区域内实现成本降低并满足服务等级协议(SLA),其推理平台部署在 g4dn、g5、g6 三种 GPU 实例家族上。
AssemblyAI 通过混合使用 AWS 的 EC2 On-Demand 和 Spot 实例,并利用 Amazon ECS、SQS 和 EventBridge 构建弹性架构,以 3.5 倍的速度提升 GPU 实例利用率,在欧洲 AWS 区域内实现成本降低并满足服务等级协议(SLA),其推理平台部署在 g4dn、g5、g6 三种 GPU 实例家族上。
XYBench 发布,包含 8K+ 问题测试 AI 助手如何应对基于误解的请求;Claude Sonnet 4.6、GPT-5、Gemini 3.1 Pro、Qwen3.5-9B 和 DeepSeek-V4 Pro 在测试中常聚焦原错误方法而非用户实际目标。
ZigZag 是一个用 Rust 编写的视觉刺绣编辑器,支持 MCP 协议让 AI 智能体可协作设计,能将 SVG 转为刺绣针迹,并导出 PES、DST 等多种格式,兼容 Brother Skitch (PP1) 并支持蓝牙传输,提供 Tatami、Satin、Stitch 等多种刺绣类型和规划功能,支持 Mac 和 Windows 平台下载使用。
Gemini 4 Argon 将 Go 代码的 panic 路径转化为 Z3 约束规则,配合 Z3 检查触发条件,配合 go test 重放触发字节,在 1 分钟内定位 3 个植入的解析器 Bug 并发现 3 个 skill-lint 潜在 Bug。该流程比 go test -fuzz 更高效,能找到模糊测试遗漏的边界检查错误。
Helion 通过编译时启发式算法分析内核 IR 和数据流,无需慢速自动调优即可选择快速设置,将内核分类为矩阵乘法、归约或逐点操作,并选择块大小、warp 和阶段,实现近乎自动调优的速度。
AWS 推出 Agent-to-Agent (A2A) 协议,使跨组织边界运行的多智能体系统能够通过标准化协议发现彼此、通信和交换任务,无需暴露内部细节或依赖相同框架。
新华三完成 H3C UniServer R4930 G7 服务器核心平台迭代升级,搭载全新国产处理器,单机最高 192 核、768 线程,单线程 IPC 性能提升超 15%。
EUROPA联盟在JUPITER超级计算机上使用PyTorch和TorchTitan成功训练了参数量达951.9B的MoE模型,将单GPU的吞吐量从90提升至约1,300 tokens/s,使用了384个NVIDIA GH200 GPU。
Embodied First Exam 发布,包含 35 套、47 个机器人上的 1,156 个任务,评估编码智能体在物理世界约束下的控制能力,GPT-6 Astra in Codex 在标准设置下 456 个核心任务中成功率 34%。
在 OpenRouter 上运行相同任务,对比 GPT-6.1 Sol 在 60 项合成任务中通过 180/180 次测试,DeepSeek 成本最低通过 157/180 次,但与公开排名相关性低(Spearman 相关系数 0.109)。需检查任务重复次数、答案数量和账单验证。
Google 发布生成式 UI 开放协议 A2UI 1.0,这是该协议的首个稳定版本,让 AI 智能体以交互界面而非纯文本作答。1.0 新增双向函数调用、无障碍支持和扩展元数据,并提供 Web、Android、iOS 的开源渲染器 SDK 以及 Python、TypeScript、Dart 的智能体 SDK。
推荐理由: A2UI 1.0 将智能体输出从纯文本扩展为原生交互界面,并提供多平台渲染器与接入方案示例,据此可判断生成式 UI 的落地方式。
Databricks 宣布 Genie One 成为企业 AI 协作的统一入口,将搜索、产物生成和跨工具操作集中到一处,并基于 Genie Ontology 提供企业上下文,由 Unity Gateway 统一治理。
推荐理由: 原文给出 Genie One 从问答扩展到产物生成、跨工具执行与治理的具体能力,可据此判断企业 AI 工作台如何落地。
Databricks 发布新版 Genie,定位为自主 AI 同事,可持续跟踪进度、追问缺失输入并在新信息到达时采取行动,用户设定护栏并审批关键环节。新版配套 Genie Ontology 提供业务定义与组织知识,Genie Search 以索引加 MCP 混合检索并沿用 Unity Catalog 权限,Unity Gateway 统一管理访问、成本与审计。
推荐理由: 原文给出了 Genie 从助手转向自主执行长期工作的能力边界与治理方式,可据此判断企业智能体落地需要哪些上下文与权限控制。
Hugging Face 博客介绍了多向量嵌入模型的 Token Pooling 感知训练方法,通过 HierarchicalTokenPooling 将相似 token 嵌入合并以压缩存储。
inclusionAI 发布了 ZoomGain-4B 大语言模型,在 ZoomGainBench 上取得 61.08 分,并在多个细粒度感知和通用感知基准测试中表现优异;模型基于从全局图像细节中挖掘的全局到局部视觉感知差距构建监督,支持英文和中文问答,可通过 Hugging Face 下载。
挪威奥斯陆业余无线电小组通过地面无线电发送语音指令,成功让 OPS-SAT PRETTY 卫星启动《毁灭战士》游戏,创全球首次通过无线电链路让卫星自主识别并执行口头指令的纪录。团队利用可更新的软件和软件无线电设备为卫星增加语音控制能力,使用约 27MB AI 语音识别模型将声音转为文字并检测指令,实验重点在于让卫星自主分析无线电信号并采取行动。
Infrathon 对六种模型进行了 150 次长时程 AI 基础设施优化任务评估,总耗 10,000 GPU 小时,发现模型排名随评估时程变化,135 次任务在预算后半段实现进一步优化,且 Claude Opus 5.5 将 KV 缓存压缩率从 6.82% 提升至 19.86%,超出人类设计基线。分析显示任务违规、测试不可靠和过早完成是持续优化的主要障碍。
GitHub MCP 服务器为 Claude Sonnet 5.5 的每个请求增加了 19,436 个输入 token,远超 CLI(1,421)和技能(3,315)。
在 OpenRouter 上测试,fp8、fp4 与 fp16 在 240 个评分任务中未发现精度差异,所有六种端点得分在 98.3% 至 99.2% 之间。低精度通常更便宜,但 fp8 比 fp16 更贵的情况有 7 模型,4-bit 比 8-bit 更贵的情况有 7 模型。fp4 端点在 40 个无工作流乘法任务中表现最差,但差距可能由偶然性导致。
Mastra FDE 是面向所有构建 AI 智能体的团队的前置部署工程计划,通过派遣熟悉 Mastra 内部的工程师以低于一名资深 AI 聘请成本的价格,从第一周开始协助团队进行架构设计到生产部署,并提供定期 1:1 沟通、咨询或主动开发支持,同时享有与创始人及工程师的 Slack 通道、快速响应、路线图洞察、定制化培训和 Mastra Enterprise 全套功能。
Adobe 宣布将把聊天机器人和 AI 智能体作为下一代设计助手,甚至自动化创意工作流程和重复性任务。在迈阿密举行的 Adobe Max 大会上,Adobe 推出了让第三方 AI 智能体访问和修改 Creative Cloud 项目的功能,Firefly AI 助手的新功能,以及 AI 智能体能够后台持续执行重复工作的能力。
WorldFoundry 提供开源基础设施,用于可复现地推理和评估跨视频、3D/4D、具身行动和交互系统的生成世界模型,包含可追溯证据和基准,收录 270 个模型条目、74 个基准和 62 个注册指标。
CrossnoKaye 通过其 ATLAS 平台和 AURA 智能体,在 Amazon Bedrock AgentCore 上实现工业物理 AI,将生产提效 11-17% 并降低能耗 21%。AURA 利用 AgentCore 的代码解释器能力,在隔离微 VM 中运行 Python 工作负载以验证数值计算,同时通过边缘集群和云优化系统实现闭环控制。
Google AI Studio 现在可以直接构建由 Google Maps Platform 驱动的应用,用户描述想法后由 AI Studio 自动完成配置和 API key 管理,无需信用卡。
推荐理由: 原文给出了免信用卡的每日配额和从提示词到可运行地图应用的完整路径,读者可据此判断原型搭建成本。
千问办公11月9日发布2.0版本,推出支持多人与Agent协作的“协作”功能,并上线“人机共创”“资料空间”“自动任务”“三端互联”等能力,所有功能已在客户端全量上线。
推荐理由: 千问办公2.0把Agent放进团队协作场景,并给出银泰百货等具体落地案例,可观察办公Agent从个人助手转向团队协作的路径。
0sec Labs 开源了 AI 安全 harness 0,以 MIT 或 Apache-2.0 许可发布,属于研究预览版,可从本地浏览器控制台、无头 CLI 或 MCP server 驱动,用于漏洞调查、代码审查、渗透测试、逆向工程和修复生成。
推荐理由: 原文给出该安全 harness 的架构、自报基准与同类工具对比,可据此判断它在漏洞挖掘流程中的位置。
高通在第九届进博会展出端侧MoE智能体,推动终端侧AI从单点应用走向智能体体验。MoE技术通过混合专家模块提升端侧模型智能水平,在20亿至30亿参数规模下实现更高复杂度任务完成度。高通与Infris AI、江波龙、阶跃星辰合作优化模型、推理、存储和芯片平台,展示终端侧AI生态协同的系统性方案。
Drex 开源决策模型返回用户选项的概率分布,无需自回归解码,采用监督微调、RLAF 和一致性损失提升准确率、鲁棒性和延迟性,其 35B 参数的 Max 版本在 Decision Index 0.4.1 上达到 67.52 分的行业最佳成绩,且响应时间仅为 GPT-6 Sol 的 9% 和 Claude Opus 5.5 的 5%。
SLA 模型通过持续预训练和后训练,将预训练的 VLA 策略与冻结的 3D 感知模型进行空间对齐,使用特征依赖门控和概率状态 dropout 提升跨不同机器人数据的空间理解能力,同时保留推理架构。
百度发布 ERNIE 5.5 Flash Base,一个 280B 参数稀疏 MoE 基础模型,每 token 激活 14B 参数,支持 128K 训练上下文和 1M 推理上下文。
Mistral 发布 Mistral Large 4(代号 Le Chonk),主打编码、防御性网络安全和复杂文档推理,同时扩展企业平台 Mistral Studio,新增托管智能体、应用、工作流能力以及企业上下文、智能体可观测性和评估功能。
推荐理由: 原文给出托管智能体、工作流、应用三类能力与部署选项,读者可据此判断企业智能体落地方式。
StreamDuo将一个可训练解说员与一个冻结的研究智能体配对,该研究智能体检索游戏维基条目,以在不针对目标游戏进行训练的情况下提高跨游戏直播解说。StreamDuo在 Baldur's Gate 3 上训练并在十个未见过的新游戏中测试,将实体召回率从 0.082 提高到 0.116,将源游戏泄露率从 9.9% 降低到 1.0%,并在直播模型中实现了最佳时机、最高的评判活力和总体质量。
SWE-2 Flash 首次在强化学习前加入中期训练阶段,性能显著超越基线模型 Inkling-Small,Terminal-Bench 4.0 分数从 0.9% 提升至 20.0%,FrontierCode 2.0 从 3.2% 提升至 24.0%,优于所有美国开源模型。该模型在 Devin Desktop 和 CLI 中可用,价格仅为 SWE-2 的五分之一,速度提升三倍。
Common Fabric 的 CEO Alex Komoroske 在与 Tim O’Reilly 的对话中阐述了其共鸣计算宣言的核心理念,该宣言提出五项原则:私有、专注、多元、适应和利他,旨在创造能滋养而非消耗用户的科技体验。
Agile Deliberation 框架通过迭代对话协助人类定义主观概念边界,将模糊想法转化为精确的 AI 指令蓝图。该框架分为概念界定和概念迭代两阶段,通过直接反馈处理模糊图像,在 18 次 1.5 小时用户实验中显著降低用户疲劳和焦虑,使 AI 模型性能优于标准基线。
ToolSpace 通过挖掘真实 MCP 服务和开放智能体语料库中的执行轨迹,以确定性规则而非 LLM 判断,聚类加权工具组合图形成环境,应用于 AutomationBench 和 tau3-Bench Banking 产生更难的 Pro 版本。
Apple 随 iOS 27.3 更新向开发者开放 Siri AI 的新能力,第三方应用可接入个人上下文、自然语言提示和屏幕感知来完成任务。该更新以 Developer Preview 形式推出,并新增可由开发者创建的 app skills,把多个任务合并为单个动作。
推荐理由: 原文列出了 Siri AI 接入第三方应用的具体交互方式,读者可据此判断语音助手能承担哪些跨应用操作。
Google DeepMind 为 Google Antigravity 发布一套化学信息学技能(Cheminformatics Skills),基于 RDKit 并接入 ChEMBL 和 PubChem,由语言模型负责流程编排与科学推理,确定性化学工具执行分子计算。
推荐理由: 原文给出化学信息学技能在真实肺癌药物案例中的完整流程,可据此判断智能体在科研工作流中的分工方式。
使用 EDB Postgres AI 在 Amazon Bedrock AgentCore 上运行 Strands Agents,通过查询语义层回答客户 360 (C360) 问题。
研究表明视频世界模型的潜在预测误差反映外观和运动而非可靠测量物理意外。在IntPhys2基准上,潜在预测、掩码像素重建和简单视觉统计的比较显示,外观易于解码,V-JEPA2仅略微揭示事件是否可能。