AWS Machine Learning Blog3434在 AWS 上使用 AtScale 和 Amazon Bedrock AgentCore 构建语义层以支持智能体 AI
AtScale 作为语义层，通过 Semantic Modeling Language (SML) 在 Amazon Redshift 上构建维度模型，支持 Amazon Bedrock AgentCore 中的 Strands 智能体，实现跨系统 Customer 360 分析。
实时
#推理
- AWS Machine Learning Blog3434
- AWS Machine Learning Blog3434
在 AWS 上使用 Strategy Mosaic 和 Amazon Bedrock AgentCore 构建 AI 智能体语义层
Strategy Mosaic 作为语义层，通过两个链接模型在 Amazon Redshift 和 Amazon Aurora 上无 ETL 地建模 C360 领域，其度量语法捕获智能体推理的业务定义，并通过 Mosaic MCP 服务器向 AgentCore 托管的 Strands 智能体暴露模型，支持用户身份传递以实现端到端行级和对象级安全。
- AWS Machine Learning Blog4040
Eon 如何在 Amazon Bedrock AgentCore 上构建多云调查平台
Eon 使用 Amazon Bedrock AgentCore Gateway 替代了本地 Model Context Protocol (MCP) 服务器，将跨 AWS、GCP 和 Azure 的操作工具访问整合为单一认证网关，使新工程师调查工具配置时间从 2 天缩短至 2 分钟。
- AWS Machine Learning Blog4848
使用 X.509 PKI 在 AWS 上保护 AI 智能体身份
Keyfactor EJBCA 与 AWS 服务结合，通过 X.509 公钥基础设施 (PKI) 为 AI 智能体提供身份认证，解决 MCP 连接外部工具时缺乏内置认证标准的问题。
- AWS Machine Learning Blog3131
在加拿大通过 Amazon Bedrock 使用 OpenAI GPT 模型并实现跨区域推理
加拿大组织可通过 Amazon Bedrock 在加拿大 (Central) 和加拿大西 (Calgary) 区域使用 OpenAI GPT-5.6、GPT-6 和 GPT-6.1 模型，实现跨区域推理。
- AWS Machine Learning Blog3838
Octave 如何在 Amazon Bedrock 上构建安全的多人租户 AI 基础设施
Octave Reliance 团队为解决监管行业质量管理的知识孤岛问题，在 Amazon Bedrock 上构建了基于 Cohere Embed v4 的三层安全多人租户 AI 基础设施，将部署时间缩短 50%。
- AWS Machine Learning Blog4040
在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 以实现多语言推理
GPT-OSS-20B 是一个开源推理模型，默认用英语思考，在多语言推理测试中仅 22% 符合目标语言要求。通过在 Amazon SageMaker HyperPod 上使用监督微调（SFT）和强化学习（GRPO），团队可提升模型在法语、德语、西班牙语和意大利语中的推理能力，其中 SFT 负责主要行为教学，GRPO 在有提升空间时进行优化。
- AWS Machine Learning Blog3838
Amazon Quick 和 Amazon Bedrock AgentCore 如何实现供应链的对话式智能决策
Amazon Quick 结合 Amazon Bedrock AgentCore 为供应链团队提供跨系统实时数据访问，用户可通过对话式提问在 seconds 内获取跨系统答案，如识别受港口关闭影响的高收入 SKU 及成本。Quick 作为界面层，AgentCore 作为智能层，通过 MCP 协议连接 ERP、监控、采购等后端系统，实现从问题发现到生成应急采购请求的完整流程，所有操作需人工确认。
- AWS Machine Learning Blog
Smartsheet MCP on AWS 推出通用版 Model Context Protocol Server
Smartsheet 推出通用版 Model Context Protocol (MCP) Server，使 AI 助手能通过标准化协议读写管理 Smartsheet 数据，支持 40 多种工具操作表格、行、列和自动化
- AWS Machine Learning Blog3939
i14如何在AWS Trainium2上使用原生PyTorch训练和部署Laplace 3B线性注意力模型
i14 将其 24 层解码器 Laplace 3B（3,072D 参数，使用 Gated Linear Attention 架构）部署到 AWS Trainium2 上，实现每秒 120,000 个 token 的训练速度和 11,544 个输出 token 的并发推理能力。
GitHub Blog · AI & ML2222三位 Java 大师如何利用 GitHub Copilot 提升生产力。
三位 Java 大师 Vlad Mihalcea、Patrick Baumgartner 和 Frank Delporte 分享了在 Hypersistence Utils、Hypersistence Optimizer、教学幻灯片迁移等项目中使用 GitHub Copilot 的经验。
NVIDIA Blog欧洲广播联盟与 NVIDIA 合作扩展主权框架，Adobe Frame.io 加速视频智能搜索
欧洲广播联盟（EBU）与 NVIDIA 合作扩展主权框架，引入云服务商、开源模型开发者及系统集成商，帮助欧洲广播机构在部署智能体时保留数据、基础设施、模型和安全的控制权。
Databricks Blog在 Databricks 上部署 RFD4-Proteina
Databricks 将 RFD4-Proteina 模型集成到 Genesis Workbench，支持在 AI 运行时环境中执行，并与研究数据和工作流程连接。开发者可通过 Genie Code 和 NVIDIA BioNeMo Agent Toolkit 技能构建和调整管道，利用 serverless NVIDIA GPU 计算进行蛋白质设计。
vLLM Blog蚂蚁集团与 vLLM 社区开源 Humming：通用量化推理高性能内核库
蚂蚁集团和 vLLM 社区开源 Humming，这是一款通用的高性能量化推理内核库。Humming 支持英伟达从图灵架构开始的 GPU 以及 T-Head Zhenwu 810E 等 CUDA 兼容设备，提供广泛的量化支持，涵盖多种整数和浮点类型、位宽和缩放方案，在多个代表性工作负载上显著优于 vLLM Marlin、FlashInfer 和 DeepGEMM 等现有实现。
Google Developers BlogAgents CLI 扩展系统：支持跨框架的智能体开发生命周期
Agents CLI 1.5.0 版本引入扩展系统，允许开发者无需修改工具即可覆盖或添加命令，支持跨框架使用；官方发布的 LangChain 扩展替换了与框架绑定的命令，保留其余生命周期功能；开发者可创建自定义扩展，如添加软件物料清单（SBOM）扫描的部署命令，企业平台团队可借此强制执行治理策略。
Apple Machine Learning ResearchTEAL：基于 ViT 的像素级高效主动学习框架
TEAL 首次将 ViT 的 token 空间高效主动学习应用于低预算像素级语义分割，在 CamVid、Cityscapes 等数据集上以单张图仅 1 个像素标注为代价，将 mIoU 提升至 +24.36，10 个像素标注时达到全监督 97% 的性能。
- Databricks Blog
Databricks 推出 Agent Memory 增强智能体能力
Databricks 推出 Agent Memory，通过存储关键事实、偏好和流程提升智能体质量、降低成本和延迟，支持在 Lakebase 上运行，目前处于 Beta 版本。Agent Memory 基于 Databricks 最新内存研究，采用 MemCurrent 架构，在内部基准测试中使智能体任务通过率提升三倍，同时减少 31% 的 token 使用量。
OpenAI Alignment Blog5050OpenAI 推出互补指标 g-mean² 以提升模型可监控性评估
OpenAI 推出互补指标 g-mean² 以提升模型可监控性评估。g-mean² 通过行为标签和监控预测计算 TPR 和 TNR，但无法解决不同模型任务混合差异和部署风险问题。新指标包括对齐共享实例的配对匹配指标、模拟监控拒绝输出的后控制集成指标，以更全面评估模型部署风险。
Hugging Face Blog5858ALTK-Evolve如何通过学习记忆在τ²-bench客户服务任务中超越前沿模型
ALTK-Evolve 使用 GPT-4.1 学习并应用客户服务剧本，在 τ²-bench 客户服务代理基准测试中超越零售领域所有零售条目，得分达 67.5% Pass^4，且无需更新模型权重。该模型基于基本 ReAct 代理和 GPT-4.1，通过分析任务尝试并使用 GPT-4.1 将成功与失败蒸馏为简短行为规则，然后将这些指南添加到代理的系统提示中，无需权重更新或人工标注。
Mistral AIMistral AI 推出 Voxtral 3 语音代理 SDK 和尖端语音模型
Mistral AI 推出 Voxtral 3，包含 50+ 语言实时多步对话的尖端语音模型和语音代理 SDK，其语音转文本模型 Voxtral Small Transcribe 3 在 FLEURS 45 基准中 Forced WER 0.9%。
IBM Research Blogllm-d 1.0 发布：强化开源 AI 推理生产环境
llm-d 项目宣布发布 1.0 版本，这是一个 Kubernetes 原生的分布式推理服务网络，支持在任何加速器上、任何云中部署任何模型的推理栈。该版本增强了多租户服务质量、零停机操作和智能体感知服务，以在常见生产操作中实现持续性能。通过前缀缓存感知路由和 KV 缓存卸载等技术，llm-d 1.0 可捕获 97% 的可用缓存重用，降低大规模 AI 服务的成本。
- Hugging Face Blog5858
AnyLanguageModel 1.0 发布：一年支持苹果平台本地模型进展
AnyLanguageModel 1.0 发布，一年支持苹果平台本地模型进展。新增支持 OpenAI Chat Completions、Anthropic Messages、Google Gemini 等云端模型，本地模型支持 llama.cpp、MLX、Core ML，工具调用与引导生成功能扩展。云端模型具备本地模型相同功能，API 密钥支持闭包动态获取。
- Google Developers Blog
Google 推出基于 TPU 的 vLLM 和 SGLang 推理引擎
Google发布原生PyTorch后端的vLLM和SGLang推理引擎，支持TPU并优化生产级服务；vLLM-TorchTPU在SemiAnalysis InferenceX基准测试中实现175B参数模型每百万token成本2.01美分，行业领先。
- vLLM Blog
vLLM TorchTPU 发布：在 Google Cloud TPU 上运行 vLLM 的新后端
vLLM TorchTPU (vllm-torchtpu) 发布，可在 Google Cloud TPU 上运行 vLLM，支持 Pallas 内核的注意力、Mixture-of-Experts 和量化矩阵乘法，保持 vLLM 体验不变，支持六维并行，推荐 TPU v7x (Ironwood)。
Anthropic ResearchAnthropic 使用 Claude 减少 code 的攻击面
Anthropic 使用 Claude 分析 25 个开源项目（逾 500 万行代码），发现 493 个安全问题。Claude 在 11 个受保护项目中识别出 191 个未授权可达的代码点，包括 93 个默认配置下可访问的预认证表面、37 个认证前执行代码或记录状态的位置，以及 61 个导致预认证控制被管理员配置弱化的配置组合。
- Google Developers Blog
Coral NPU的开放标准如何统一边缘AI并实现便携式、节能型智能
Coral NPU 发布了完整的 32 位架构，包含新的矩阵执行单元，支持高达 1 TOPS 性能和 10mW 平均功耗；推出基于 IREE/MLIR 的 Coral Compiler v1.0。
- Google Developers Blog
Arm 使用 Google AI Edge Model Explorer 为自定义边缘编译器添加视觉图调试功能。
Arm 利用 Google AI Edge Model Explorer 的分层图可视化和插件架构，开发了支持 TOSA、VGF 和 PTE 等格式的开源适配器，帮助开发者更便捷地检查边缘模型转换流程。
- Hugging Face Blog
Hugging Face 推出 TorchTPU：原生 PyTorch 后端支持 TPU
Hugging Face 发布 TorchTPU，使 TPU 成为 PyTorch 的原生后端设备。Transformers、Diffusers 和 Kernels 现可直接在 TPU 上运行，用户只需从 Hugging Face Hub 选择模型，指定 device_map="tpu" 即可。
Meta EngineeringMeta 推出 GenRecs Tokenization 以稳定模型词汇表重塑广告推荐
GenRecs Tokenization 通过将广告、产品等项用稳定语义词汇表表示，结合 Meta 生成式广告模型（GEM）和自适应排序模型，为广告主带来 0.35% 的转化率提升。该技术利用预训练大模型的世界知识，使推荐系统能理解新项目或无历史交互的用户偏好，并通过共享概念加速学习、实现跨活动迁移、随大模型规模提升性能，形成性能改进的反馈循环。
- Meta Engineering
Meta 工程师如何通过精简路由器提升 AI 代理的可靠性
Meta工程师通过构建一个1,300行的精简路由器，将20+工作流分配给14个专业AI代理，路由器自身不执行任何领域工作，显著提升了数据管道代理的效率和准确性。
Sakana AI5555Sakana AI 提案「QD-Rec」以开放式探索方法提高推荐的质量和多样性
Sakana AI 提出了‘QD-Rec’，将候选与假设的组作为推荐单位，通过生成AI参考过去的优秀假设来生成新的假设的循环，积累高质量的多样化推荐。在并购、客户定位、论文推荐方面进行了实验，在许多设置中平均评估都很高，构建了规模较大的推荐集合。
LangChain BlogNu公司如何用LangGraph和LangSmith构建AI健康教练并优先进行评估
Nu公司在开发AI健康教练Nu时，优先构建了评估标准以避免越界医疗诊断，采用LangGraph框架和LangSmith工具，通过按类别评分的LLM裁判和开放式行为测试，确保系统在满足健康指导需求的同时符合监管要求。评估框架针对单一回复和完整对话分别设计，支持在两个前沿模型提供商间快速迁移，安全探针和守门节点实时审查对话内容，确保产品始终处于合规边界内。
- IBM Research Blog2222
Coursera 新课程《AI 数据流架构：从原理到实践》教授现代加速器运行原理
Coursera 新课程《AI 数据流架构：从原理到实践》教授工程师如何跨 GPU、TPU、Cerebras WSE、Groq LPU 和 IBM Spyre 加速器工作。课程由 IBM 研究院高级研究科学家 Kaoutar El Maghraoui 主讲，通过六门课程和动手实验覆盖执行模型、编译、内存系统、调试和性能建模，强调不同架构如何影响模型性能及编译器优化关键作用。
腾讯混元 · Hugging Face 新模型腾讯发布 Hy-Memory-30B-A3B-GGUF 模型量化文件
Tencent 混元发布的 Hy-Memory-30B-A3B-GGUF 模型量化文件采用 imatrix 校准和 MoE 感知的混合精度量化方案，在 llama.cpp 上实现高效本地推理，其中 ~8 GB 的 expert-mixed 构建文件大小降至约 24.71 GB，性能仅比 Q6_K 下降 1.53%。
- vLLM Blog
vLLM 如何实现弹性专家并行近零停机扩展
vLLM 通过异步准备和 NIXL EP 技术，将 DeepSeek V4 Pro 从 16GB200 到 20GB200 的扩展停机时间缩短至 0.82 秒，从 20GB200 回缩至 16GB200 的停机时间缩短至 1.96 秒。
- Google Developers Blog
LiteRT Tensor API 发布：边缘设备原生模型开发新方案
LiteRT Tensor API 发布，支持开发者以 C++ 在边缘设备原生编写和优化模型，实现跨平台（CPU/GPU/NPU）部署，无需转换脚本。开发者可完全控制计算图结构并直接加载模型权重，通过共享加速器缓冲区实现零拷贝数据流转，同时为 AI 编码智能体提供构建模块。
- Hugging Face Blog
TorchNeuron：在 AWS Trainium 上运行 HF 模型变得前所未有的简单。
TorchNeuron 为 PyTorch 在 AWS Trainium 提供新原生后端，Transformer、Diffusers 和 Kernels 均原生支持，使在 Trainium 上运行模型和在 HF Hub 分享模型变得前所未有的简单。
- Google Developers Blog
使用 ADK 和 Gemini 3.8 构建「永不沉默」的语音代理
使用 ADK 和 Gemini 3.8，通过流式工具和异步函数实现非阻塞语音交互，将销售报告工作流的首次响应时间从 14.4 秒缩短至 1.2 秒，支持零静默、进度更新和并行对话。
MiniMax NewsMiniMax M3.1 Flash 发布：性能提升与成本降低的下一代模型
MiniMax M3.1 Flash 正式推出，相比前代在线推理速度提升近三倍、成本降低 70%。该模型在复杂智能任务（cowork）、计算机使用、软件开发和网络安全等基准测试中表现优异，自动化任务排名 AutomationBench-AA 前列，DeepSWE v1.1 得分 73.7%，OSWorld V2 和 ALE 分别得分 61.7 和 29.6，CyberGym 得分 82%。
Ollama BlogCloudflare 的 27B 多模态决策模型 Clef 已登陆 Ollama 云平台
Cloudflare 的 27B 多模态决策模型 Clef 已登陆 Ollama 云平台，用户可本地运行或使用云端服务。Clef 将状态和类型化问题模式转化为决策，支持文本和图像输入，兼容 Jev 和 System One API，基于 Qwen3.8-27B 微调并采用 Apache 2.0 许可证。在 Cloudflare 决策指数评测中，Clef 优于 Jev 并在多数基准测试中表现领先。
