ByteDance-Seed/Cross-Layer-TopK-CLT 发布:为 Qwen3-8B-Base 设计的跨层转码器
ByteDance-Seed 发布跨层转码器(CLT)为 Qwen3-8B-Base,包含 36 层 × 32,768 潜在变量,参数量 94.2B,总大小 377 GB,支持 fp32 推理,通过联合评分所有层中的 360 个最高激活潜原来编码,解码时重建原始 MLP 输出。
ByteDance-Seed 发布跨层转码器(CLT)为 Qwen3-8B-Base,包含 36 层 × 32,768 潜在变量,参数量 94.2B,总大小 377 GB,支持 fp32 推理,通过联合评分所有层中的 360 个最高激活潜原来编码,解码时重建原始 MLP 输出。
Apache Spark 4.3 发布并在 Databricks Runtime 19 中可用,Real-Time Mode 新增有状态处理,支持流式聚合、dropDuplicates 和 transformWithState。
推荐理由: 原文给出实时模式有状态处理的三项基准延迟数据和季度发布节奏变化,读者可据此判断流处理架构的取舍。
GitHub Copilot 0.168.0-alpha.2 发布,该 AI 编码智能体用于任务、项目和自动化工作,提供代码审查、质量分析、漏洞检测等功能。
vLLM 宣布在 NVIDIA、AMD、Google TPU 和阿里平头哥真武 PPU 上 Day-0 支持月之暗面开源的 Kimi K3.1 Pro,该模型为 2.8T 参数(104B 激活)多模态 MoE,上下文 1M token。
推荐理由: vLLM 团队详述为 Kimi K3.1 Pro 做 Day-0 适配的工程取舍,含稀疏注意力、KV 缓存打包与 DCP 的具体数字。
Together Compiler (TKCC) 通过高通量智能体实现 AI 推理工作负载的持续优化,在 24 小时内将前沿开源模型(Kimi K3、GLM 5.3)的延迟降低。
Together AI发布Polymorphic Inference技术,通过AI智能体持续编译优化开源模型推理性能,以应对模型发布加速、架构多样化、工作负载和硬件平台快速变化带来的挑战。该技术使推理系统能够根据动态环境快速适应,例如在80%的OpenRouter流量来自近三个月发布的模型背景下,实现接近硬件极限的性能。
Meta 推出 F3 Lightning 解决 F3 合并图发布瓶颈,通过解耦功能发布与执行实现独立验证部署,采用稳定计算标识符、单一执行计划、共享内存缓冲区和密集索引映射等优化,使提取功能生产速度比 F3 提升约 3.6 倍且不增加基础设施计算成本。
TypeSafe 的 Jev 分类器可路由任务至最经济的 Gemini 模型,50 题测试显示其准确率达 96%,优于 93.8% 的 Python 正则启发式方法;设置推理模型 MaxOutputTokens 限制并不能节省成本,反而可能中断复杂任务推理。
StateBench 是一个长上下文状态追踪基准,测试语言模型如何保持追踪长文档中实体信息的变化。该基准包含四个难度等级,从简单的不可变赋值到复杂的依赖赋值,发现循环和混合模型比 Transformer 在直接训练任务上泛化能力更强,但前沿模型如 Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol 在长输入的复杂状态追踪中仍会失效。
Cartesia 利用专为实时语音 AI 设计的状态空间模型(SSM)和 AWS 基础设施,实现亚 100ms 的文本转语音和语音转文本,支持 44 种语言语音克隆,适用于虚拟助手、客服中心等场景。Sonic 模型在约 90ms 内生成首个音频字节,Ink 模型具备原生话轮检测和噪声鲁棒性,API 接口支持实时流式输出。
AI正改变半导体晶圆厂工作方式,工程师因之加速决策。NVIDIA cuDSS库使COMSOL的多物理场仿真加速10倍,Applied Materials的Ginestra平台仿真加速10倍,ACE+平台加速35倍,Siemens的Calibre光刻软件仿真加速17倍。NVIDIA PhysicsNeMo框架让Lam Research能在毫秒级预测等离子体行为,替代耗时数天的全仿真。
PyTorchKR 与 XCENA 于 2026 年 9 月 30 日联合举办 KVCache Meetup Korea,XCENA、SK hynix、FuriosaAI 和 LMCache 的演讲者分享了 LLM 推理及 KV 缓存优化的成果。
StateBench 是一个用于测试大语言模型追踪长文档中实体状态变化的基准,包含 R-trivial、非周期、可解和一般有限四个难度等级。研究发现,循环和混合模型在直接训练这些任务时泛化能力远超 Transformer,而 Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol 等前沿模型在输入变长时仍难以处理更复杂的状态追踪问题。
MiniMax-H3-Image 是 MiniMax H3 家族的一款开源图像生成与编辑模型,支持 16MP 图像生成、图像编辑及最多 16 张参考图像,采用 H3 架构并使用 Qwen3-VL 文本编码器,在 Hugging Face 上提供 68.65GB 的 BF16 精度模型权重。
Gemini CLI v0.67.0-nightly.20261103.g0ac57c029 发布,修复了 Whisper 模型下载中断被误判为已安装的问题。
Nextcloud 因其开源协作平台被德国联邦政府和西班牙 CSIC 等机构使用,选择 AI 模型需满足公共组织的透明度和问责制要求,Olmo 3 获得该公司最高道德 AI 评级:绿色。
Databricks Lakebase 通过其基于复制-on-write 的数据库分支功能,将每个 PR 分支的创建时间缩短至秒级,支持峰值约 100 个并发分支,每分支独立读写,兼容标准 Postgres 并支持大型 JSONB/LOB 列,满足 Snorkel AI 在 CI/CD 流程中快速、安全、低成本地测试生产数据的需求。
GitHub Copilot rust-v0.167.0-alpha.1 发布,该版本用于代码审查和协作。
MonsterHouse 是一个用 NVIDIA Nemotron Voice Agent、NVIDIA Nemotron ASR、NVIDIA Nemotron 3.5 Bolt E4B 4GB、Magpie TTS Zeroshot 和 Audio2Face-3D 构建的互动投影,能通过语音与访客交流并模仿脾气暴躁的老海盗声音。
Worldwide Express 通过 Amazon Bedrock 和多智能体 AI 解决了每月 1500 万美元因货运异常导致的资金冻结问题,其系统包含三个专门处理不同类型账单纠纷的智能体,并在 6 个月内将活跃异常减少 75%,加快了 4 周的回款时间并每年节省 100 万美元。
PlanAssist 工具可将规划官员评估住宅申请时间缩短 58%,已在英国巴尼特、卡姆登和多塞特等地试点,现向 12 个更多地方规划当局推广。该工具由 Google DeepMind 与英国政府、Google Cloud 和 Faculty 合作开发,基于 Gemini 架构,通过自动验证文件、检查政策约束和草拟报告来加速流程,同时保留官员最终决定权。
inclusionAI/ZwZ2-4B-GGUF模型权重发布,该模型为Zooming without Zooming v2的一部分,分为语言模型(FP16, Q8_0, Q4_K_M)和视觉编码器及投影器(mmproj,FP16, Q8_0, Q4_K_M),提供多种精度组合,需配合lla.cpp(支持Qwen3.5多模态)使用。
Amazon Science 结合知识蒸馏(KD)和 Medusa 框架优化旅行平台 LLM。经过微调、KD 训练及 Medusa 头部改造后,TinyLlama 1.1B 模型在 AI 旅行规划、智能筛选和住宿描述生成等场景中,性能接近 70B 参数 Llama-3.1 教师,成本降低三分之二,速度提升 10-20 倍。
MoEngage 通过 Amazon Bedrock AgentCore Gateway 将 400 个内部 API 转换为受权限控制的智能体工具,解决多团队 API 集成难题。该方案无需搭建 MCP 服务器或配置网络,将新 API 上线时间从数天缩短至数小时,同时满足 API 保留在 VPC 内部、身份由服务端控制、工具定义不占用推理上下文窗口的约束。
Procore 通过 OpenSharing 将连接后的建筑数据以程序化方式共享至客户现有环境,支持 Power BI、Tableau、Snowflake、BigQuery、Databricks 工作空间或本地 SQL Server,用于报告和下游分析。
LiteRT 在 Google Play services 中迎来重大升级,其 GPU 推理速度比传统 GPU 代理器快约 1.4 倍,通过新推出的 CompiledModel API 实现,该 API 由开源 GPU 引擎 ML Drift 驱动
Anthropic 扩展 AI for Science 项目,向全球 20 家科研机构、基金会和研究中心提供免费 Claude 信用额度,支持高影响力科学项目研究。
Databricks 发布语音智能体,通过实时上下文决策在对话中调整响应,实现语言切换、转接人工或提供个性化服务。该智能体需 200 毫秒内处理客户请求,依赖 Databricks 提供的上下文、本体和治理能力,整合客户、订单、产品和政策数据,并遵循企业数据目录的访问规则。
Agents CLI v1.8.0 通过 eval generate、eval grade 等命令实现 Hill-Climbing 优化 Agent 质量,使用 custom_response_quality 指标对 4 个案例进行 1-5 分评分,发现修改系统提示词为厨师角色导致平均分从 4.0 降至 2.75。该工具支持模型后端实验和自动告警,通过循环迭代提升 Agent 性能。
LangChain 发现近 70% 的 Managed Deep Agent 运行来自定时任务。Crons 通过实现记忆("dreaming")、主动性(探索新动作)、智能筛选(事件流监控)和提醒(定时任务)等机制,使 agents 具备 proactivity、personalization 和 ambient 特性。
OpenWiki 使智能体在需要跨来源连接的问题上准确率比单独搜索高约 5 倍,添加证据图将准确率再提高 27% 并使引用一致性翻倍。
Together AI 推出 GPU 集群自动修复功能,通过在虚拟机和宿主机两端持续监控节点健康,在检测到故障时推荐最小化修复动作并提供证据,允许用户选择自动执行或手动批准。该功能目前全面可用,支持被动健康检查、修复建议、自动修复策略(含故障和节点级授权)、空闲等待控制、升级阶梯和安全护栏,并通过 API 和控制台进行修复;预览版提供基于节点标签的修复合约支持第三方检测系统。
Databricks Lakehouse Federation允许用户通过标准SQL直接查询外部数据库(如SQL Server、PostgreSQL等)中的数据,无需迁移。
Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,以 LFM3-1.7B-Base 为共享骨干派生六个 2B 级模型,覆盖文本、视觉、音频、全模态和决策,全部在 Hugging Face 开放权重。
推荐理由: Liquid AI 用同一 2B 级骨干派生六个模态模型,并给出单卡微调与端侧部署路径,可据此判断小模型专用化路线。
Hugging Face 发布 Old Ideas, Novel Problems 研究,评估六款 LLM(GPT-5.1至5.4、Claude Sonnet 4.5至4.6)判断科研创新性的可靠性。
IBM 研究人员使用四个米级 l-couplers 连接两台 IBM Quantum Nighthawk 处理器,实现 99% 的量子状态传输保真度,展示处理器间可靠量子信息传输。该新芯片间连接设计兼容 IBM Quantum Nighthawk,并可扩展至 IBM Quantum Starling 及更先进的量子计算机。
inclusionAI/Ling-3.1-flash-1019 发布,560B 参数量,25B 活跃参数/Token,1M 上下文窗口,推理能力提升,AA-Briefcase 分数 1524 Elo,AutomationBench-AA 68%,Artificial Analysis Intelligence Index v4.3.2 44 分。支持 SGLang 和 vLLM 推理。
Ai2 发布 Old Ideas, Novel Problems 研究,评估六款 LLM(GPT-5.1至5.4、Claude Sonnet 4.5至4.6)判断科研创新性的可靠性,发现微调提示词可致准确率差异超 50%。研究构建包含 154 人类原创及 154 AI 生成科研想法的基准数据集,证实模型判断稳定性不足,需更可靠方法评估 AI 提出的新想法。
GitHub Copilot rust-v0.165.0-alpha.3 发布。
Amazon SageMaker SDK v3发布,通过双分支SageMaker Pipeline为每台相机训练异常检测器和缺陷分类器,并设置质量门禁阻止性能不佳的模型。