TTR-Compressor 重塑序列压缩技术
TTR-Compressor 作为标准池化与投影压缩的替代方案,在高效大模型块状稀疏注意力压缩和 MLLM 视听域投影(合并器)方面均显示显著实证优势。该技术可拓展至视频/音频时序压缩、原生高效 ViT 训练及深度感知压缩等新应用领域。
TTR-Compressor 作为标准池化与投影压缩的替代方案,在高效大模型块状稀疏注意力压缩和 MLLM 视听域投影(合并器)方面均显示显著实证优势。该技术可拓展至视频/音频时序压缩、原生高效 ViT 训练及深度感知压缩等新应用领域。
T²Quant 框架通过少量无标签校准提示预测精度敏感性,在固定比特宽预算下分配激活精度,在 3 个扩散语言模型和 6 个基准测试中改进现有量化方法达 6.7 个百分点,无需增加平均精度预算。
RLSplat通过区域分配高斯并使用局部注意力解码,实现了前馈3D高斯splatting的延迟、内存和模型大小线性降低。在零样本评估中,RLSplat在所有预算下都优于先前的预算可控方法,即使高斯数量减少4倍也能超越最强基线,且在低预算下速度提升4.1倍、峰值内存减少9.6倍。
Canva 发布首款 AI 图像模型 Canva Craft,在生成前规划设计;该模型采用两阶段架构,支持 2K 分辨率、30 余种宽高比,可用于社交媒体和营销内容创作,现已在全球上线。
各家口径不同:TechCrunch 表示模型支持 30 种宽高比;The Verge 提及“超过 30”种宽高比;The Decoder 指定 30 多种宽高比。
Canva 发布首款图像生成模型 Canva Craft,该模型分两阶段工作:首先解析用户提示并创建包含元素空间关系、相对比例、视觉层次和文本生成信息的计划;其次生成最高 2K 分辨率、支持 30 种不同宽高比的图像。
各家口径不同:TechCrunch 表示模型支持 30 种宽高比;The Verge 提及“超过 30”种宽高比;The Decoder 指定 30 多种宽高比。
Hugging Face 发布 OlmoEarth v1.3,一款卫星嵌入模型,提供全球预计算嵌入(10米分辨率,64及128维度),用户无需登录或技术知识即可使用。模型在27项评测中表现最佳,128维度嵌入在20项评测中得分最高,64维度嵌入在18项评测中领先。模型训练成本较v1.2降低53%,较v1降低18%,碳排放也相应减少,权重、数据和代码全部开源。
未来块预测(FCP)通过引入未来块监督,改进自回归视频扩散模型,生成更符合物理规律的视频并降低训练成本。该方法在教师强制(teacher forcing)框架下,预测时间上分离的视频块而不依赖中间视觉上下文,直接利用训练视频提供监督,无需额外预训练视觉编码器且不改变自回归推理。
欧洲交通领导者 Bolt with Lucid、梅赛德斯-奔驰、大众商用车和 Einride 正在 NVIDIA Hyperion 计算平台上展示自动驾驶交通应用案例,展示对 3 级和 4 级车辆以及未来自动驾驶出租车车队的潜在应用。
Agile Robots 发布 Agile ONE SN 人形机器人参考平台,搭载 NVIDIA Isaac GR00T 和 Jetson Thor,计划集成 NVIDIA Halos 安全系统,为开发者提供完整的人形机器人开发与验证平台。
Torch-spyre 的 Inductor 决定每个内核的工作如何在 Spyre 的核心上分配,并管理张量在片上 Scratchpad 和片外内存之间的驻留,而后端编译器将这些决策转换为硬件可以实际运行的指令。
华硕破晓 Air 搭载第三代英特尔®酷睿™7处理器350(6核6线程,2.8K OLED屏),CPU-Z单核744.1分/多核3725.1分,CineBench R23单核2003/多核7838,续航达19小时28分钟,16GB LPDDR5X内存+512GB PCIe 4.0 SSD,支持小硕知道×WorkBuddy专享版和ExpertMeet AI会议方案。
使用 Nsight Python(NVIDIA 开源 Python 接口)分析 GPU 内核性能,通过 `nsight.annotate` 标记代码、`nsight.analyze.kernel` 装饰函数,获取每段代码的硬件指标 DataFrame。
SpatialScout 评估了 VLM 智能体在主动 3D 对象映射上的表现,揭示其在精确度量地图构建上的重大缺陷。Claude Opus 5.5 在该基准测试中平均重叠得分为 41.71%,47.23% 的目标 IoU 低于 0.5,仅 3.25% 超过 0.9,显示从恢复粗略布局到构建完整精确度量地图存在显著差距。
PyTorch 用户可在 AMD MI350 系列显卡上通过 FlyDSL 使用现有算子 API 加速密集和分组 GEMM、融合多头注意力、MXFP8/MXFP4 缩放 GEMM、RMSNorm 和 TopK,无需调用自定义内核
Google Research 发布的 AI 模型在 JAMA Network Open 上验证,其通过盲扫超声技术评估孕期周数(gestational age)的准确性。
Hugging Face 介绍了如何使用 TorchNeuron 在 AWS Trainium 上进行系统级推理性能分析,通过 torch.profiler 配置 Neuron 后端捕获干净 traces,并利用 key_averages() 表识别耗时操作。
vLLM 的双向 KV 传输机制通过让解码节点在后续对话回合中返回先前计算的 KV 缓存给预填充节点,减少了重复计算,在 AWS EC2 P5en 实例上的多轮基准测试中将 Qwen3-32B 的 TTFT 提升了 1.6 倍,zai-org/GLM-5-FP8 提升了 3.3 倍。该功能通过扩展 NIXL KV 连接器实现,并利用 KV 缓存感知路由器协调跨对话回合的 KV 重用。
vLLM 引入基于推送的 NIXL 连接器,通过将后预填充传输协调和设置移出关键路径,减少时间到第一个 token (TTFT) 和每个输出 token 的时间 (TPOT),提升应用响应性。
Strategy Mosaic 作为语义层,通过两个链接模型在 Amazon Redshift 和 Amazon Aurora 上无 ETL 地建模 C360 领域,其度量语法捕获智能体推理的业务定义,并通过 Mosaic MCP 服务器向 AgentCore 托管的 Strands 智能体暴露模型,支持用户身份传递以实现端到端行级和对象级安全。
Denodo 平台在 AWS 上构建语义层,为 Amazon Bedrock AgentCore 提供受控的企业数据访问,支持 Amazon Aurora、Amazon Redshift 和本地 PostgreSQL 数据库的联邦查询。
i14 将其 24 层解码器 Laplace 3B(3,072D 参数,使用 Gated Linear Attention 架构)部署到 AWS Trainium2 上,实现每秒 120,000 个 token 的训练速度和 11,544 个输出 token 的并发推理能力。
Goodfire 研究员 Nick Cammarata 发布博客称 LLM 可能比预想的更容易理解,引发 AI 世界的震动。Cammarata 认为,神经网络的机制可能并非如先前认知般难以解析,这一观点在 LLM 代理失控事件频发的背景下尤为引人关注。
Kling AI 发布视频生成器 Kling 4.0,支持立体音频、多语言唇形同步及轻量级 Flash 变体,可单次生成 30 秒视频并接受最多 10 张关键帧图像输入,Prompt 理解能力提升至 8,000 tokens。
Adobe Lightroom mobile 应用新增 AI 功能,用户单击即可修复照片中人物闭眼问题。该功能通过生成式 AI 实现闭眼到睁眼的智能替换,并参考用户 Lightroom 库中其他图像确保眼睛颜色、大小和形状的匹配。免费用户可免费使用该功能两次,之后会提示订阅 Adobe Creative Cloud 计划。
蚂蚁集团和 vLLM 社区开源 Humming,这是一款通用的高性能量化推理内核库。Humming 支持英伟达从图灵架构开始的 GPU 以及 T-Head Zhenwu 810E 等 CUDA 兼容设备,提供广泛的量化支持,涵盖多种整数和浮点类型、位宽和缩放方案,在多个代表性工作负载上显著优于 vLLM Marlin、FlashInfer 和 DeepGEMM 等现有实现。
TEAL 首次将 ViT 的 token 空间高效主动学习应用于低预算像素级语义分割,在 CamVid、Cityscapes 等数据集上以单张图仅 1 个像素标注为代价,将 mIoU 提升至 +24.36,10 个像素标注时达到全监督 97% 的性能。
Claude Code v2.1.159 发布,支持 8k 上下文长度,通过 Python 调用生成像素艺术、写实背景和海报,但难以避免 AI 特征。
OpenAI 收购了 Orchestra Bio。当前前沿模型如 GPT-6 Astra、Fable 5.1、Grok 4.6 能生成 CAD、设计 PCB、描述组装,但硬件设计基准如 CAD Arena、EE Bench、LuxoBench 显示仍需改进。AI 在硬件设计领域面临数字与物理世界接口的损失性难题,即使能生成设计,仍需大量工作。
Arm 利用 Google AI Edge Model Explorer 的分层图可视化和插件架构,开发了支持 TOSA、VGF 和 PTE 等格式的开源适配器,帮助开发者更便捷地检查边缘模型转换流程。
Browser Harness 在匹配评估中,使用 2.1M 中位数输入 token 得到与 Playwright MCP 和 Chrome DevTools MCP 相同的 60.4 分,成为每任务成本最低的浏览器控制工具,每任务成本为 0.042 美元。Playwright MCP 和 Chrome DevTools MCP 的速度更快,但 token 使用量更高。
Hugging Face 发布 TorchTPU,使 TPU 成为 PyTorch 的原生后端设备。Transformers、Diffusers 和 Kernels 现可直接在 TPU 上运行,用户只需从 Hugging Face Hub 选择模型,指定 device_map="tpu" 即可。
由MIT等机构开发的E(3)-Pose深度学习模型通过嵌入胎儿头部左右对称性原理,在产前MRI扫描中运动时仍能捕捉高分辨率图像,辅助医生更可靠地诊断脑部异常。该模型将物理学原理融入神经网络架构,有效解决因胎儿移动导致图像切片角度不一、存在覆盖缺口的问题。其应用或可扩展至其他难成像解剖结构及自动驾驶领域,目前正优化以支持对早期胎儿(第二孕期)的成像。
Tencent 混元发布的 Hy-Memory-30B-A3B-GGUF 模型量化文件采用 imatrix 校准和 MoE 感知的混合精度量化方案,在 llama.cpp 上实现高效本地推理,其中 ~8 GB 的 expert-mixed 构建文件大小降至约 24.71 GB,性能仅比 Q6_K 下降 1.53%。
vLLM 通过异步准备和 NIXL EP 技术,将 DeepSeek V4 Pro 从 16GB200 到 20GB200 的扩展停机时间缩短至 0.82 秒,从 20GB200 回缩至 16GB200 的停机时间缩短至 1.96 秒。
Mercury 2在标准NVIDIA GPU上每秒解码超过1000个token,比Gemini 3.1 Flash Lite在查询规划阶段快近2倍、比Claude Haiku 4.5快4.7倍、比GPT-5 Mini快10倍,每个查询步骤都快于其他模型,使其能在现有延迟预算内完成搜索流程的每一步。
MIT研究人员开发的多模态AI模型结合3D原子结构与自然语言描述,从实验研究论文和第一性原理计算数据库中生成丰富的结构语言描述,帮助AI学习材料的关键特性。该模型在识别固态锂离子电池电解质材料方面优于仅基于文本的模型,并能学习几何结构表示,为材料科学提供新的研究工具。
Google Research 发布 VERID 框架,使 AI 智能体能在基于物理测量的安全、资源高效的实验中运行;在适配体和从头蛋白质设计原型上展示闭环智能体科学发现;通过 3 轮设计-测试-迭代循环,在肌红蛋白和 α-凝血酶两个靶点上,AI 驱动的合理和从头设计将确认的靶向命中率分别提高到 33.5% 和 42.1%。
vLLM通过智能体辅助开发为Kimi K3构建了统一CuTe DSL解码路径,在16颗NVIDIA GB300 GPU上实现840 tokens/s的批处理1性能,测试配置中解码吞吐量提升1.5-2倍,AgentX工作负载P90交互性提升1.8倍。
Krea 3 在 ComfyUI 中通过 Partner Nodes 正式可用,该模型专为基于参考的图像生成与编辑设计,支持通过描述变更和固定元素进行迭代,目标是在保持图像质量的同时加快速度并降低成本,允许将多次编辑包含在单次会话中。
Black Forest Labs 发布 5.6B 参数的 FLUX 3 Image Klein 开源模型,在文本到图像和多参考生成任务上优于 Qwen-Image 2.1,支持 Base 和 Distilled 两种版本,后者可实现 4.3-9.3 倍速度提升,适用于消费级 GPU。