Meta 的 Prometheus 超级集群:构建兆瓦级 AI 基础设施的旅程
Meta 完成了 Prometheus 超级集群的首阶段建设,该集群计划扩展至约 100 万个 GPU,采用闭环液体冷却技术,目前运行 Muse 大型语言模型。
Meta 完成了 Prometheus 超级集群的首阶段建设,该集群计划扩展至约 100 万个 GPU,采用闭环液体冷却技术,目前运行 Muse 大型语言模型。
Inception Labs 推出全球最快推理大语言模型 Mercury 2,基于扩散模型架构,在 NVIDIA Blackwell GPU 上实现 1,009 tokens/秒生成速度。
Baseten 发布了 joey-1,一款 2B 参数决策模型,返回标签和校准概率而非生成文本,用于高容量路由、分类和护栏检查,每百万输入 token 价格为 0.01 美元,权重在 Hugging Face 上以 MIT 许可证开源。
各家口径不同:Baseten Blog 表示模型在参数量≤3B时表现最佳,而 MarkTechPost 提到的是 2B 参数模型。
Mistral 发布多模态 MoE 模型 Mistral Large 4(Le Chonk),约 1T 总参数、49B 激活参数,上下文窗口 1M tokens,提供 FP8 与 NVFP4 两个官方版本,另有 Unsloth 和 llama.cpp 团队制作的 GGUF。
推荐理由: 原文给出 1T 总参数、49B 激活的 MoE 多模态模型在网络安全与编码基准上的具体分数,并附本地与端点部署实测吞吐。
Moonshot AI 发布了 K3.1 系列首个模型 Kimi K3.1 Pro,采用 MoE 架构,总参数 2.8T、激活参数 104B,支持 1M token 上下文,已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上线,API 定价为每百万 token 输入 2 美元、输出 10 美元,低于 K3 的 3 美元和 15 美元。
各家口径不同:Artificial Analysis 提供了 55 分的评分并排名第四;MarkTechPost 提到了 2.8T 的总参数和 104B 激活参数的 MoE 模型。
Gemini 4 Argon 在物理理解、代码生成和视觉语义推理方面取得重大突破,在 Embodied Reasoning (ERQA) 基准测试中得分 87%,超越所有前沿模型。
DeepSeek-V4-Flash-Vision-Exp 发布,DeepSeek-V4 家族首个实验性多模态模型,在 DeepSeek-V4-Flash 架构基础上集成视觉模块并持续训练以解锁视觉理解能力。
SWE-1.6 在 SWE-Bench Pro 上取得 11% 的更高分数,但存在过度思考和自我验证问题,模型以 950 tok/s 的速度运行。该模型通过改进 RL 算法和扩展基础设施训练,计算量提升两个数量级,目前向小部分用户开放早期访问以收集反馈。
Liquid AI 发布 LFM2.5-1.2B 模型家族,其预训练扩展至 28T tokens 并通过强化学习显著提升后训练效果,在知识、指令遵循、数学和工具使用基准上表现优异。该系列包含 Base、Instruct、日语、视觉语言和音频语言模型,所有模型均开源,可在 Hugging Face 和 LEAP 获取。音频模型比前身快 8 倍,原生运行于车辆、移动设备和 IoT 设备。