跳到正文
实时
找到 42 条 · 更新于 01:10
10月25日周日
  1. IT之家 · AI75

    开源项目 GPU Unlock 可释放 RTX 30 系列显卡隐藏 AI 算力,实测提升最高约 60%

    GitHub 用户 Zagitta 开发的开源项目 GPU Unlock 可解除安培架构消费级显卡在 FP16/BF16 张量核心运算中的指令发射速率限制,无需修改驱动或刷写 VBIOS。

    推荐理由: 原文给出多张 RTX 30 显卡在 GEMM 与图像生成负载下的实测提升数据,也标明了显存带宽等限制。

10月8日周四
7月1日周一
11月12日周四
11月6日周五
  1. vLLM Blog72

    REINFORCE Zero:对齐 kernel 让异步 RL 在 lag 64 下稳定训练

    NVIDIA Research 与 Inferact 的 REINFORCE Zero 提出先对齐 rollout 与训练 kernel,再用不裁剪的 token 级重要性采样修正权重滞后,在 16 张 GPU、12K 次更新下训练步吞吐为同步训练的 2.40 倍。

    推荐理由: 论文把异步 RL 的 rollout 与训练差距拆成权重滞后和 kernel 不一致两项,并给出对齐后免裁剪重要性采样的做法。

11月5日周四
10月27日周二
  1. NVIDIA Blog

    C-BRAIN 与 NVIDIA 联合利用 AI 加速痴呆症研究

    C-BRAIN 与 NVIDIA 正利用 AI 改变痴呆症研究进程。他们通过整合此前未公开的阿尔茨海默症研究数据,包括未发表结果和受管制的专有数据,加速新疗法研发。C-BRAIN 运用混合集中式和联邦式架构保护数据隐私,部署 64 块 NVIDIA 数据中心 GPU 及云端节点,并计划引入 NVIDIA Blackwell 系统以支持其扩展目标。

10月25日周日
  1. vLLM Blog60

    vLLM在GB300 NVL72上服务DeepSeek-V4.1-Flash:性能追平DeepInfer并扩展至整机架

    vLLM 团队在 NVIDIA GB300 NVL72 单机架上用 P/D 分离与 Wide-EP 服务 DeepSeek-V4.1-Flash,在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s,为早期单节点结果的 7.9 倍。

    推荐理由: vLLM 团队公开了在 GB300 NVL72 上服务 DeepSeek-V4.1-Flash 的逐项优化与实测数据,可与 DeepSeek 自家引擎 DeepInfer 对照。

10月24日周六
  1. Cohere Blog58

    Cohere Model Vault 推出机密计算功能

    Cohere Model Vault 公开测试推出机密计算功能,为托管企业 AI 带来硬件级保护和可验证安全。该功能在 CPU 和 GPU 上运行推理,通过硬件强制隔离保护工作负载内存,并使用 NVIDIA 机密计算技术加密 GPU 内存和 CPU 与 GPU 之间的流量。客户可在发送敏感数据前验证处理环境,包括硬件、固件和软件配置,确保数据在推理过程中得到保护。

10月21日周三
10月19日周一
2月10日周二
8月7日周四
  1. Cohere Blog

    Cohere 推出 North:下一代企业级 AI 平台

    Cohere 发布企业级 AI 平台 North,通过安全访问工作数据,结合生成式搜索模型、可定制智能体和内置工作流自动化,帮助员工提升任务效率和质量。该平台支持私有化部署,最低仅需两块 GPU 即可运行,已获 RBC、Dell 等企业采用,覆盖金融、医疗等关键行业,并具备细粒度权限控制、自主策略和合规认证等安全特性。

7月10日周四
  1. Prime Intellect Blog

    Prime Intellect 发布 SYNTHETIC-2:四百万条协作生成的推理轨迹数据集

    Prime Intellect 发布 SYNTHETIC-2 数据集,包含四百万条经验证的推理轨迹,涵盖迄今最全面的复杂强化学习任务和验证器。该数据集通过全球计算贡献者的管线并行分布式推理协作生成,1,253块 GPU(包括49个8xH200节点、43个8xH100节点及大量消费级3090和4090 GPU)在3天内参与创建。

6月23日周一
11月12日周四
10月31日周六
10月30日周五
  1. MarkTechPost

    Baseten 发布 joey-1,一款 2B 参数决策模型,每百万输入 token 价格为 0.01 美元

    Baseten 发布了 joey-1,一款 2B 参数决策模型,返回标签和校准概率而非生成文本,用于高容量路由、分类和护栏检查,每百万输入 token 价格为 0.01 美元,权重在 Hugging Face 上以 MIT 许可证开源。

    同一件事 · 2 家

    各家口径不同:Baseten Blog 表示模型在参数量≤3B时表现最佳,而 MarkTechPost 提到的是 2B 参数模型。

  2. Baseten Blog22

    Baseten 与 Postman:构建企业级可靠且经济高效的智能体

    Postman 的智能体栈包含 Passport、Fabric、Astropods 和 Fern 四个产品,用于准备 API、控制系统访问和治理智能体行为。Baseten 作为 Postman 推荐的企业团队推理伙伴,提供快速、可靠且经济高效的推理基础设施,支持多种模型,如 Beam 1.0 和 DeepSeek V4.1 Flash,在吞吐量和延迟方面排名靠前。

10月29日周四
  1. Hugging Face Blog85

    Mistral Large 4(Le Chonk)在 Hugging Face 发布

    Mistral 发布多模态 MoE 模型 Mistral Large 4(Le Chonk),约 1T 总参数、49B 激活参数,上下文窗口 1M tokens,提供 FP8 与 NVFP4 两个官方版本,另有 Unsloth 和 llama.cpp 团队制作的 GGUF。

    推荐理由: 原文给出 1T 总参数、49B 激活的 MoE 多模态模型在网络安全与编码基准上的具体分数,并附本地与端点部署实测吞吐。

10月24日周六
  1. MarkTechPost83

    Moonshot AI 发布 Kimi K3.1 Pro:2.8T 总参数、104B 激活的 MoE 模型,支持 1M 上下文

    Moonshot AI 发布了 K3.1 系列首个模型 Kimi K3.1 Pro,采用 MoE 架构,总参数 2.8T、激活参数 104B,支持 1M token 上下文,已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上线,API 定价为每百万 token 输入 2 美元、输出 10 美元,低于 K3 的 3 美元和 15 美元。

    同一件事 · 5 家

    各家口径不同:Artificial Analysis 提供了 55 分的评分并排名第四;MarkTechPost 提到了 2.8T 的总参数和 104B 激活参数的 MoE 模型。

10月23日周五
  1. The Verge · AI65

    Meta 推出 Muse 个人 AI 代理,计划构建大规模代理网络

    Meta 在财报电话会议上宣布其个人 AI 代理 Muse 已在美国和加拿大下载超过 1000 万次,其中四分之一用户日均使用。扎克伯格称 Muse 将在未来几年实现高利润,并构建一个让个人代理相互交互的“大型 Muse 网络”,预计将产生比 Instagram 和 Facebook 更高的用户收入。

10月21日周三
10月20日周二
10月19日周一
10月14日周三
  1. Google DeepMind

    Gemini 4 Argon 为机器人技术带来突破性进展

    Gemini 4 Argon 在物理理解、代码生成和视觉语义推理方面取得重大突破,在 Embodied Reasoning (ERQA) 基准测试中纯推理得分 87%,超越所有前沿模型。Argon 可应用于机器人生命周期的各个环节,包括使用 MuJoCo 进行移动操作练习、零样本机器人控制和视频世界模型的闭环转向。

10月13日周二
10月12日周一
10月8日周四
10月6日周二
10月3日周六
9月1日周二
8月31日周一
5月7日周四
3月1日周日