跳到正文
实时
10月21日周三
  1. NVIDIA Technical Blog65

    NVIDIA OpenShell Reference Architecture 如何在规模化中保障 AI 智能体工作负载的安全与治理

    NVIDIA OpenShell Reference Architecture 通过定义安全边界和治理策略,在规模化中保障 AI 智能体工作负载的安全。该架构支持智能体在执行复杂任务时访问文件、工具和互联网,并能动态协作。架构通过强化访问控制、审计日志和权限管理,降低智能体长时间运行带来的风险。

  2. 量子位65

    生数科技Motubrain团队将直播Physical AI训练全流程,持续半个月

    生数科技Motubrain团队开启2.0训练全流程直播,持续半个月展示具身模型训练过程。直播涵盖预训练、后训练、Agent任务执行和RSI探索四个环节,向公众开放模型从训练到能力迭代的过程。此举旨在提升Physical AI研发透明度,分享规模化训练、跨任务泛化等研究经验。

  3. Latent Space

    DeepSeek DeepInfer 开源 SOTA 推理引擎:每日处理 155T tokens/集群,日创利 220 万美元,80% 利润率,81 天投资回报

    DeepSeek 发布开源推理引擎 DeepInfer,支持分布式推理、推测解码等,单集群每日处理 155T tokens,96% 输入缓存命中率,单卡时程收入 38 美元/小时,80% 利润率,81 天投资回报。引擎基于 vLLM 并添加缓存优化,但 KV 缓存管理和负载均衡组件未完全开源。vLLM 团队报告在 GB200 上解码吞吐量与 DeepInfer 相近。

  4. AWS Machine Learning Blog34

    在 AWS 上使用 Strategy Mosaic 和 Amazon Bedrock AgentCore 构建 AI 智能体语义层

    Strategy Mosaic 作为语义层,通过两个链接模型在 Amazon Redshift 和 Amazon Aurora 上无 ETL 地建模 C360 领域,其度量语法捕获智能体推理的业务定义,并通过 Mosaic MCP 服务器向 AgentCore 托管的 Strands 智能体暴露模型,支持用户身份传递以实现端到端行级和对象级安全。

  5. TechCrunch · AI

    Eka Robotics 因其物理 AI 模型估值 14.5 亿美元

    Eka Robotics的机器人能以超人类水平处理物体,刚完成1.5亿美元A轮融资,估值14.5亿美元。其核心是视觉-力-行动模型,而非常见的视觉-语言-行动模型,通过物理模拟和强化学习实现无需重新训练即可适应多种物体,可靠抓取成功率超95%。创始人来自MIT和DeepMind,该技术旨在弥合通用性与性能的差距。

  6. TechCrunch · AI

    Google 发布开源 PyTorch 版本 TorchTPU 攻击 Nvidia AI 开发者生态

    Google 宣布其备受期待的 PyTorch 版本 TorchTPU 已作为开源项目发布,让 AI 应用开发者可将其应用运行在 Google 的 Tensor Processing Units (TPUs) 芯片上。

    同一件事 · 2 家

    各家口径不同:MarkTechPost 表示 TorchTPU 是为云 TPU 设计的原生 PyTorch 后端,旨在取代 PyTorch/XLA 并支持 eager-first 执行;TechCrunch 提到它是对 Nvidia AI 开发者生态系统的攻击。

  7. 腾讯混元 · Hugging Face 新模型78

    腾讯混元开源 Hy-Nomas 交互式世界生成模型

    腾讯混元在 Hugging Face 发布视频世界生成模型 Hy-Nomas,支持通过文本指令和相机控制进行自由形式的多轮交互,逐段生成视频并延续同一世界。模型采用分段自回归 DiT 架构,结合 Qwen2.5-VL-7B 文本编码器、相机条件模块和 PixelUMM 解码器,蒸馏推理配置为 8 步去噪、720×1280 分辨率、24 FPS。

    推荐理由: 腾讯混元开源可多轮交互的世界生成模型,给出架构细节与单卡 4090 部署配置,便于评估落地成本。

  8. OpenHands Blog63

    Recursive Flint 在 OpenHands 上发布:开源模型助力本地高效编码工作流

    Recursive Flint 发布,一款 40 亿参数的混合专家模型,专为本地高效推理设计,每 token 仅激活约 2.5 亿参数,在 M4 Pro MacBook Pro 上实现 125+ tokens/秒,NVIDIA RTX Spark 上达 150+ tokens/秒。OpenHands 作为其首发合作伙伴,支持该模型在本地硬件上运行,为开发者提供开源编码模型选项。

  9. vLLM Blog60

    vLLM 首日支持 Recursive 的 Flint 模型

    vLLM 宣布在 Flint 发布当天提供支持,NVFP4 与 BF16 两个 checkpoint 均可在单张 GPU 上运行,单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。

    推荐理由: 原文给出了 Flint 在 vLLM 上的 day-0 支持、单卡吞吐数据和逐项内核优化过程,读者可据此判断小批量推理的工程取舍。

  10. vLLM Blog

    蚂蚁集团与 vLLM 社区开源 Humming:通用量化推理高性能内核库

    蚂蚁集团和 vLLM 社区开源 Humming,这是一款通用的高性能量化推理内核库。Humming 支持英伟达从图灵架构开始的 GPU 以及 T-Head Zhenwu 810E 等 CUDA 兼容设备,提供广泛的量化支持,涵盖多种整数和浮点类型、位宽和缩放方案,在多个代表性工作负载上显著优于 vLLM Marlin、FlashInfer 和 DeepGEMM 等现有实现。

  11. Google Developers Blog

    Agents CLI 扩展系统:支持跨框架的智能体开发生命周期

    Agents CLI 1.5.0 版本引入扩展系统,允许开发者无需修改工具即可覆盖或添加命令,支持跨框架使用;官方发布的 LangChain 扩展替换了与框架绑定的命令,保留其余生命周期功能;开发者可创建自定义扩展,如添加软件物料清单(SBOM)扫描的部署命令,企业平台团队可借此强制执行治理策略。

  12. Gemini CLI releases15

    Gemini CLI v0.65.0发布

    Gemini CLI v0.65.0发布,修复了23个问题,包括强制非受信文件夹的只读工作区设置、避免会话恢复时的重复工具响应、防止快速退出时删除恢复的会话历史记录等,并新增支持遥测配置中的自定义OTLP标头。

  13. Claude Code releases40

    Claude Code v2.1.305 发布

    Claude Code v2.1.305 发布,新增 sandbox.allowNestedUserNamespaces 支持 Linux 下用户命名空间创建,修复了 Vertex、Bedrock 等平台因工具搜索被拒绝导致请求失败的问题,以及 /effort 和 /autocompact 设置未生效等 Bug。