跳到正文
实时
11月5日周四
  1. vLLM Blog75

    vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

    vLLM 宣布在 NVIDIA、AMD、Google TPU 和阿里平头哥真武 PPU 上 Day-0 支持月之暗面开源的 Kimi K3.1 Pro,该模型为 2.8T 参数(104B 激活)多模态 MoE,上下文 1M token。

    推荐理由: vLLM 团队详述为 Kimi K3.1 Pro 做 Day-0 适配的工程取舍,含稀疏注意力、KV 缓存打包与 DCP 的具体数字。

  2. NVIDIA Technical Blog65

    使用 NVIDIA NeMo 将智能体失败转化为测试并利用修复方案

    NVIDIA NeMo 可将生产中的智能体失败转化为优先级问题,并生成定制化评估,帮助改进提示词、工具、模型、内存、技能及代码。当为特定领域构建智能体时,通用的基准分数可能无法解释其失败原因,例如智能体可能选择错误工具、遵循错误工作流分支、遗漏相关上下文或使用不必要的高成本模型。

  3. O'Reilly Radar65

    如何测量 AI 对交付速度的影响

    AI 是否让软件开发更快?交付速度不是生产力,而是价值产出与成本的比值。由于软件交付物无标准化,代码行数和 PR 数等指标不可靠,且估算不准确,测量交付速度需比较团队自身前后表现。通过随机对照试验,交替进行使用 AI 和未使用 AI 的任务,可减少其他流程改进的干扰,从而更准确地评估 AI 对交付速度的实际影响。

11月4日周三
  1. Together AI Blog

    Together Compiler:面向 AI 推理的持续编译器

    Together Compiler (TKCC) 通过高通量智能体实现 AI 推理工作负载的持续优化,在 24 小时内将前沿开源模型(Kimi K3、GLM 5.3)的延迟降低。

    同一件事 · 2 家

    各家口径不同:Together AI博客提到了模型Kimi K3和GLM 5.3;MarkTechPost提到了SemiAnalysis InferenceX AgentX。

  2. Together AI Blog75

    Together AI 发布了 Together Compiler,持续编译优化 AI 推理。

    Together AI 发布了 Together Compiler(TKCC),利用高吞吐智能体持续为推理引擎生成优化方案,在 24 小时内于 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 等前沿开源模型上实现 1.3-3x 的 TPS 提升。

    同一件事 · 2 家

    各家口径不同:Together AI博客提到了模型Kimi K3和GLM 5.3;MarkTechPost提到了SemiAnalysis InferenceX AgentX。

    推荐理由: 原文给出了持续编译在多个前沿模型上的吞吐提升和引擎启动耗时对比,可据此判断推理优化流程的变化。

  3. Lovable Blog50

    我们如何构建Lovable及其持续重构的原因

    Lovable 团队通过聚焦新应用开发、限制技术栈、匹配智能体自由度与模型能力、使用知识文件替代模型微调,成功构建了支持 7000 万项目的平台。团队在 2023 年初提出计划,通过持续重构解决模型自由度、错误捕捉和计算资源限制等问题,最终实现用户通过聊天创建、部署和改进软件的功能。知识文件作为关键创新,显著提升了智能体可靠性并形成规模效应。

  4. 量子位58

    虎鲸文娱“鲸锐AI”平台正式上线,AI视频单分钟成本节省30%以上

    虎鲸文娱集团打造的行业首个AI影视制作与管理平台“鲸锐AI”正式上线,集成50余个主流AI视频生成模型与10余个自研模型,通过精准控制和流程优化,AI视频单分钟成本较传统方式节省30%以上。平台官网(www.jingruiai.cn)开放全员注册,团队席位不限人数,无需订阅会员。

  5. IT之家 · AI65

    Netflix 上线 AI Discover 标签页,可按照用户心情推荐影视内容

    Netflix 推出 AI Discover 标签页,通过用户心情和偏好推荐影视内容。用户可选主题如“来点轻松的”“吓吓我”等,系统实时学习并调整推荐。该功能目前在美国逐步上线,首批面向英语版 Netflix 用户开放。

  6. IT之家 · AI58

    OpenAI 展示员工“副业”硬件成果:GPT-6 Astra 辅助设计一周出图一月出样

    OpenAI 两名员工利用业余时间,借助 GPT-6 Astra 在不到一周内完成一款测试设备设计,模型承担外观、外壳、电路板及固件生成工作,代工厂随后在不到一个月内制成原型机。OpenAI 与马自达合作,将 Astra 用于汽车设计与仿真评估,探索造型、性能与成本优化方案。

  7. MarkTechPost65

    Soniox STT v6 发布:新增智能体文本输入与回声过滤功能

    Soniox STT v6 是其语音转文本 API 的最新版本,通过读取智能体语音并实时分析其文本内容,实现更精准的对话识别和回声消除。该模型支持 60 多种语言,提供 stt-rt-v6(流式)和 stt-async-v6(文件)两种版本,运行于 Soniox 云 API(仅 WebSocket 流式和异步 REST),无自托管或设备端选项。

  8. OpenHands Blog71

    OpenHands 与 Snowflake 推出用自有 Agent harness 后训练模型的工作流

    OpenHands与Snowflake AI Research合作,让开发者用现有的OpenHands Agent harness直接进行强化学习后训练,无需在训练框架中重建harness。

    推荐理由: 原文给出了用现有 Agent harness 直接做 RL 后训练的具体配置方式和代码定位实验,读者可据此判断训练与部署能否共用一套 harness。

  9. TechCrunch · AI65

    Netflix 新推出的 AI 发现标签帮助用户根据心情找内容

    Netflix 推出新的“AI 发现”标签,首个实验性功能允许用户根据当前心情获取推荐。用户可从“轻松一刻”、“惊悚片”、“家庭电影之夜”等主题中选择,基于心情、观看偏好、可用时间或热门趋势。该功能由 Netflix 新构建的智能层驱动,实时响应用户反馈并持续学习,旨在提升内容库的易用性并转向更个性化的 AI 驱动体验。

  10. AWS Machine Learning Blog38

    Cartesia 如何在 AWS 上构建超低延迟语音 AI 应用

    Cartesia 利用专为实时语音 AI 设计的状态空间模型(SSM)和 AWS 基础设施,实现亚 100ms 的文本转语音和语音转文本,支持 44 种语言语音克隆,适用于虚拟助手、客服中心等场景。Sonic 模型在约 90ms 内生成首个音频字节,Ink 模型具备原生话轮检测和噪声鲁棒性,API 接口支持实时流式输出。

  11. AWS Machine Learning Blog32

    Amazon Quick 整合结构化与非结构化数据。

    Amazon Quick 通过连接 Amazon S3 和创建知识库整合结构化与非结构化数据,用户可使用单一对话式 AI 代理查询。该解决方案包含数据层(存储在 S3 的非结构化内容和作为语义数据集的结构化数据)、工作空间层(将数据类型整合到单一工作空间)和代理层(自定义聊天代理链接到工作空间并返回组合响应)。

  12. NVIDIA Newsroom38

    AI如何重塑半导体晶圆厂工作方式——工程师因之加速决策

    AI正改变半导体晶圆厂工作方式,工程师因之加速决策。NVIDIA cuDSS库使COMSOL的多物理场仿真加速10倍,Applied Materials的Ginestra平台仿真加速10倍,ACE+平台加速35倍,Siemens的Calibre光刻软件仿真加速17倍。NVIDIA PhysicsNeMo框架让Lam Research能在毫秒级预测等离子体行为,替代耗时数天的全仿真。

    同一件事 · 2 家

    各家口径不同:NVIDIA博客称ZEISS SMT使用COMSOL进行EUV光刻等离子体仿真提速4倍;NVIDIA新闻室提到使用cuDSS对COMSOL进行10倍加速。

11月3日周二
  1. Hugging Face Daily Papers

    ReTrace框架:通过目标导向行动回放揭示计算机使用智能体的恢复行为

    ReTrace框架通过目标导向行动回放和受控错误注入的形式化过渡一致性恢复标准,首次系统性地研究了计算机使用智能体的自主模型恢复行为,发现理想恢复能解锁模型潜在任务完成能力,当前智能体未充分利用其潜在恢复能力,且准确模型恢复可带来可衡量的端到端增益,证明恢复是构建可靠计算机使用智能体的基本能力。