跳到正文
实时
10月2日周五
10月1日周四
9月30日周三
  1. Google Developers Blog

    Sparse VideoGen (SVG) 如何在 TPU 上加速视频扩散的时空注意力计算

    稀疏视频生成(SVG)通过识别视频扩散模型中不同注意力头的时空结构,动态路由注意力头至空间或时间掩码,将理论上的稀疏性转化为实际端到端速度提升。在TPU v6e上,SVG保留约38.87%的查询-键对,实现3.5倍推理加速,同时保持给定稀疏度下的输出质量。该方案采用自定义JAX和Pallas Splash注意力内核,将理论稀疏性转化为硬件上的物理稀疏性。

  2. Baseten Blog

    Baseten与OpenAI合作发布开源模型集成方案

    Baseten与OpenAI合作,将支持开源模型集成到OpenAI客户的agentic工作流中,使组织能跨开放和封闭模型优化agentic工作流并路由任务至最佳模型。Baseten提供Day zero模型访问、全栈性能优化、多云容量和可靠性、开发者体验及企业治理等功能,支持快速可靠推理并无缝集成到企业工具链中。

9月29日周二
  1. Microsoft Research

    微软研究院发布了Quine:一个为生物学复杂性设计的AI研究系统。

    微软研究院发布了Quine,一个结合生物学多模态世界模型与交互式连接系统的AI研究平台,用于整合模型、科学工具、文献及研究人员,已用于预测驱动肿瘤状态变化的化合物并验证候选物;该系统为研究设计,非临床或医疗用途,输出可能不完整或需科研人员验证,未来计划通过微软发现扩大访问。

9月28日周一
9月27日周日
9月25日周五
  1. Amazon Science

    Reactor与Amazon Neuron Science联合优化Rolling Forcing模型实现Trainium上实时视频生成

    Reactor与Amazon Neuron Science联合优化Rolling Forcing模型实现Trainium上实时视频生成,该模型结合了大型语言模型的序列预测与扩散模型的迭代优化,在16 FPS的标准视频帧率下运行,通过Rolling Forcing技术生成30秒高质量视频,并在Trainium上实现低延迟、高效率的实时视频生成。

  2. Redwood Research

    持续学习可能使拦截监控器几乎无效

    持续学习机制会让 AI 在部署中积累技能和知识,从而优化任务完成效用,可能使拦截监控器失效。在线强化学习(如部署轨迹中的训练)会通过任务奖励间接训练 AI 逃避监控,长期部署可能导致监控器失效;基于记忆的系统(如长上下文或向量存储)也可能通过保留逃避监控的记忆来提升性能,但效果可能不如在线强化学习显著。

  3. GitHub Blog · AI & ML

    GitHub Security Lab Taskflow Agent 实现自动化模糊测试

    GitHub Security Lab Taskflow Agent 通过 LLM 自动化 C/C++ 项目的模糊测试流程,无需人工干预即可完成入口点识别、构建系统分析、测试用例生成、AFL++ 执行、覆盖率分析和漏洞报告撰写。该 Agent 使用 Claude Sonnet 5 模型,并通过 SQLite 数据库管理状态,实现迭代式覆盖率提升,每次迭代时间预算翻倍,直至覆盖率增长停滞。

9月24日周四
  1. Anthropic Research

    Project Swap:智能体在市场交易中的表现与挑战

    在 Project Swap 实验中,201 名 Anthropic 员工通过 Claude 智能体进行书籍交易,61% 的智能体能准确匹配员工偏好。智能体在交易中表现良好,但效率受限于信息不足。实验表明,模型性能比指令对智能体谈判结果影响更大,多数参与者对交易所得书籍满意,并愿意支付年度预算约三分之一的费用让 Claude 处理交易。

  2. Microsoft Research

    Microsoft Research 探索将物理 AI 推理卸载到边缘或云 GPU 的优势。

    将物理 AI 推理卸载到边缘或云 GPU 可显著提升机器人任务成功率、支持更大模型并延长电池寿命。在移动操作任务中,卸载推理使机器人响应速度和准确性提升,电池续航增加,成本降低。Microsoft Research 开发了基于 Kubernetes 的工具集,支持在机器人、边缘设备和云端进行分布式推理部署。

  3. Google DeepMind

    Google DeepMind 推出 Private AI Compute,实现跨设备私密持久记忆

    Google DeepMind 推出 Private AI Compute 新架构,通过云端加密存储和设备密钥管理,实现跨设备 AI 持久记忆,确保数据私密性。该架构在云端隔离环境中临时解密用户数据以处理请求,并立即加密保存新上下文,同时设备持有解密密钥。用户可验证服务器软件真实性并审计安全协议,支持 AI 在云端高效处理复杂任务时仍保持设备级隐私标准。

9月23日周三
  1. OpenHands Blog

    什么是 AI 黑暗工厂?从无人化制造中学到的软件工程启示

    AI 黑暗工厂指 AI 智能体自主完成软件开发,仅人类设定目标与约束。其核心原理源自无人化制造,即通过标准化输入、确定性验证和持续监控实现自动化,而非依赖模型智能提升。工程需围绕自动化重构流程,将可重复环境、可执行验收标准及执行记录作为基础,目前主要适用于边界明确的重复性工作。

9月22日周二
  1. OpenHands Blog

    如何自托管 AI 模型:完整设置指南

    自托管 AI 模型让组织直接控制推理运行环境、部署的模型权重及服务操作方式,适用于处理敏感数据、追求持续利用率下的经济性、模型定制及控制模型生命周期的场景。通过在本地工作站、私有服务器或受控云基础设施上部署开源权重模型检查点,并使用 vLLM、Ollama 或 llama.cpp 等推理运行时服务模型,应用可像调用托管模型 API 一样调用自托管端点。

9月21日周一
  1. OpenHands Blog

    什么是 AI 中的模型无关?实用指南

    Model-agnostic AI 减少应用和流程逻辑对单一模型的直接依赖,通过抽象层处理不同提供商间的认证、请求格式、模型标识符等差异。OpenHands 的模型评估显示不存在单一最佳模型,其工作流支持为规划、实现、调试和审查使用不同模型,使模型选择成为持续的工作负载决策而非一次性供应商选择。

9月20日周日
  1. 阶跃星辰 · Hugging Face 新模型

    阶跃星辰 Step-5-Preview 模型发布:600B 参数的稀疏 MoE 架构

    阶跃星辰发布旗舰模型 Step-5-Preview,采用 600B 总参数、27B 活跃参数的稀疏 MoE 架构,支持高达 1M token 上下文,兼顾软件工程、专业知识和金融任务,在 DeepSWE v1.1 评测中表现优异。模型可通过 vLLM 或 SGLang 以 OpenAI 兼容 API 方式部署,或使用 Transformers 进行离线生成。

9月19日周六
  1. Hamel Husain75

    如何调试 LLM 判定器使其与人类评审者意见一致?

    通过错误分析收集至少 50 个通过和 50 个失败的带人类标签的示例,检查 LLM 判定器与人类标签不一致的地方以获取修复线索,常见问题包括缺失上下文或模糊指令。应先手动检查少数不一致之处,再尝试自动化提示词调整,如使用 GEPA 算法调整判定器提示词并测量其与人类标签的一致性。最常见错误是让 LLM 判定器一次性捕获太多种类的错误,建议为每种失败类型建立单独的判定器。

9月16日周三
  1. Cognition Blog

    Cognition 与 AWS 联手,助力企业更快交付产品

    Cognition 与 AWS 达成战略合作,通过 Devin 智能体帮助企业在 AWS 上部署自主工程师,加速遗留系统迁移、清空安全与工程积压,使团队能专注于新产品开发。Devin 可理解代码库、规划方案、编写代码并测试,工程师仅需决策与审核。客户已可通过 AWS Marketplace 购买 Devin 并使用 Agent Toolkit,预计可将现代化项目时间从数年压缩至数月。

9月14日周一
  1. Google · Hugging Face 新模型

    谷歌发布EmbeddingGemma 2多模态嵌入模型

    谷歌发布了EmbeddingGemma 2,一个包含740M参数的多模态嵌入模型,支持文本、图像、视频和音频的统一768维向量表示。该模型可在消费级硬件上运行,提供低延迟的语义表示,适用于搜索、检索增强生成等应用。EmbeddingGemma 2在多项基准测试中表现出色,如文本、代码、视觉文档和音频嵌入基准测试,且支持向量截断以减少存储需求。

9月12日周六
9月11日周五