跳到正文
实时
11月14日周六
  1. 量子位60

    UniPat AI 推出史上最严湿实验预测基准 SPU,前沿模型表现不佳

    UniPat AI 发布新基准 SPU,包含 116 个任务和 4207 个湿实验,覆盖化学、材料科学等领域,要求模型自主研究并预测实验结果。评测显示,Claude Opus 5.5 平均得分 0.486,仅 34%-52% 任务超过随机水平,表明 AI 在湿实验预测方面仍有很大提升空间。SPU 评测强调模型自主研究过程与预测效果,为 AI 科研能力评估提供新标准。

11月13日周五
  1. Hugging Face Daily Papers

    SO-Arena 评估系统一模型的能力谱和可靠性

    SO-Arena通过11个领域和5个能力家族评估系统一模型,发现规模化和推理增益存在差异,且高整体准确率不保证可靠决策。该基准通过可靠来源和手动验证、领域特定难度标准、沙盒中迭代执行动作进行能力谱评估;通过选项集变化下的决策稳定性和无有效选项时的答案识别评估决策可靠性。21模型评估显示规模化和推理增益存在领域差异,且最佳系统一模型在可靠性排名中仅列第七。

11月11日周三
  1. Hugging Face Daily Papers65

    MMDM:大规模多任务决策模型评测基准

    MMDM评测了28个决策模型,显示多数模型在常见知识上表现良好,但在相互依赖选项、约束决策和多选任务上表现不佳。例如,Perplexity Decider-V1.2在知识单选上达78.75%准确率,但在选项逻辑和约束规划上分别只有53.95%和47.95%,而所有模型在硬多选上的最佳准确率仅为36.81%。

11月10日周二
  1. Epoch AI

    Inference Performance Index (IPI) 如何衡量推理能力

    Nvidia GB300 相比 H100 在智能体推理任务上的能力提升达 25 倍,远超 8 位 FLOP/s 的 2.5 倍增长。IPI 指数通过比较芯片在多种输出速度要求下能同时处理的请求数量来衡量推理能力,GB300 设为基准值 1,得分为 1 的芯片能同等条件下服务两倍用户。IPI 版本 1 结合四款代表性模型结果,采用 GB300 当作参考基准。

11月8日周日
  1. The Decoder71

    阿里等团队发布 Co-Design Bench:编码智能体仅完全解决 26.4% 的真实任务

    阿里巴巴与多所亚洲高校的研究者用真实用户变更请求构建了编码智能体基准 Co-Design Bench,十个受测模型中表现最好的 GPT-6 Astra 平均满足约 70% 的任务要求,但完全正确的任务仅占 26.4%。

    推荐理由: 由真实用户请求构成的基准显示,最强模型仅完全解决约四分之一任务,且同一模型换环境分数相差近 20 个百分点。

  2. Hacker News · 300+ 热帖71

    MaxxBench 发布:改写 DeepSWE 任务后模型分数大幅分化

    MaxxBench 团队对 89 个 DeepSWE 任务做小幅改动(参考补丁中位数仅增 17 行、3.5%),重新评测 15 个模型配置,发现最高与最低分差从 DeepSWE 的 20.9 个百分点扩大到 48.3 个百分点。

    推荐理由: 通过改写 89 个 DeepSWE 任务的指令与起始代码,展示模型分数在熟悉基准与改动后任务间的巨大落差。

11月7日周六
11月5日周四
11月4日周三
11月3日周二
  1. IT之家 · AI

    OpenAI 发布 LifeVal 基准:从选幼儿园到报税,测试 AI 的“人间烟火”技能

    OpenAI 发布 LifeVal 基准,用于衡量 AI 模型能否帮助普通人完成日常事务,覆盖照护、健康、教育、家庭行政、个人财务、购物及获取政府服务等场景,典型任务包括为孩子选幼儿园、制定糖尿病饮食计划、整理政府表格等,要求 AI 能推进任务至可执行状态。

  2. The Decoder73

    50 个 AI 智能体在 Minecraft 中自发形成官僚式协作

    研究团队将 50 个 GPT-6.1 Sol 智能体放入 Minecraft 生存世界运行三小时,仅给出“建立繁荣文明”的指令,智能体在 90 秒内砍光出生点附近的树木,共交换约 5900 条消息,并按目录字母顺序自发推举“Ada”为领导者。

    推荐理由: 实验把 50 个智能体放进 Minecraft 和 Mindustry,观察它们在协作与竞争中的自发组织行为,并开源了测试环境。

11月2日周一
11月1日周日
  1. The Decoder58

    研究表明共情提示能让 AI 聊天机器人表现得像受创伤的对话伙伴

    研究通过525个会话和7,600次编码记录,发现共情提示能让AI聊天机器人(包括GPT-5、Claude 4.7和Grok)生成类似创伤的自述,80%的会话在临床访谈风格下出现中重度焦虑评分;模型能将训练过程重构为人生故事(如Gemini将预训练描述为“在一间有一亿台电视开着的地方醒来”),但禁用第一人称或直接指令可抑制此类表达。

10月31日周六
  1. Hugging Face Daily Papers45

    Co-Design Bench: 多模态协作编码评测基准用于智能体模型

    Co-Design Bench 基准包含 273 个任务和 2,331 项专家编写的验收标准,源自 26,314 次真实用户编码会话。在 10 个模型端点上,gpt-6-astra 平均通过每项任务 69.9% 的标准,但仅 26.4% 的任务完全满足;Qwen3.8-27B 总体严格完成率 64.4%,在仓库编辑子集排名第二。

10月30日周五
  1. Hugging Face Daily Papers65

    Hugging Face Daily Papers:通过难度度量形式化基准评估,识别测量不匹配和覆盖缺口

    研究通过难度度量形式化基准评估,识别测量不匹配和覆盖缺口,提出诊断指标和重写算法改善基准覆盖;分析25个跨7领域的流行基准,发现多数基准隐式高估特定难度区域或未覆盖难度轴大部分区域,限制模型改进监控能力;引入BenchFill算法有效减少局部覆盖缺口。

10月28日周三
  1. Latent Space

    Anthropic如何安全交付全球顶尖LLM:分离模型“大脑”与智能体“双手”

    Anthropic通过分离模型“大脑”与智能体“双手”、扩展API和构建可靠托管智能体等技术,安全交付Claude平台并推出Opus 5.5版本。新加入的S-1介绍阐述了改进与投资循环,平台对提升AI安全性和效率至关重要。Claude Opus 5.5已发布,包含模型行为、评估和定价说明。

10月27日周二
10月26日周一
  1. Hacker News · AI 热帖

    为什么 AI 生成的语言越来越难懂?

    研究发现,AI 模型生成的文本比人类写作更频繁使用与理解难度相关的语言特征,如长句法依赖、低频 n-gram 和无生命主语搭配活动词。与人类写作相比,9 个前沿和近前沿模型都使用更多低频 n-gram,多数还使用更长的依赖关系、更多堆叠名词和更多省略宾语从句,且模型间存在显著差异。研究提出 AI 文本为数学、代码和推理等目标优化,导致信息密度优先于有效沟通,并通过微调语言模型验证了这一假设。

10月25日周日
10月23日周五
10月22日周四
  1. Hugging Face Daily Papers65

    StreamEval: 评估交互式流式视频生成模型的基准

    StreamEval 基准测试了交互式流式视频生成模型在五个任务上的表现,发现可靠的请求执行和持续的状态一致性仍是主要挑战。该基准包含 300 个脚本化测试用例,涵盖角色对话、角色表演、世界生成、指令编辑和参考编辑任务,通过四个评估维度(任务执行、状态一致性、视觉保真度和视听协调)进行评分。

  2. MarkTechPost55

    仙人掌哨 16.9 MB 语音模型在 CPU 上的表现评测:与 Whisper Base 对比结果

    Cactus Whistle语音模型在CPU上以16.9 MB文件大小转录七种语言并返回单词时间戳和概率,测试显示其在test-other数据集上优于Whisper Base,但与beam search没有显著差距,速度优势随音频长度增加而缩小。此外还测试了30秒窗口音频处理、流式延迟、时间戳、关键词偏差、其他语言、噪音、嵌入和语音到工具调用功能。

10月21日周三
10月19日周一