跳到正文
实时
热点事件历史事件

Co-Design Bench 发布:编码智能体仅完全解决 26.4% 任务

2 篇报道2 个报道来源11 天前更新

先了解这件事

AI 综述

阿里巴巴与多所亚洲高校的研究者发布编码智能体基准 Co-Design Bench,它包含 273 个任务和 2,331 项专家编写的验收标准,源自 26,314 次真实用户编码会话。在 10 个受测模型端点中,表现最好的 GPT-6 Astra 平均满足每项任务约 70% 的标准,但完全满足全部标准的任务仅占 26.4%;Qwen3.8-27B 总体严格完成率为 64.4%,在仓库编辑子集排名第二。 该基准每个任务只评估一个固定请求,不包含用户的追问或中途修正;报道同时指出,用于评分的 AI 裁判也可能出错。

AI 根据报道生成 · 更新于 10 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. The Decoder精选
    阿里等团队发布 Co-Design Bench:编码智能体仅完全解决 26.4% 的真实任务

    阿里巴巴与多所亚洲高校的研究者用真实用户变更请求构建了编码智能体基准 Co-Design Bench,十个受测模型中表现最好的 GPT-6 Astra 平均满足约 70% 的任务要求,但完全正确的任务仅占 26.4%。

10月30日
  1. Hugging Face Daily Papers
    Co-Design Bench: 多模态协作编码评测基准用于智能体模型

    Co-Design Bench 基准包含 273 个任务和 2,331 项专家编写的验收标准,源自 26,314 次真实用户编码会话。在 10 个模型端点上,gpt-6-astra 平均通过每项任务 69.9% 的标准,但仅 26.4% 的任务完全满足;Qwen3.8-27B 总体严格完成率 64.4%,在仓库编辑子集排名第二。