跳到正文
实时
热点事件历史事件

Hugging Face Daily Papers: 具身智能体持续预训练研究

1 篇报道1 个报道来源28 天前更新

先了解这件事

AI 综述

Hugging Face Daily Papers 报道了在数据规模、多样性和模型大小三个维度上进行持续预训练(CPT)的研究,提升了虚拟世界中的具身智能体学习能力,但在远距离世界泛化上存在局限。研究测试了涵盖 0.8B 至 27B 参数、50 至 1600 小时数据预算、五种数据混合的 120 种配置,发现数据量增加提升内部表现,多样性改善相关世界迁移,模型规模提升数据效率但远距离泛化更差。

AI 根据报道生成 · 更新于 27 天前

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Hugging Face Daily Papers
    Hugging Face Daily Papers:多样化虚拟世界中的具身智能体持续预训练研究

    研究通过在数据规模、多样性和模型大小三个维度上进行持续预训练(CPT),提升了虚拟世界中的具身智能体学习能力,但在远距离世界泛化上存在局限。研究测试了涵盖 0.8B 至 27B 参数、50 至 1600 小时数据预算、五种数据混合的 120 种配置,发现数据量增加提升内部表现,多样性改善相关世界迁移,模型规模提升数据效率但远距离泛化更差。