HuggingFace Daily Papers· Kuan Zhang, Yukun Chen, Zhihao Yang, Yue Su, Xiangnan Wu, Zirong Chen, Run Luo, Jinkun Hou, Tao Tan, Yinhe Zheng, Yiming Li·· 6 天前AI 评分45
具身智能体在多样化虚拟世界中的持续预训练扩展研究
Scaling in Games: Continued Pre-Training For Embodied Agents In Diverse Virtual Worlds
AI 导读
研究通过持续预训练(CPT)探索数据量、多样性和模型规模对具身智能体在虚拟世界中的性能影响,覆盖0.8B至27B参数模型、50至1600小时数据及多世界混合训练。结果显示数据量提升同领域性能,多样性增强相关世界迁移能力,模型规模提高数据效率但远距离泛化受限;模型在3D世界中与专业模型竞争,实时表现最佳。
来源:HuggingFace Daily Papers · arxiv.org