跳到正文
HuggingFace Daily Papers· Arnav Chavan, Chanhyuk Lee, Udbhav Bamba, Jaehoon Yoo, Seunghoon Hong, Aditi Raghunathan, Jinwoo Kim·· 6 天前AI 评分55

Large Flow Language Models:大规模流式语言模型研究

Large Flow Language Models

AI 导读

研究人员提出Lafa模型,一种80亿参数规模的连续流语言模型,采用块状流设计和因果注意力机制,仅需不到300亿token即可完成训练。该模型在指令跟随、推理和编码任务上表现优于自回归模型,并通过自推测解码方案实现了2.54倍的吞吐量提升。

来源:HuggingFace Daily Papers · arxiv.org