跳到正文
实时
机器之心·收录于· 3 天前65

LSTM之父领衔,KAUST、港大、华为等发布语言模型架构领域综述

下一代语言模型架构走向何方?LSTM之父领衔,KAUST、港大、华为等共同发布领域全面综述

要点速览

GQA、MLA、线性注意力网络等架构持续发展,DeepSeek 推出细粒度 MoE,该综述由 LSTM 之父领衔,KAUST、港大、华为等机构共同完成。

来源: 机器之心 · jiqizhixin.com