机器之心·收录于2026-10-26 15:15· 19 天前65

Jeff Dean投资公司发布无需反向传播的Transformer预训练成果

不用反向传播，也能预训练Transformer，Jeff Dean投的这家公司出成果了

要点速览

无需反向传播也能预训练Transformer模型，Jeff Dean投资的公司取得成果。该技术突破传统神经网络训练依赖反向传播的限制，可能影响未来大模型架构和优化器设计。

来源: 机器之心 · jiqizhixin.com