跳到正文
实时
热点事件历史事件

AWS发布知识蒸馏技术

1 篇报道1 个报道来源16 天前更新

先了解这件事

AI 综述

AWS在Amazon SageMaker AI上发布知识蒸馏技术,用于构建高效智能体。 通过序列级知识蒸馏(SeqKD),将大型模型的行为迁移到小型模型,实现高效低成本推理。SeqKD仅需教师模型的文本输出,无需权重或 logits,适用于无法访问教师模型内部信息的场景,如API模型。

AI 根据报道生成 · 更新于 16 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. AWS Machine Learning Blog
    在 Amazon SageMaker AI 上使用知识蒸馏构建高效智能体

    使用知识蒸馏在 Amazon SageMaker AI 上微调购物助手,通过序列级知识蒸馏(SeqKD)将前沿模型的行为迁移到小型模型,生成解决任务的推理轨迹并用于监督微调,实现高效低成本推理。SeqKD仅需教师模型的文本输出,无需权重或 logits,适用于无法访问教师模型内部信息的场景,如 API 模型,并可通过基准测试评估学生模型性能。