跳到正文
实时
热点事件历史事件

ZYFA:AMD MI355X 专用 FP8 FlashAttention 发布

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

Zyphra 发布了 ZYFA(Zyphra FlashAttention on AMD),针对 AMD Instinct MI355X GPU 的 FP8 和 BF16 预填充注意力内核。其 FP8 内核在真实模型激活上比 AMD 默认内核库 AITER 快 1.16-1.76 倍,且在 128 维头部下 FP8 误差比 AITER 低 62-78%。

AI 根据报道生成 · 更新于 12 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. MarkTechPost
    Zyphra ZYFA:为 AMD MI355X GPU 优化的 FP8 FlashAttention,速度提升高达 1.76 倍

    Zyphra 发布了 ZYFA(Zyphra FlashAttention on AMD),一套针对 AMD Instinct MI355X GPU 的 FP8 和 BF16 预填充注意力内核,在真实模型激活上其 FP8 内核速度比 AMD 默认内核库 AITER 快 1.16-1.76 倍,在 128 维头部下 FP8 误差比 AITER 低 62-78%。