跳到正文
实时
热点事件持续更新

Exa提升了AWS AI芯片的吞吐量

1 篇报道1 个报道来源48 分钟前更新

先了解这件事

AI 综述

Exa 通过优化嵌入基础设施,在 AWS Inferentia2 和 Trainium2 芯片上实现嵌入吞吐量提升 50%,以更低的成本处理数十亿文档的索引。使用 Neuron SDK 和 AWS Trainium 团队支持,通过权重布局优化、自动降精度计算和 NKI 内核等技术,将吞吐量提高约 1.5 倍,同时保持 0.999 的余弦相似度准确率。

AI 根据报道生成 · 更新于 17 分钟前

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AWS Machine Learning Blog
    Exa 提升 50% 嵌入吞吐量,在 AWS AI 芯片上索引数十亿文档

    Exa 通过优化嵌入基础设施,在 AWS Inferentia2 和 Trainium2 芯片上实现嵌入吞吐量提升 50%,以更低的成本处理数十亿文档的索引。使用 Neuron SDK 和 AWS Trainium 团队支持,通过权重布局优化、自动降精度计算和 NKI 内核等技术,将吞吐量提高约 1.5 倍,同时保持 0.999 的余弦相似度准确率。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。