实时
Exa提升了AWS AI芯片的吞吐量
热点事件持续更新
Exa提升了AWS AI芯片的吞吐量
1 篇报道1 个报道来源48 分钟前更新
先了解这件事
AI 综述
Exa 通过优化嵌入基础设施,在 AWS Inferentia2 和 Trainium2 芯片上实现嵌入吞吐量提升 50%,以更低的成本处理数十亿文档的索引。使用 Neuron SDK 和 AWS Trainium 团队支持,通过权重布局优化、自动降精度计算和 NKI 内核等技术,将吞吐量提高约 1.5 倍,同时保持 0.999 的余弦相似度准确率。
AI 根据报道生成 · 更新于 17 分钟前
最新进展11月19日 07:58
Exa 提升 50% 嵌入吞吐量,在 AWS AI 芯片上索引数十亿文档报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AWS Machine Learning BlogExa 提升 50% 嵌入吞吐量,在 AWS AI 芯片上索引数十亿文档
Exa 通过优化嵌入基础设施,在 AWS Inferentia2 和 Trainium2 芯片上实现嵌入吞吐量提升 50%,以更低的成本处理数十亿文档的索引。使用 Neuron SDK 和 AWS Trainium 团队支持,通过权重布局优化、自动降精度计算和 NKI 内核等技术,将吞吐量提高约 1.5 倍,同时保持 0.999 的余弦相似度准确率。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。