跳到正文
实时
IT之家 · AI·· 1 小时前65

高通携手 Cirrascale 启动 AI200 推理加速器客户评估

高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估

要点速览

高通与 Cirrascale 向部分客户开放 Dragonfly AI200 推理加速器评估,客户可通过云环境探索 AI 工作负载表现。

正文

IT之家 11 月 20 日消息,Qualcomm(高通)当地时间本月 17 日宣布,其携手 AI 私有云企业 Cirrascale,向部分客户开放 Dragonfly(飞龙)AI200 推理加速器的评估。客户可通过云环境探索其 AI 工作负载在该芯片上的表现。

Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。

其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。

来源: IT之家 · AI · ithome.com