跳到正文
实时
IT之家 · AI·· 2 小时前

AMD XDNA2 NPU率先获得Unsloth Desktop适配,支持超百款智能体

要点速览

AMD XDNA2 NPU成为首款获得Unsloth Desktop本地界面支持的神经网络处理器,通过Lemonade和FastFlowLM处理模型服务与推理,使OpenClaw、Hermes等超百款智能体可在锐龙AI处理器NPU上本地运行,卸载AI工作负载以提升算力并延长设备续航。

正文

IT之家 11 月 20 日消息,AMD 当地时间 19 日宣布,其锐龙 AI 处理器上的 "XDNA 2" NPU 成为首款获得 Unsloth Desktop 本地界面支持的神经网络处理器。

具体来看,兼容的应用程序向 Unsloth Desktop API 发送模型请求,而 Lemonade 和 FastFlowLM 则在 AMD XDNA 2 NPU 上处理模型服务和推理。模型的响应返回给应用程序,供其工作流程使用。

这意味着 OpenClaw、Hermes 等超百款智能体可通过 Unsloth Desktop 在锐龙 AI 处理器的 NPU 上本地运行,从 CPU 和 GPU 上卸载相关 AI 工作负载,留出更多算力以供其它任务使用,也有助于延长带电池设备的续航。

来源: IT之家 · AI · ithome.com