跳到正文
实时
热点事件观察中

Edge0 开源 145B 与 120B 端侧模型及推理框架。

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Edge0 开源了 Edge0-145B 和 Edge0-120B 两个端侧模型,并同时发布统一推理框架与部署工具。Edge0 称,145B 模型可在兼容笔记本上本地运行,峰值内存 29GB、解码速度 80+ tokens/s、预填充 1100+ tokens/s,支持 128K–256K 上下文;其核心能力可离线使用,无需账号或用量配额。 Edge0 称,145B 模型首日支持 macOS、Windows 和 Linux,覆盖 Apple M 系列芯片及 RTX Spark、RTX 4090、RTX 5090 等 NVIDIA 平台;算力很低的设备目前无法本地运行 145B 模型。上述运行数据与支持范围均为 Edge0 的说法。

AI 根据报道生成 · 更新于 18 小时前

报道时间线

沿着报道,了解事件的不同侧面。

11月13日
  1. Hacker News · AI 热帖精选
    Edge0 开源 145B 与 120B 端侧模型及推理框架。

    Edge0 开源 Edge0-145B 和 Edge0-120B 两个端侧模型,并同时发布统一推理框架与部署工具。官方称 145B 模型可在兼容笔记本上本地运行,峰值内存 29GB、解码速度 80+ tokens/s、预填充 1100+ tokens/s,支持 128K–256K 上下文。

本事件热度走势

可比范围当前
6
可比范围峰值
811月13日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。