腾讯混元开源 Hy4 flash 大模型
腾讯混元 Hy4 flash 模型官宣开源
腾讯混元开源包含 Hy4 flash、Hy4 flash-FP8 和 Hy4 flash Base 的开源模型,支持多模态输入与 100 万 token 上下文长度,总参数量 224B,其中 64B 为 Engram 参数,每个 token 激活 12B 参数,API 价格较 Hy4 大幅降低。开发者可在 GitHub、Hugging Face、ModelScope 和 GitCode 下载部署。
同一件事另外 2 家也报道了
- IT之家 · AI··首发
- 36氪 · AI··+11 分钟
腾讯混元发布了语言模型 Hy4 flash,支持多模态与 1M 上下文
新增信息:价格细节:每百万输入Token 0.5元,每百万输出Token 2元,命中缓存时仅需0.02元。
- 腾讯混元 · Hugging Face 新模型··+22 小时 35 分
腾讯混元开源 Hy4 flash 模型,220B 总参数、12B 激活、支持 1M 上下文
新增信息:优化技术细节:混合注意力、LatentMoE和N-gram嵌入。
- 腾讯混元 · Hugging Face 新模型··+22 小时 37 分
新增信息:模型架构细节:42层,包含1层密集前馈层和41层MoE层,身份超连接(iHC),以及5层DFly2。
- IT之家 · AI··+47 小时 27 分·当前阅读
腾讯混元开源 Hy4 flash 大模型
新增信息:在GitHub、Hugging Face、ModelScope和GitCode上开源。
按发布时间排列 · 事件后续出现时自动追加 · 由模型根据各家标题与摘要比对
IT之家 11 月 18 日消息,腾讯混元今日宣布开源 Hy4 flash 模型,包含 Hy4 flash、Hy4 flash-FP8 和 Hy4 flash Base,开发者可在 GitHub、 Hugging Face、ModelScope 和 GitCode 下载部署。

腾讯混元官方预告,正在加速开源 Hy4 模型,敬请期待。
Hy4 flash 定位迄今性价比最高的 Hy 模型,总参数量 224B,其中包含 64B Engram 参数,每个 token 激活 12B 参数,支持多模态输入与 100 万 token 上下文长度,API 价格较 Hy4 大幅降低。

Hy4 flash 已在腾讯云 TokenHub、WorkBuddy、元宝、企业微信、QQ、ima、Marvis 等产品上线。
IT之家附 Hy4 flash 开源地址如下:
HuggingFace:https://huggingface.co/tencent/Hy4-flash
Modelscope:https://modelscope.cn/models/Tencent-Hunyuan/Hy4-flash
开源协议:https://huggingface.co/tencent/Hy4-flash/blob/main/LICENSE
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。
来源: IT之家 · AI · ithome.com