跳到正文
实时
热点事件历史事件

使用廉价分类器路由 Gemini 模型

1 篇报道1 个报道来源16 天前更新

先了解这件事

AI 综述

Google 使用 TypeSafe 的 Jev 分类器路由 Google Gemini 模型以降低推理成本。 TypeSafe 的 Jev 分类器可路由任务至最经济的 Gemini 模型,50 题测试显示其准确率达 96%,优于 93.8% 的 Python 正则启发式方法。设置推理模型 MaxOutputTokens 限制并不能节省成本,反而可能中断复杂任务推理。

AI 根据报道生成 · 更新于 15 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. Google Developers Blog
    使用廉价分类器路由 Google Gemini 模型以降低推理成本

    TypeSafe 的 Jev 分类器可路由任务至最经济的 Gemini 模型,50 题测试显示其准确率达 96%,优于 93.8% 的 Python 正则启发式方法;设置推理模型 MaxOutputTokens 限制并不能节省成本,反而可能中断复杂任务推理。