跳到正文
热点事件持续更新

hunch开源本地语义决策系统

1 篇报道1 个报道来源23 小时前更新

先了解这件事

AI 综述

undrgrnd-labs 开源了 hunch 本地语义决策系统。该系统以 EmbeddingGemma 2 为基础,配合轻量分类器和教师模型蒸馏:大模型充当教师,本地小模型持续学习,逐步接管高频判断任务。 据该方案介绍,hunch 在 CPU 上处理文本约 22 毫秒出一次判断、图片约 100 毫秒,每百万 token 成本不到 3 美分。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. AIGC Link AI方案库
    hunch 用 EmbeddingGemma 2 做本地语义决策系统,让本地小模型边用边学接管大模型高频判断

    hunch 是一个基于 EmbeddingGemma 2 的本地语义决策系统,让大模型充当教师、本地小模型持续学习并逐步接管高频判断任务。该项目在 CPU 上文本约 22 毫秒出一次判断、图片约 100 毫秒,每百万 token 成本不到 3 美分,架构为 EmbeddingGemma 2 加轻量分类器加教师模型蒸馏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。