百万 token 上下文实测:整包塞入出错,提示词反需精简
热点事件持续更新
百万 token 上下文实测:整包塞入出错,提示词反需精简
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
有开发者实测称,把中型前端仓库整包塞入百万 token 上下文后,模型会自信调用不存在的 store 方法。其改用三段链路:先用向量检索把候选文件压到十个左右,再放入长窗口做约一千行规模的交叉比对,最后要求模型在三百字内给出结论与改动点。 该开发者还称,窗口变大后系统提示词从一千多字删到不足四百字,只保留任务边界、输出格式和硬性禁止。上述效果均为其个人实测说法。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 09:55
百万 token 上下文实测:提示词反而要写短报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- 掘金 · AI 编程百万 token 上下文实测:提示词反而要写短
百万 token 上下文铺开后,实测把中型前端仓库整包塞入会让模型自信调用不存在的 store 方法。作者改用三段链路:向量检索把候选文件压到十个左右,再放进长窗口做约一千行规模的交叉比对,最后要求三百字内给出结论与改动点。窗口变大后系统提示词从一千多字删到不足四百字,只留任务边界、输出格式和硬性禁止。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。