dsh pluginsEnglish
← 返回热门插件目录

在cache miss的时候提示

wefio/dsh-cache-miss · 技能

在cache miss的时候提示。

★ 3GitHub 星标
0分支
2026-09-05最近更新
TypeScript开发语言
MIT许可证

主要功能

  • 该轮第一次模型调用正是供应商提示缓存可能已过期、需要整段重新 prefill(重建缓存)的时机
  • hitRatio < 80%(超过 20% 的输入未命中——因为上下文是累积的,这部分绝对量已经不小)
  • 同轮后续调用往往命中刚重建的缓存。
  • DSH 自带的 token/缓存统计在输入框下方,产物文件行在轮尾,都无法在 miss 真正发生的位置就地提示。
  • 本插件在轮首第一条 assistant 回复正下方,仅当该请求确为缓存未命中时渲染一条黄色单行

使用条件

  • TTFT 是 step 的 step/start 事件到首个非空 token delta 事件的墙钟间隔,取自会话事件时间
  • 当任一边界落在已加载窗口之外时视为缺省(不显示 · ttft ...

安装命令

dsh plugin --profile web add github:wefio/dsh-cache-miss
查看 GitHub 仓库 ↗返回热门插件目录