在cache miss的时候提示
wefio/dsh-cache-miss · 技能
在cache miss的时候提示。
★ 3GitHub 星标
0分支
2026-09-05最近更新
TypeScript开发语言
MIT许可证
主要功能
- 该轮第一次模型调用正是供应商提示缓存可能已过期、需要整段重新 prefill(重建缓存)的时机
- hitRatio < 80%(超过 20% 的输入未命中——因为上下文是累积的,这部分绝对量已经不小)
- 同轮后续调用往往命中刚重建的缓存。
- DSH 自带的 token/缓存统计在输入框下方,产物文件行在轮尾,都无法在 miss 真正发生的位置就地提示。
- 本插件在轮首第一条 assistant 回复正下方,仅当该请求确为缓存未命中时渲染一条黄色单行
使用条件
- TTFT 是 step 的 step/start 事件到首个非空 token delta 事件的墙钟间隔,取自会话事件时间
- 当任一边界落在已加载窗口之外时视为缺省(不显示 · ttft ...
安装命令
dsh plugin --profile web add github:wefio/dsh-cache-miss