展开本页目录
开始前准备什么
- 下载完整练习包，在独立目录阅读README与已执行范围。
- 安装requirements.txt指定版本或使用文中目标工具；依赖与模型权重不要混入网站工程。
- 只有明确标为已执行的部分有本次证据；真实模型、账号或GPU步骤按自己的环境另行验证。
- 固定足够长且逐字相同的前缀
- 用作者哈希检查盐配置
- 启用实际prefix caching
- 冷启动后发A1与A2
- 再以B1测试跨盐隔离
- 加入共用盐的反例
- 交付命名空间与真实观测
1. 固定足够长且逐字相同的前缀
三次请求使用同一原创手册，任何空白变化都另记。cache_salt讨论的是缓存命名空间，不是模型答案的权限控制。
2. 用作者哈希检查盐配置
A1/A2相同盐、B1不同盐；audit.py只证明输入命名空间不同，不是vLLM真实块哈希或缓存命中日志。
本题独立目录执行
bash
python reference/audit.py3. 启用实际prefix caching
在目标vLLM版本确认prefix caching及cache_salt请求入口，记录服务参数、硬件和模型。没有该字段的旧版先升级或明确不支持。
本题SDK或目标环境入口
bash
python reference/run_sdk.py
4. 冷启动后发A1与A2
保存两次实际usage缓存token、服务指标与首token延迟。相同盐也不保证缓存未被逐出，不能只凭第二次更快宣布命中。
5. 再以B1测试跨盐隔离
保持内容与采样配置相同，仅更换盐。核对对应缓存指标与日志，不把网络波动当作隔离证据。
6. 加入共用盐的反例
在纯测试环境比较误用shared盐；部署时由可信租户边界赋盐，不能让任意客户端自报他人的租户盐。
7. 交付命名空间与真实观测
保留请求原文、盐分配、缓存指标和时延。包内真实命中、TTFT均为未测，不以作者SHA计算替代服务观测。
怎样确认已经完成
- 跨salt不复用只根据服务指标判断
- 不以一次更快当命中
- salt不当鉴权凭证
- 已审计作者盐命名空间与跨租户配置；未运行vLLM缓存，SHA参考不是真实缓存命中，性能字段保持未测。
常见问题
vLLM相同长提示词怎么按租户隔离缓存？
由可信服务端按租户赋cache_salt，内容相同但盐不同应分缓存命名空间。作者SHA只审计输入，不是真实缓存块哈希。
cache_salt怎么验证同组命中、跨组不复用？
冷启动A1、同盐A2、异盐B1分别回读缓存token/各层指标和TTFT；不能单凭第二次更快判断。本包真实命中与时延均未测。
这篇教程哪些步骤已经真正执行？
已审计作者盐命名空间与跨租户配置；未运行vLLM缓存，SHA参考不是真实缓存命中，性能字段保持未测。