# vLLM 多 LoRA 服务：同一底座交替请求两个适配器，检查结果和请求归属

已运行原创多LoRA请求映射和未知名称反例；未启动vLLM、加载权重或测量GPU性能，提供目标环境命令。

## 运行

在本目录使用独立虚拟环境并安装requirements.txt；脚本结果写入results。

```sh
python reference/audit.py
python reference/run_sdk.py
```

fixtures是原创输入与故意失败样本；作者真值、离线合成provider和实际SDK记录各自标明，不是模型正确率。需要真实模型/账号/GPU的步骤按正文另行授权运行。

## 1. 明确一个底座和两个真实适配器

把USER_SUPPLIED占位路径换成自行训练且与底座兼容的LoRA。包内没有权重，也没有伪造adapter_model文件。

## 2. 检查适配器名称与请求归属

audit.py检查q1/q3走support、q2走catalog，并拒绝missing-lora。这里只验证请求合同，不代表vLLM已加载模型。

## 3. 启动支持LoRA的vLLM服务

在合适GPU环境使用--enable-lora、--lora-modules name=path，并按真实rank设置max-lora-rank与max-loras；先确认安装版本支持这些参数。

## 4. 发送交替请求而不重启底座

使用OpenAI兼容请求中的model字段选择适配器，逐条保存实际返回model、答案、耗时和服务日志。不要用请求顺序推测正确路由。

## 5. 执行未知适配器负例

发送missing-lora并保存真实错误状态；不能在客户端悄悄换成底座并把结果称为适配器输出。

## 6. 比较两类任务质量与资源

给两套任务各自设置人工真值，记录GPU显存、吞吐和错误。适配器共用底座不意味着两项任务都不退化。

## 7. 交付配置和可追溯回执

保留底座版本、适配器哈希及逐请求归属。当前包只运行名称合同审计，GPU加载、生成和性能测量均未执行。

## 官方依据

- vLLM 官方文档或源码：https://docs.vllm.ai/en/latest/features/lora/