Granite Switch组合模型:先列能力再include筛选,核对底模与最终清单 素材身份:作者原创输入/可编辑参考。目标工具未在本轮执行。 先打开 index.html;input.csv 是原始字段,reference.csv 是验收基准,negative.csv 是故意构造的坏样例。 actual-results.csv 保留未测状态,实际执行后再填写。 前置条件: 使用IBM官方Granite base与对应adapter;只制作输入和校验可以离线免费进行,真正推理需可承担模型内存的本地/自有环境。 Granite Switch当前仓库要求Python3.11+、PyTorch2.11+;vLLM路径还有CUDA/Transformers兼容要求,不承诺Mac可直接跑同一CUDA栈。 官方代码与所列adapter采用Apache2.0;按具体base card核对许可与版本,目标推理未执行,不编造评分和速度。 操作步骤: 1. 写最小能力清单 本课只需要判断材料是否可回答,再给已生成回答补引用。 不加入语音、Decision或全部安全能力,先确认两项函数的输入输出。 2. 列出库内真实能力 使用composer的--list-adapters查看当前RAG库目录。 官方源码支持只列清单不构建,但首次远程目录读取仍需网络;本稿未执行。 3. 核对共同底模 按各自README确认answerability与citations支持所选Granite4.1-3B。 不能因为库内某函数支持3B就推断所有adapter均支持。 4. 按名称精确筛选 按官方源码示例加入--include-adapters answerability citations。 若当前列出的名称变化,以实际目录为准;不匹配时停下核对,不退回全库。 5. 组合并查实际产物 执行后检查配置中的实际adapter清单及chat template。 只有两项预期能力被选中才满足范围,目录存在不算裁剪成功。 6. 分别自检两项函数 用一题有证据、一题无证据检查answerability,再用固定回答检查citations的schema。 组合完成和函数语义正确仍是两层验收。 7. 交付依赖与范围记录 保存base、库revision、列目录命令、include命令与实际产物清单。 未组合时保持not_run,不制造模型摘要或性能数字。 验收: 所选函数有共同支持底模。 include来自真实目录且最终配置无意外能力。 组合与两项函数自检分别记录。 官方资料: https://github.com/generative-computing/granite-switch https://github.com/generative-computing/granite-switch/blob/main/src/granite_switch/composer/compose_granite_switch.py https://github.com/generative-computing/granite-switch/blob/main/src/granite_switch/composer/compose_granite_switch.py 图片身份:assets/ 为内置image_gen生成的原创练习输入缩略版,原始文件保留在网站图片来源地址。可编辑SVG为作者原生排版。