展开本页目录
开始前准备什么
- 自己的 AnythingLLM 部署；本页测试版本 1.19.0。
- 自己的 apizt Key 和 gpt-4o-mini 权限；Key 只存客户端私密配置。
- 先使用本页合成输入，不上传真实业务资料。
- 确认版本
- 设置凭据
- 限制用量
- 发送短文本
- 核对原始结果
先下载样例，再完成自己的首次调用
示例不含密钥。API 按实际用量计费；下载和点击不代表调用成功。
导入后自行选中凭据，或合并到已有环境。
包含真实输入、输出和验证限制。
先确认版本、验证范围和维护状态
本次在空文档工作区、普通聊天模式完成两个提示词，不上传资料、不创建向量、不调用工具。不据此宣称 RAG、Agent 或所有模型均兼容。
初次“代理/自动”模式尝试没有完成，已停止，没有计为成功。最终两次普通聊天通过；下载回执保留验证范围。
原生客户端记录两次成功对话共 274 tokens（93 + 181）；这是客户端报告值，未独立核对账单。4096 是该测试配置的上下文预算，256 是输出上限，两者不能相互替代。
界面可能把 JSON 引号渲染为排版引号。机器处理应使用复制/导出原始文本；下载的 actual-result.json 保留原生存储内容，不从截图识别。
1. 设置自己的 API 地址、模型和输出上限
在已有 AnythingLLM 中打开设置 → 人工智能提供商 → 大语言模型（LLM），选择 Generic OpenAI。Docker 服务端必须能访问 apizt。
Base URL 填 https://api.apizt.com/v1；API Key 填自己的 apizt Key；聊天模型填 gpt-4o-mini；上下文窗口填 4096，最大输出 tokens 填 256，禁用流式。保存。下载的 .env 是合并样例，不要覆盖已有密钥与部署配置；改环境变量后需重启自己的实例。
Base URL、文字模型与单次输出上限设置。2026-11-02，隔离本地部署 AnythingLLM 1.19.0，合成文字样例。
2. 将工作区切换为普通聊天
创建或打开空文档工作区，点工作区齿轮 → 聊天设置，模式选择“聊天”。本版本默认“代理/自动”，不能把普通聊天测试等同于 Agent 测试。保存后新建聊天。
工作区“聊天”模式已选中。2026-11-02，隔离本地部署 AnythingLLM 1.19.0，合成文字样例。
3. 先核对 QR_OK，再运行中文合成工单
先发送“接入测试：只回复 QR_OK，不要添加其他内容。”，收到 QR_OK 后，再发送下方中文合成工单；核对 category 为 billing，summary 保留原意。
sample-input.txt
把以下合成工单分为 billing、technical、account 或 other。只输出 JSON 对象，字段为 category 和 summary，summary 用中文，不要 Markdown，不调用工具。工单：测试订单发生重复扣款，请核对账单。
原生聊天返回 QR_OK。2026-11-02，隔离本地部署 AnythingLLM 1.19.0，合成文字样例。
4. 核对真实结果，下载原始记录
本次两条提示词均由原生客户端通过 apizt 发起请求。连通性回复为 QR_OK；第二条 JSON 的 category 为 billing，摘要保留重复扣款、核对账单的信息。
以下内容来自原生存储记录，不是预置响应。合成输入不含真实客户资料；实际业务仍需人工复核。
actual-result.json
[
{
"prompt": "接入测试：只回复 QR_OK，不要添加其他内容。",
"response": {
"text": "QR_OK",
"sources": [],
"type": "chat",
"attachments": [],
"metrics": {
"prompt_tokens": 91,
"completion_tokens": 2,
"total_tokens": 93,
"duration": 5.418,
"outputTps": 0.36913990402362495,
"model": "gpt-4o-mini",
"provider": "GenericOpenAiLLM",
"timestamp": "2026-11-02T14:13:24.743Z"
}
},
"createdAt": 1793628804745
},
{
"prompt": "把以下合成工单分为 billing、technical、account 或 other。只输出 JSON 对象，字段为 category 和 summary，summary 用中文，不要 Markdown，不调用工具。工单：测试订单发生重复扣款，请核对账单。",
"response": {
"text": "{\n \"category\": \"billing\",\n \"summary\": \"测试订单发生重复扣款，请核对账单。\"\n}",
"sources": [],
"type": "chat",
"attachments": [],
"metrics": {
"prompt_tokens": 154,
"completion_tokens": 27,
"total_tokens": 181,
"duration": 10.665,
"outputTps": 2.5316455696202533,
"model": "gpt-4o-mini",
"provider": "GenericOpenAiLLM",
"timestamp": "2026-11-02T14:15:07.019Z"
}
},
"createdAt": 1793628907023
}
]
真实中文工单分类结果。2026-11-02，隔离本地部署 AnythingLLM 1.19.0，合成文字样例。
5. 失败时检查凭据与协议，不盲目重试
401 先检查 Key 是否有效、凭据是否选中。这里 API Key 字段填原始 Key，不加 Bearer；不要把 n8n 的 Header Auth 填法直接复制过来。
404 检查 Base URL 是否已含 /v1，不再追加 /chat/completions；重复路径可能无法匹配。429 先查看 apizt 日志中的额度、模型权限和路由，不直接判断为模型不存在。
能保存配置并不代表调用成功。先通过短文本，再评估业务任务；遇到异常停止，不增加视频、语音或向量调用来排查文字链问题。
怎样确认已经完成
- 原生界面选择正确的模型、地址和凭据。
- QR_OK 精确匹配，第二次 JSON 能解析且 category 为 billing。
- 没有上传业务资料或启用额外模型调用。
常见问题
还需要第三方模型平台账号吗？
本例使用自己的 apizt Key。客户端的本地管理员账户与模型提供方账户是不同的配置。
配置文件可以直接覆盖原来的文件吗？
不要覆盖。先备份、按当前版本合并字段；公开下载不含 Key 和登录凭据。
这是否证明 Agent 或知识库可用？
本页只验证两个短文本输入。Agent、知识库、工具调用和嵌入需要单独验收。