AnythingLLM 知识库配置教程

更新于 2026-09-27

适用范围：AnythingLLM 桌面版的 Generic OpenAI 聊天接入和内置 Embedder 知识库入门；聊天和嵌入分别配置。

版本与验证：2026-09-28 更新 apizt 专用配置示意图；所有接入地址使用 https://api.apizt.com/v1，模型示例使用 gpt-6-sol。按官方文档核对字段，界面文字可能随版本变化。未使用真实 API Key 验证付费调用。

配置速查

配置项	填写内容	注意事项
LLM Provider	`Generic OpenAI`	使用 OpenAI 兼容聊天接口。
Base URL	`https://api.apizt.com/v1`	不要填写完整聊天接口。
API Key	`apizt API Key`	与嵌入模型的配置分别保存。
Selected Model	`gpt-6-sol`	示例模型，替换为当前令牌可用 ID。
Max Tokens	`1024`	首次短消息测试的回复上限，不能超过模型限制。

还没有 API Key？注册获取免费体验额度 · 已注册：进入控制台创建 API Key

为此工具单独创建令牌，并设置合理额度和模型权限。截图中的模型仅作示例，以账号当前可用模型为准；不要公开密钥或上传含密钥的配置文件。

本教程使用 AnythingLLM 桌面版接入 apizt 聊天模型，再建立一个小型文档知识库。已有自部署实例也可以参考相同的 LLM 与 Embedder 字段。

一、安装并准备工作区

从官网选择适合系统的桌面版，安装并启动。
准备 apizt API Key，并复制当前令牌可用的完整聊天模型 ID。
首次向导可直接选择模型提供商；已完成向导的用户进入设置，在 AI Providers → LLM 中修改。

二、选择 Generic OpenAI

在 LLM Provider 选择 Generic OpenAI。这个选项允许填写自定义 Base URL，适合接入 apizt 的 OpenAI 兼容聊天模型。

AnythingLLM · LLM 设置，API 地址 https://api.apizt.com/v1，模型 gpt-6-sol；配置示意图 — 图 1：apizt 聊天模型配置示意图。上下文窗口按模型实际限制填写。图中的 sk-demo-not-a-real-key 为无效演示密钥；gpt-6-sol 为模型示例，以令牌实际权限为准。点击图片可在页内放大；支持关闭按钮、点击图片外区域和 Esc 关闭。

三、填写地址、模型和回复长度

字段	填写内容	说明
LLM Provider	`Generic OpenAI`	使用 OpenAI 兼容聊天接口。
Base URL	`https://api.apizt.com/v1`	不要填写完整聊天接口。
API Key	`apizt API Key`	与嵌入模型的配置分别保存。
Selected Model	`gpt-6-sol`	示例模型，替换为当前令牌可用 ID。
Max Tokens	`1024`	首次短消息测试的回复上限，不能超过模型限制。

Model context window 按所选模型及分组的实际上下文限制填写，不要直接照搬官方截图里的数值。点击 Save changes 保存。工作区已单独设置模型时，工作区配置会覆盖全局 LLM，需一并检查。

AnythingLLM 接入 apizt 的聊天模型字段示意，模型示例为 gpt-6-sol — 图 2：apizt 聊天模型参数对照示意图。点击图片可在页内放大；支持关闭按钮、点击图片外区域和 Esc 关闭。

https://api.apizt.com/v1

四、先验证普通聊天

创建或打开一个工作区，暂时不要上传文档。发送「请只回复：连接成功」，确认返回正文，再到 apizt 控制台核对模型和分组。基础聊天通过后继续下一步。

五、单独配置 Embedder

进入 AI Providers → Embedder。首次体验可选 AnythingLLM Embedder，它在本机运行，首次嵌入前需要下载模型。内置默认模型主要面向英文；中文资料较多时，应评估并选择适合中文的嵌入模型。

AnythingLLM 官方 Embedder 设置页，内置嵌入模型与聊天模型分开配置 — 图 3：官方内置 Embedder 原图。这里设置文档向量化模型，不要填入普通聊天模型 ID。点击图片可在页内放大；支持关闭按钮、点击图片外区域和 Esc 关闭。

如需通过 apizt 调用嵌入接口，先确认当前版本的提供商配置支持自定义地址，再填写嵌入模型 ID 和对应密钥。可参考 Embedding 接口；本文知识库入门流程采用内置 Embedder。

六、上传文件并进行知识库问答

准备一个小型 TXT 或可复制文字的 PDF，内容包含容易核对的具体信息。
打开工作区的文档管理入口，上传文件，将其加入当前工作区，再执行保存／嵌入操作，等待处理完成。
返回同一工作区，按当前版本选择知识库／查询模式，询问文档中的具体内容，例如「这份文档规定的退款期限是多少天？」。
核对答案与引用片段是否匹配原文。扫描 PDF 需要先具备可检索文本或经过 OCR。

AnythingLLM 知识库流程示意：聊天验证、独立配置 Embedder、嵌入到工作区、检查引用 — 图 4：从聊天接入到文档问答的操作顺序。点击图片可在页内放大；支持关闭按钮、点击图片外区域和 Esc 关闭。

更换嵌入模型后需要重新处理文档索引；仅更换聊天模型通常无需重建向量。向模型发起问答时，检索出的文档片段会随请求发送到所选模型服务。

常见问题

普通聊天成功，为什么上传文档仍失败？

文档处理由 Embedder 负责。检查嵌入模型下载、网络和密钥权限；聊天模型可用不代表嵌入模型已经配置成功。

上传文件后模型为什么不知道内容？

检查文件是否已加入当前工作区并完成嵌入。再问一个能在原文中定位答案的问题，核对引用片段和检索结果。

怎样确认配置已生效

不带文档的短消息能正常返回，控制台可核对调用日志。
文档加入当前工作区后嵌入完成，没有 Embedder 错误。
使用原文中的独有信息提问，核对答案和引用片段。

接入失败时逐项检查

现象	检查与处理
401 / Unauthorized	重新复制 apizt 令牌，检查是否完整、是否已过期；不要填写工具平台自己的密钥。
403 / 模型无权限	检查令牌允许的模型和所选分组，以响应中的具体错误为准。
404 / 路径错误	本文 Base URL 填 https://api.apizt.com/v1，检查重复的 /v1 或错误的接口路径。
model not found	从价格页复制完整模型 ID，确认当前令牌分组提供该模型。
429 / 额度或速率限制	按错误体区分余额、令牌额度、并发和速率限制；减少并发并稍后重试。
嵌入失败 / Fetch failed	检查 Embedder 的下载和网络；使用 API 嵌入时还需核对嵌入模型权限。
修改 LLM 后仍调用旧模型	检查工作区是否覆盖了全局聊天模型配置。
知识库回答没有命中文档	检查文件是否已嵌入当前工作区、模式选择、文本是否可解析及检索条件。

资料与下一步

遇到问题时保留软件版本、请求时间、模型 ID、错误码和请求 ID，联系支持时先隐藏 API Key。