验证状态:本文依据 AnythingLLM 官方文档整理,2026-10-04 核对;本站尚未在真实 Windows 设备上完成安装和问答的端到端复现。安装及下载模型阶段需要联网,不能作为“全程断网安装”教程。
开始前准备
- Windows 10/11 的 64 位个人电脑;官方主要面向 Windows 11,企业版或服务器版可能存在兼容问题。
- 能下载安装程序、运行组件和模型的网络连接,以及足够的磁盘空间。模型大小随选择而变。
- 一份不含敏感信息的纯文本样本文件。推荐自己新建一个
sample.txt,写入两句可核对的事实,例如“项目代号是晨星。计划于周五复核。”
1. 安装桌面应用
- 打开官方 Windows 安装说明,从其中的下载入口获取适合自己处理器架构的安装包。
- 运行安装程序。官方建议选择仅为当前用户安装;不要选择“所有用户”。
- 完成安装后,从开始菜单启动 AnythingLLM。第一次启动可能比后续启动慢。
2. 选择本地模型
- 在首次设置或应用设置中选择内置的本地语言模型提供商,并按应用提示下载一个适合本机资源的模型。
- 核对提供商不是 OpenAI、Anthropic 或其他云端 API。需要本地文档检索时,也要检查嵌入模型是否为本地配置。
- 等下载完成后先发一条简单问题,确认模型能回应。本站没有对某个模型在你的电脑上的速度作保证。
桌面版内置模型能力及其底层运行方式见官方内置 LLM 说明。
3. 创建工作区并加入文档
- 新建一个用于样本测试的工作区,例如“测试资料”。
- 把
sample.txt加入工作区的文档集合,并等待处理完成。不要只把文件临时附加到当前对话:那样的文件通常只在该对话中可用。 - 在工作区中新建对话,问“项目代号是什么?复核安排在什么时候?请指出依据”。
官方文档使用说明区分了“对话附加文件”和“加入工作区的可检索文档”;相关界面按钮会随版本变化,以当前应用为准。
4. 检查是否成功
成功不等于模型给出流畅答案。请逐项确认:回答提到了“晨星”和“周五”;没有凭空增加日期或背景;能够看到相关文档片段、来源或引用时,引用与样本原文一致。再问一个样本中没有的问题,观察它是否承认资料不足。
如果没有看到可靠的来源或引用,先不要把它当成可信的文档检索系统;到工作区文档列表确认文件已完成处理,再重新提问。
遇到问题
- 安装失败:确认下载了正确架构、选择“当前用户”,并查看官方安装故障说明。
- 模型无法加载或很慢:先确认模型下载完成,再检查可用内存和应用给出的运行提示。首次响应可能包含加载时间。
- 回答没读到文档:确认文件是加入工作区,而非仅附加在另一条对话中;检查是否已处理完成。
- 担心联网:检查所选的语言模型、嵌入服务及启用的附加功能。需要严格离线保证时,按自己的网络策略验证实际连接;本站尚未完成网络抓包验证。
完成后
样本测试通过,再导入自己的资料。保留原始文档备份;修改资料后检查工作区内容是否已更新。若不再使用,按 Windows 的应用卸载流程卸载;用户数据是否保留以安装器提示及官方说明为准,不要在未备份前选择删除数据。