详细教程：搭建最小可用本地版本

1. 硬件与基础环境
   推荐：MacBook Pro M3 Max 128GB 或 RTX 4090 级别设备。
   安装 Ollama。拉取模型示例：ollama pull qwen2.5:32b（或您自有微调版本，如 Amost 相关蒸馏模型）。
2. 安装 RAG 界面
   推荐 AnythingLLM 桌面版（图形化友好），或 LlamaIndex + 简单 Web 前端。
3. 准备公开知识库
   仅下载 SAFE、FinCEN、IRS 等官方公开摘要。按 知识库目录 整理为 Markdown。绝不放入真实客户数据。
4. 构建向量库与提示词
   使用 bge-m3 或 nomic-embed 进行嵌入，存入本地 Chroma 或 LanceDB。
   系统提示词核心要求：只基于提供的公开规则和用户自己的文档回答；不建议规避方法；不确定时明确说明请咨询持牌专业人士；所有输出标注来源。
5. 客户使用流程
   用户在自己加密电脑上操作。上传自己的材料后提问，例如：“根据这些材料，列出可能涉及的美国申报义务清单，并标出缺失信息。”输出结构化报告 + 给专业人士的问题列表。
6. 隐私加固
   全盘加密（FileVault 等）、关闭云同步与遥测、处理完成后删除原始文件。保留本地操作日志供自己审计。
7. 验证与迭代
   先用脱敏样本测试。记录幻觉并持续优化提示词与知识库。法规更新时同步更新公开材料。

← 返回首页 · 知识库 · 报告模板