在上一篇文章中，我介绍了自己使用 Obsidian 结合 PARA 方法论搭建起了自己的本地知识库，同时介绍了如何使用 Gemini CLI 让 Obsidian 有了强大的 AI 能力。
虽然 Gemini 很强，但它毕竟是云端模型，将私人的笔记数据发送到云端始终是许多人心中的一根刺。
今天来介绍下我是如何使用本地 Ollama + Qwen 3 模型，结合Obsidian构建真正的本地隐私 RAG（检索增强生成）知识库的。我的目标很明确：打造一个完全离线、绝对隐私、且懂你的私人 AI 助理。
为什么要 “完全本地化”？
Obsidian 的核心价值观是“Your data is yours”（你的数据属于你）。当我们把所有的思考、日记、工作计划都记录在这些 Markdown 文件中时，它们就构成了我们的"第二大脑"。
然而，传统的云端 AI 助手存在天然的悖论：
- 隐私泄露风险：要让 AI 懂你，就得把数据发给它；发给它，数据就离开了你的控制。
- 网络依赖： 非常依赖于在线网络，如果断网就完全不可用。
- 数据安全：你的个性化模型在云端服务，如果云服务停止运营，个人训练的模型也就消失了。
如果你有一台还不错的电脑，那么构建本地 RAG知识库就完美解决了这个问题：数据不出门，推理在本地，不仅安全又高效。
我想要的是什么？
有了构建的想法，接下来就是如何实施。其实一直以来，我都渴望拥有一个能记忆个人敏感信息的智能体助理。我可以放心地将一些个人或家人的敏感数据交给它，而它也能随时准确地回答我的提问。
比如我可以问它：“我爸妈的身份证号是多少？”“我去年过年的年夜饭都吃了什么？”“今年的车险我是什么时候缴的？”“六一儿童节晚上我和孩子们聊了什么？”涉及隐私的细节问题。
因为我们使用 Obsidian 作为知识库，所有的知识都存储在本地。配合 Thino 插件，可以实现类似于 Flomo 的灵感记忆存储。我便将这个插件与日记功能结合起来，专门用来记录生活中的琐事。
之前一直没有找到实现这个目标的有效路径，直到我使用 Obsidian 作为我的知识库，我这个想法才真正的变成了现实。
构建的底层原理：什么是 RAG？
构建个人知识库智能问答体，其实标准的做法那就是 RAG。
什么是 RAG？RAG (Retrieval-Augmented Generation，检索增强生成)最简单理解是：它给大模型（LLM）配了一个实时查阅的“外挂数据库”或“离线手册”。
大模型虽然强大，但有两个致命伤：
- 幻觉（Hallucination）：没见过的数据它会一本正经地胡说八道。
- 知识滞后：它的知识停留在训练结束的那一天（比如 2023 或 2024 年）。
RAG 的核心思想：既然模型不能实时记住所有新知识，那就在回答问题前，先去“书架”上把相关的资料查出来，贴在 Prompt 后面发给模型：“请参考以下资料回答问题”。
所以我们只要把我们的 Obsidian 本地知识库作为外挂知识库让本地的模型参考，那他就可以基于这些知识回答我们的问题。
但是一般的模型并不能直接读取原始的文档，这中间需要一个对文档建立索引的过程，也就是将文档向量化。具体的过程如下：
- 读取：扫描 Obsidian 库中的 .md文件。
- 切片：把长文章切分成一个个小的文本块（Chunks）。
- 嵌入 (Embedding)：利用 BGE-M3 模型，将这些文本块转换成高维向量。比如，“Obsidian 插件配置” 这段文字会被转化成一组代表其语义的数字。
- 存储：将这些向量存入本地的 ChromaDB 数据库。
完成这一步后，我们的知识库内容就可以被大模型检索和识别了。接下来就是第二步：大模型通过 RAG 的方式回答我们的私人问题。
它首先会识别用户的问题，把用户的问题也转成向量，然后在 ChromaDB 中快速寻找与问题最相关的笔记片段（Top-K）。将找出的文档块拼接到 Prompt 中，调用本地的推理模型生成答案，我使用的本地推理模型是 qwen-corder3:30b。
构建属于自己的 MyGPT
构建本地知识库也有很多种选择，也有些开源的产品选择，比如 RAGFlow 或者 PrivateGPT。我个人是选择了自己开发，有以下几个原因：
- RAGFlow 虽然能力很强但是特别的重，它需要跑 Docker，启动一堆服务。
- PrivateGPT 虽然相对轻量，但也需要一定的研究成本，且最重要的是，我希望能够进行高度的个性化定制。
因此，我用electron构建了一个 mac 原生的应用，其中的核心模块之一就是 MyGPT。目前，这个 MyGPT 已经完美实现了上述的个人知识库问答功能。未来，我还计划加入工具调用功能，从而实现真正的本地 Agent。
如上图所示，我可以问：“我今年的取暖费交了没，交了多少钱？”它不仅能精准地告诉我答案，还会列出原始文档的参考来源。点击这个参考来源，可以直接跳转到 Obsidian 的原始文档，这是许多其他 RAG 产品所无法做到的体验。
利用同样的方法，我也将吴军老师的一些内容制作成了知识库，作为我的第三方外部知识库加以利用。我可以在做问答的时候选择加载的知识库。
如果你也有和我类似的需求，也可以试试我现在的这种做法。
想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！
👇👇扫码免费领取全部内容👇👇
一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势
想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：
1. 100+本大模型方向电子书
2. 26 份行业研究报告：覆盖多领域实践与趋势
报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：
- 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
- 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
- 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
- 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。
3. 600+套技术大会 PPT：听行业大咖讲实战
PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：
- 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
- 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
- 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
- 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。
二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走
想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！
1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位
面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：
2. 102 道 AI 大模型真题：直击大模型核心考点
针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：
3. 97 道 LLMs 真题：聚焦大型语言模型高频问题
专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：
![]()
三、路线必明： AI 大模型学习路线图，1 张图理清核心内容
刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！
路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。
L1阶段:启航篇丨极速破界AI新时代
L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。
L2阶段：攻坚篇丨RAG开发实战工坊
L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。
L3阶段：跃迁篇丨Agent智能体架构设计
L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。
L4阶段：精进篇丨模型微调与私有化部署
L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。
L5阶段：专题集丨特训篇 【录播课】
![]()
四、资料领取：全套内容免费抱走，学 AI 不用再找第二份
不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：
👇👇扫码免费领取全部内容👇👇
2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！
