Andrej Karpathy:用 LLM 构建个人知识库的一种模式

译注:这是一份”理念文件”(idea file),它的设计用途是直接复制粘贴给你自己的 LLM Agent(例如 OpenAI Codex、Claude Code、OpenCode / Pi 等)。它的目标是传达高层思想,而具体细节将由你的 Agent 在与你的协作中逐步搭建出来。

核心思想

大多数人对”LLM + 文档”的体验是 RAG(检索增强生成):你上传一批文件,LLM 在回答问题时检索相关片段,然后生成答案。这有用,但存在一个根本缺陷:LLM 在每个问题上都在从零开始重新发现知识,没有任何积累。你问一个需要综合五份文档才能回答的微妙问题,LLM 就得每次都去重新找到并拼凑相关碎片。什么都没有被建立起来。NotebookLM、ChatGPT 的文件上传、以及大多数 RAG 系统都是这样工作的。

这里的想法不同。不是在提问时才去原始文档里检索,而是让 LLM 增量地构建并持续维护一个持久的 wiki(维基)——一套结构化、相互链接的 markdown 文件集合,它介于你和原始素材之间。当你添加一份新素材时,LLM 不只是把它”索引”起来供日后检索,而是:读它、提取关键信息、把它整合进已有的 wiki——更新实体页面、修订主题摘要、标注新数据与旧论断相矛盾之处、强化或质疑不断演进的综合判断。知识被”编译”一次,然后保持更新,而不是每次查询都重新推导。

这就是关键区别:这个 wiki 是一个持久的、可复利累积的产物。 交叉引用已经建好了。矛盾已经标记出来了。综合判断已经反映了你读过的所有内容。每添加一份素材、每提出一个问题,这个 wiki 都会变得更丰富。

你自己(几乎)从不亲手写 wiki——所有内容都由 LLM 撰写和维护。你负责的是: sourcing(寻找素材)、探索、以及提出正确的问题。LLM 负责所有苦活——总结、交叉引用、归档、簿记,正是这些工作让知识库能长期真正有用。就我个人的实践而言,我一边开着 LLM Agent,一边开着 Obsidian:LLM 根据我们的对话进行编辑,我实时浏览结果——点开链接、查看图谱视图、阅读更新后的页面。Obsidian 是 IDE,LLM 是程序员,wiki 是代码库。

这套模式适用于很多不同的场景。举几个例子:

  • 个人成长:追踪自己的目标、健康、心理、自我提升——把日记、文章、播客笔记归档进来,随着时间推移建立起一幅关于你自己的结构化图景。
  • 深度研究:在数周或数月内深挖某个主题——阅读论文、文章、报告,增量地构建一个带有不断演进之核心论点的综合性 wiki。
  • 读一本书:每读完一章就归档一章,逐步建立角色页、主题页、情节线页,以及它们之间的关联。读到最后,你会拥有一部丰富的伴读 wiki。想想那些粉丝维基,比如 Tolkien Gateway——由志愿者社区多年共建的成千上万个相互链接的页面,覆盖人物、地点、事件、语言。你完全可以边读边为自己构建类似的东西,所有交叉引用和维护都由 LLM 完成。
  • 商业/团队:由 LLM 维护的内部 wiki,素材来自 Slack 讨论、会议转写、项目文档、客户通话。可以有人在环里审阅更新。wiki 之所以能保持新鲜,是因为 LLM 替团队做了那些没人愿意做的维护工作。
  • 竞品分析、尽职调查、旅行规划、课程笔记、爱好深潜——任何需要长期积累知识、并希望它们被组织起来而非散落一地的场景。

架构

一共有三层:

原始素材(Raw sources)——你精选收集的源文档:文章、论文、图片、数据文件。这一层是不可变的:LLM 从中读取,但绝不修改。这是你的”真相之源”(source of truth)。

Wiki(维基层)——一个由 LLM 生成的 markdown 文件目录:摘要、实体页、概念页、对比页、总览页、综合页。这一层完全由 LLM 拥有:它创建页面、在新素材到来时更新页面、维护交叉引用、保持一切一致。你负责阅读;LLM 负责书写。

Schema(规范文件)——一份文档(例如 Claude Code 用 CLAUDE.md,Codex 用 AGENTS.md),告诉 LLM 这个 wiki 是如何组织的、约定是什么、在摄入素材、回答问题或维护 wiki 时应遵循哪些工作流。这是最关键的配置文件——正是它让 LLM 成为一个自律的 wiki 维护者,而不是一个泛泛的聊天机器人。随着你们摸索出适合自己领域的方法,你和 LLM 会共同演进这份文件。

三类操作

摄入(Ingest)。你把一份新素材放进原始素材库,让 LLM 处理它。一个典型流程:LLM 读取素材,和你讨论关键要点,在 wiki 里写一个摘要页,更新索引,更新 wiki 中所有相关的实体页和概念页,最后在日志里追加一条记录。一份素材可能会触及 10-15 个 wiki 页面。就我个人而言,我喜欢一份一份地摄入素材、并保持参与——我读摘要、检查更新、引导 LLM 该强调什么。但你也可以批量摄入多份素材、少一点人工监督。如何发展出适合你风格的工作流、并把它写进 schema 里供以后的会话使用,这取决于你自己。

提问(Query)。你针对 wiki 提出问题。LLM 搜索相关页面、阅读它们、然后综合出带引用来源的答案。答案的形式可以因问题而异——一个 markdown 页面、一张对比表格、一份幻灯片(Marp 格式)、一张图表(matplotlib)、一块画布(canvas)。其中有个重要的洞见:好的答案应当归档回 wiki,成为新的页面。 你要的那份对比、那个分析、那个你发现的关联——这些都很宝贵,不应该消失在聊天历史里。这样一来,你的探索就和摄入的素材一样,在知识库里复利累积。

体检(Lint)。定期让 LLM 给 wiki 做健康检查。要找的问题包括:页面之间的矛盾、已被新素材取代的过时论断、没有任何入站链接的孤儿页面、被反复提及却没有自己独立页面的重要概念、缺失的交叉引用、可以通过网络搜索填补的数据空白。LLM 还很擅长建议值得研究的新问题、值得寻找的新素材。这让 wiki 在增长的过程中保持健康。

索引与日志

两个特殊文件帮助 LLM(和你)在 wiki 不断长大的过程中导航。它们的用途不同:

**index.md(索引)**面向内容。它是 wiki 中一切内容的目录——每个页面都以链接 + 一行摘要的形式列出,可选地附带元数据(如日期、素材数量)。按类别组织(实体、概念、素材等)。LLM 在每次摄入时更新它。回答问题时,LLM 先读索引找到相关页面,再深入阅读。这个方法在中等规模下(约 100 份素材、数百个页面)出奇地好用,并且让你完全不需要基于向量的 RAG 基础设施。

**log.md(日志)**面向时间。它是一个只追加的流水账,记录发生了什么、何时发生——摄入、提问、体检。一个实用技巧:如果每条记录都以统一的前缀开头(例如 ## [2026-04-02] ingest | 文章标题),这份日志就可以用简单的 Unix 工具解析——grep "^## \[" log.md | tail -5 就能给你最近 5 条记录。日志为你提供 wiki 演化的时间线,也帮助 LLM 了解最近都做了什么。

可选:命令行工具

到了某个阶段,你可能会想构建一些小工具,帮助 LLM 更高效地操作 wiki。最显而易见的就是一个针对 wiki 页面的搜索引擎——小规模时索引文件就够了,但随着 wiki 长大,你需要像样的搜索。qmd 是个不错的选择:它是一个本地 markdown 文件搜索引擎,混合了 BM25/向量搜索并带 LLM 重排序,全部在本地设备上运行。它既有 CLI(LLM 可以 shell 调用),也有 MCP server(LLM 可以把它当原生工具用)。你也可以自己造更简单的东西——需求出现时,让 LLM 帮你”凭感觉编程”(vibe-code)一个朴素搜索脚本就行。

技巧与窍门

  • Obsidian Web Clipper 是一个浏览器扩展,可以把网页文章转成 markdown。把素材快速收进原始素材库时非常有用。
  • 把图片下载到本地。 在 Obsidian 设置 → 文件与链接中,把”附件文件夹路径”设为一个固定目录(例如 raw/assets/)。然后在设置 → 快捷键中搜索”Download”,找到”为当前文件下载附件”,绑定一个快捷键(如 Ctrl+Shift+D)。剪藏完一篇文章后按一下快捷键,所有图片就会下载到本地磁盘。这是可选项,但很有用——它让 LLM 能直接查看和引用图片,而不用依赖那些可能会失效的 URL。注意:LLM 无法在一次处理中同时读取带内嵌图片的 markdown——变通办法是让 LLM 先读文本,再分开查看部分或全部被引用的图片以获取额外上下文。虽然有点笨拙,但效果足够好。
  • **Obsidian 的图谱视图(graph view)**是观察 wiki 形态的最佳方式——什么和什么相连、哪些页面是枢纽、哪些是孤儿。
  • Marp 是一种基于 markdown 的幻灯片格式。Obsidian 有对应插件。非常适合直接从 wiki 内容生成演示文稿。
  • Dataview 是一个对页面 frontmatter(元数据头)运行查询的 Obsidian 插件。如果你的 LLM 给 wiki 页面加了 YAML frontmatter(标签、日期、素材数量),Dataview 就能生成动态的表格和列表。
  • 这个 wiki 本质上就是一个 markdown 文件的 git 仓库。版本历史、分支、协作,全都白送。

为什么这套方法有效

维护知识库中繁琐的部分,其实不是阅读,也不是思考——而是簿记:更新交叉引用、保持摘要不过时、记录新数据何时与旧论断矛盾、在几十个页面之间维持一致。人类之所以会弃坑 wiki,是因为维护负担的增长速度超过了价值的增长速度。而 LLM 不会厌倦,不会忘记更新某个交叉引用,并且能在一轮操作中同时修改 15 个文件。wiki 之所以能保持被维护,是因为维护成本趋近于零。

人类的职责:策展素材、引导分析方向、提出好问题、思考这一切意味着什么。 LLM 的职责:其他所有事。

这个想法在精神上与 Vannevar Bush 的 Memex(1945)一脉相承——一个私人的、精心策展的知识库,文档之间由”联想轨迹”串联。Bush 的愿景其实比后来的万维网更接近这里描述的东西:私人的、主动策展的、文档之间的连接与文档本身同等宝贵。他没能解决的问题是:谁来维护? 现在,LLM 解决了这个问题。

附注

这份文档刻意保持抽象。它描述的是理念,而不是某个具体实现。确切的目录结构、schema 约定、页面格式、工具选型——所有这些都取决于你的领域、你的偏好、以及你选择的 LLM。上面提到的每一样东西都是可选的、模块化的——用得上的就拿走,用不上的就忽略。举例来说:你的素材可能全是纯文本,那就完全不需要图片处理;你的 wiki 可能小到只需要索引文件,不需要搜索引擎;你可能不在乎幻灯片,只想要 markdown 页面;你可能想要一套完全不同的输出格式。正确的使用方式是:把这份文档分享给你的 LLM Agent,然后和它一起协作,实例化出一个适合你需求的版本。这份文档唯一的任务,就是传达这个模式本身。剩下的,你的 LLM 自己会搞定。


译注:文中小标题括号内保留了原文标题对照;“体检(Lint)”、“摄入(Ingest)“等为便于理解采用意译。

1 / 1
← 滑动或点击两侧翻页 →