AI 新范式"预编译知识库"四个月落地四款产品——传统 RAG 会被取代吗?
2026 年 4 月,Andrej Karpathy 提出 LLM Wiki 技术构想:将知识"一次编译、持续更新",而非每次查询重新生成。短短四个月内,Cognition、Factory、LangChain、Garry Tan 四支团队同步落地同类产品,一条全新赛道从个人想法迅速成长为行业热议的技术方向。
2026 年 4 月,Andrej Karpathy 提出 LLM Wiki 技术构想:将知识"一次编译、持续更新",而非每次查询重新生成。短短四个月内,Cognition、Factory、LangChain、Garry Tan 四支团队同步落地同类产品,一条全新赛道从个人想法迅速成长为行业热议的技术方向。
要理解 LLM Wiki 的价值,先得看懂它对标的传统方案——RAG(检索增强生成)的底层逻辑。
卡帕西在原文中一针见血地指出了传统模式的核心弊病:大模型每回答一个问题,都要从零开始重新梳理知识,全程没有任何积累。
文档导入时只做机械拆分和向量化,真正的理解、推理全等用户提问瞬间才做。同一个问题问 100 次,就要重复 100 次"检索—拼接—推理"全流程,算力成本随提问次数线性上涨。
核心计算前置到文档导入阶段:大模型一次性通读所有原始文档,完成语义理解、要点提炼、知识分类,最终整理成结构化 Markdown 维基页面。后续查询只需定位页面、直接读取编译好的结论。
卡帕西用一个经典比喻定义了这套体系中的三者角色:Obsidian 是 IDE,LLM 是程序员,维基就是代码库——整个维基由大模型负责"编写"和"维护",人几乎不手动撰写内容,只需提供原始素材和维护规则。
注:卡帕西特别强调,纯 Wiki 方案适合约 100 个信息源、几百个页面的中等规模。超过该阈值需补充 BM25 + 向量检索 + LLM 重排序的混合检索能力。1945 年范内瓦·布什提出 Memex 构想,80 年后大模型终于让"持续迭代的结构化知识库"的运维成本降到可忽略。
Mem0 在专栏文章中将这套系统梳理为标准的三层架构,从下到上依次是:
最底层的事实源头——论文、代码库、规章制度等原始素材。系统只读取,不会修改原始内容。
核心知识层——大模型编译生成的 Markdown 页面集合,带摘要、分类、语义内链,是回答问题的直接依据。
最上层的"运维手册"——常见如 AGENTS.md、CLAUDE.md,定义分类标准、更新规则、矛盾处理逻辑,约束大模型规范维护维基。
围绕这套架构,有三个核心操作:
摄入:导入新文档,大模型通读拆解后同步更新到对应维基页面。查询:用户基于维基提问,优质问答结论还能反向补充进维基。校验:定期扫描整套维基,找出内容矛盾、信息过期、孤立页面,自动修正或标记。
一个反常识的注脚:运维成本曾是维基类系统 80 年没能落地的核心原因。人类维基由人维护,更新页面、修正链接这类琐碎工作,团队一忙就搁置,内容慢慢过时,最后再也没人用。大模型不会倦怠、不会遗漏,第一次让持续迭代的维基运维成本降到了可忽略的程度。
卡帕西的构想提出后,四家公司几乎同时进行了工程化落地。底层架构高度一致,但落地方向天差地别:
注:四款产品拥有一致设计共识——维基页面的首要读者不是人类,而是大模型。所有输出都是面向 LLM 优化的结构化 Markdown,带清晰的标题、内链与摘要,目的是让智能体最快找到相关信息,而非追求人类阅读的美观性。核心分歧集中在更新机制:只有 Factory 依靠 CI 流水线实现全自动持续更新,其余三款都需要人工执行命令才会刷新内容。
LLM Wiki 的思路虽然高效,但 Mem0 在文章中明确指出了四个固有局限——这也是它无法完全替代传统 RAG 的核心原因。
卡帕西原文给出了约 100 个信息源的阈值。超过这个规模后,页面关联关系指数级复杂化,增量更新和全量校验的成本急剧上升,必须补充检索能力兜底。
"提前编译"必然付出代价:摄入阶段的摘要和归纳过程,一定会丢失原始文档中的边缘细节,而这些被遗漏的信息后续所有查询都无法再找回。传统 RAG 虽然重复成本高,但只要原文存在,理论上就有概率被检索到。
Wiki 内容的准确性永远等于最后一次更新的准确性。Mem0 特别强调了一个反常识的结论:错误的 Wiki 比没有 Wiki 更危险——结构化、体系化的呈现形式会赋予内容一层虚假的权威性,用户更容易不加验证地采信。
提前做功不是没有成本,只是把成本从查询侧转移到了摄入侧。生成全量 Wiki 页面要消耗 Token,定期校验、清理矛盾、维护链接也要消耗 Token,其中很多页面可能生成后从未被访问。如果文档体量大但实际查询频率很低,Wiki 方案反而可能比传统 RAG 更贵。
注:这是经典的架构权衡——用重复算力换取信息完整性(RAG),还是用少量细节损失换取效率与成本优势(Wiki)。没有绝对的优劣,只有场景的适配。
这是 Mem0 文章最核心的观点,也是行业内普遍存在的认知偏差——很多人把 Agent Wiki 称作"AI 记忆",甚至觉得搭建了一套维基,就等于给 AI 加上了记忆能力。
这是完全错误的。
"记忆"在这里有两层完全不同的含义:
锚定文档本身,来自批量资料导入,回答"资料里写了什么",对所有访问者输出一致。这是 Wiki 擅长的领域。
锚定具体的用户 ID,来自真实的交互过程,记录用户偏好、过往决策、失败方案、临时变更的想法——每个人的记忆都是独一无二的。这是 Wiki 完全做不到的事。
两者的数据模型有着本质区别:Wiki 按"主题/文档"组织知识,记忆层按"用户"组织数据;Wiki 来自批量文档摄入,记忆来自多轮交互沉淀。用户记忆还需要支持单用户维度的信息修正、过期清理、溯源、按需删除,Wiki 的文档级架构天然不匹配这些需求。
一个最直观的比方:文档维基能告诉你公司制度的通用规则,但它不会知道"你去年还剩 3 天年假没休,并且和领导申请过延期"——后者就是典型的用户记忆,只属于具体的人,来自交互过程。
两者不是竞争关系,是天然的互补组合:
用 Wiki 沉淀通用的文档知识,用记忆层沉淀个性化的用户信息。真正的认知误区,就是误以为搭建好了文档维基,就等于给 AI 实现了用户记忆能力。
LLM Wiki 不会淘汰 RAG,就像预编译不会淘汰实时查询。未来更主流的方向是二者结合的混合架构:核心高频的知识用 Wiki 预编译提效,长尾低频的细节用 RAG 兜底精度。这从来不是谁替代谁的零和博弈,而是技术演进中,把算力花在刀刃上的必然选择。卡帕西打开的这扇门,不是 RAG 的终点,而是下一代 AI 知识库的起点。
LLM Wiki 的相关技术开源项目与产品正在快速迭代中。关注 Karpathy 的原始 Gist 以及各团队的公开仓库,可获取最新进展。
技术演进方向:从"查询时做功"到"摄入时编译",AI 知识处理的范式正在重构。