karpathy-llm-wiki-report-20260412
Karpathy LLM Wiki 知识库方法论
四模型深度研讨报告
MiniMax · GLM-5.1 · DeepSeek V3.2 Thinking · Kimi K2.5 并行讨论 · 福楽キャッテリー 落地分析
方法论核心：为什么这不只是 RAG 的改进版
传统 RAG（检索增强生成）的本质是每次问答都从零开始：切片 → 检索 → 拼接 → 生成。下一次问题来了，AI 仍然要重新经历整个流程，知识没有积累，只有消耗。
核心洞察（DeepSeek V3.2 Thinking）：LLM Wiki 不是 RAG 的改进版，而是一个完全不同的范式——从「检索驱动」到「编译驱动」。这类似于编译型语言（Go）vs 解释型语言（Python）：RAG 每次都在「解释」上下文，Wiki 则把知识编译成了可以直接读取的「二进制」。
临时检索
切片 → 检索 → 拼接 → 生成
无积累，每次重新发明轮子
持久编译
Ingest → 结构化写入 → Query
知识网络持续生长，越来越聪明
成本对比
1000次查询：RAG 300万 token
Wiki 仅需 55万 token
「LLM Wiki 是把"每次问答都从零推理"变成"一次编译、持续复用"——本质是给 AI 装了一个可主动维护的长期记忆硬盘，而不是让它每次都靠即时检索碰运气。」
— DeepSeek V3.2 Thinking
三层架构与三个操作
三层架构
| 层级 | 内容 | 谁来维护 | 核心价值 |
|---|---|---|---|
| raw/ | 原始资料（论文/文章/图片/视频） | 用户添加，AI 只读不修改 | 不可变信源，信任根基 |
| wiki/ | 结构化 Markdown（概念页/对比页/摘要页） | AI 全权维护 | 知识编译，跨文档关联 |
| AGENTS.md | Schema 规则手册 | 人 + AI 共同迭代 | 定义工作流和质量标准 |
三个操作
AI 读取 raw/ → 提炼核心 → 更新相关 wiki 页面（单篇可能涉及10-15个页面）→ 更新 index → 记录 log。AI 会主动发现跨文档概念关联。
AI 先读 index 了解网络结构 → 深入相关页面 → 综合分析 → 给出有来源引用的回答。好答案归档回 wiki，知识持续沉淀。
AI 检查矛盾/过时/孤儿页面/缺失链接 → 自动修复或标记人工审核。保持知识网络健康，防止腐烂。
两个关键文件
按主题分类的完整目录，包含每个页面的一句话摘要、来源数量、时间戳。在 ~100篇以内足够充当 AI 的主导航。
时间线日志，每条以 ## [2026-04-02] 开头，grep 即可解析。记录每次 ingest/query/lint，保持可追溯性。
v2 扩展：AgentMemory 实战教训
AgentMemory 是基于 Karpathy 方法论的开源实现，源自数千个真实 session 的经验总结。比原版多出的实战经验：
每条断言带置信度（来源数 × 时效性 × 矛盾检测），不是所有内容权重相同。高置信度事实优先被引用。
不重要的事实随时间自动降权。架构决策保留很久，临时 bug 快速衰减。不是删除，是降权。
Working → Episodic → Semantic → Procedural。信息逐层晋升才有资格成为「长期知识」。
不只是 wikilink，要提取实体类型（人/项目/库/概念）+ 关系类型（uses/depends on/contradicts/caused）。
BM25（精确词匹配）+ 向量搜索（语义相似）+ 图遍历（关系发现），三者融合互补盲区。
Session 结束自动归档 → Session 开始自动注入 → 定期 Lint → 知识整合。人类只做决策，记账全自动化。
AgentMemory 关键指标
| 指标 | 数值 | 说明 |
|---|---|---|
| R@5 准确率 | 95.2% | LongMemEval ICLR 2025 基准 |
| Token 节省 | 92% | ~1,900 vs ~19,000 每 session |
| MCP 工具 | 43 个 | 搜索/记忆/遗忘/动作/信号等 |
| 自动钩子 | 12 个 | 零人工努力自动捕获 |
| 外部依赖 | 0 | 无 Postgres/Redis/向量库 |
| OpenClaw 支持 | ✅ | 直接可接入 |
四模型观点汇总
① Token 账：82% 节省的前提条件
单次 RAG query 平均 3000 token，Wiki 把成本前置到 ingest 阶段。每月 1000 次查询场景：RAG 消耗 300 万 token，Wiki 仅需 55 万。但 ingest 本身不小，只有高频查询才能真正省钱。低频场景直接用 RAG 更划算。
② Ingest-Query-Lint 避坑指南
- Ingest：来源追踪是底线，每份文档必须带元数据标签（来源/时间/置信度）。常见错误：AI 把「可能 X」改写成「确定 X」，丢失不确定性。
- Query：建立「先 wiki 后 raw」的降级策略，保证答案质量下限。
- Lint：每月必须跑健康检查，三大任务：索引结构、孤儿页面、跨文档矛盾。index.md 长期不维护会变成新的信息孤岛。
③ 本土化：中文内容的特殊处理
中文互联网内容噪音多、水印重、格式乱。Ingest 前必须「去噪预处理」——提取正文、转 Markdown、去掉平台水印。中日双语场景建议：同一实体用中日双语索引，wiki 主体跟随主要业务语言（猫舍日语、AI 研修中文）。
④ Graphify + Wiki 协同关系
Graphify = 录入前哨（抽取实体/关系/矛盾检测）→ Wiki = 输出层（结构化人类可读文本）→ Query。两者结合：Wiki 读 Graphify 输出作为 source of truth，不要各自独立维护。
最大风险：领域边界模糊、概念快速演变时（AI 行业趋势分析），Wiki 强制把新知识塞进已有框架，索引重构成本极高。这时候硬上 Wiki 反而被框架拖累。
① AI 研究方向：对模型本身的启示
当 context window 越来越大，我们的惯性思维是用更长的上下文。但 Karpathy 的方法是反过来——不是让模型记住更多，而是让知识组织得更好。未来模型的核心竞争力不是「记多少」，而是「知识结构化程度有多高」。对于训练数据快要见顶的从业者来说，这条路比单纯扩大参数量更可持续。
② 多模态扩展的三个层面
- 录入层：图片不只是文件路径，要提取语义向量（品种特征/年龄段/毛色/健康状态）。音频用 Whisper 转文字再向量化，视频截帧+语音转写双轨并行。
- 关联层：建立跨模态关联——猫咪照片 + 文字描述 + LINE 对话录音 → 自动链接到同一实体。需要更强的实体识别和指代消解。
- 呈现层：Wiki 嵌入图片/视频需 caption 锚定文本，否则纯文本搜索搜不到视频内的知识点。
③ 知识质量控制的四层防线
- 来源锚定：每条知识必须标注来源（原始文档第几页/视频几分钟），无法溯源的拒绝录入。
- 交叉验证：同一事实至少两个独立来源才能给高置信度标签。
- 时间衰减：架构决策保留久，价格/政策/联系方式必须有 TTL 标记，定期触发复核。
- 对抗性测试：随机抽取已录入知识要求 AI 反推来源，找不到则说明已变质。
④ Graphify 和 Wiki 的分工
Wiki 是教科书，图谱是索引目录。理想工作流：先通过 Graphify 定位到正确的知识社区，再跳转到对应 Wiki 页面深入阅读。Wiki 页面的内部链接反向丰富 Graphify 的边，形成双向增强。
⑤ 未来 1-2 年的三个突破方向
- RAG → 编译式知识：AI agent 在后台持续重构个人知识网络，定期把临时发现凝固成结构化知识。
- 多模态知识图谱标准化：VLM 能力提升使「图片+文本+视频片段」混合图谱在技术上变得可行。
- 知识质量自动评估：AI 自净，从「人工维护」过渡到「AI 自净」。
① 范式颠覆的本质
RAG 本质是检索驱动，模型被动等待检索结果。LLM Wiki 是编译驱动——知识被预先消化、重组、结构化写入持久化文档。质量控制的关键区别：RAG 的输出质量取决于每次检索是否精准；Wiki 允许 AI 在录入时主动组织知识、发现矛盾、补充关联，质量在编译时就锁定了。
② 历史类比：知识管理三次跃迁
- 第一次：图书馆目录卡（19世纪）——把散落书籍变成可检索元数据，检索的是「书」不是「知识」。
- 第二次：Wikipedia（2001）——把知识从专家权威中解放出来，网状链接，本质是「人类 Wiki」第一次成功实践。
- 第三次：AI Wiki——把「谁来写」从人类扩展到 AI，把「维护成本」从志愿者热情变成自动化钩子，把「质量控制」从版本投票变成置信度评分。
③ 收益 vs 维护成本的临界点
系统真正值得的临界点：同一个领域内，你会反复问跨文档的综合性问题，且答案需要整合超过 3 个以上的知识源。
量化指标：领域知识库 > 50 篇核心文档；同一个问题 30 天内问第二次以上；问题答案需要跨文档关联。低于这个门槛，Wiki 维护成本会超过收益。
④ 福楽キャッテリー 三个立刻行动切入点
🐱 猫咪健康知识库（日语+中文）
常见疾病/症状/护理方案整理为 Wiki，AI 录入时主动关联品种易感性（西伯利亚猫 HCM 遗传倾向）。每次客户问「猫咪呕吐怎么办」，AI 直接读编译好的结构化文档。
📚 AI 研修课程知识图谱
把 AI 工具评测/课程内容/学员反馈编译为关联知识网络。新员工 onboarding 时，Wiki 能告诉他们「这个问题在哪个环节讲过，谁当时提过类似问题」。
⚙️ 业务流程 SOP 的 AI 可读版本
现有 Notion 里的客户应对流程/猫咪出生记录追踪/转账确认步骤——Wiki 化之后，AI 执行任务时直接读取「编译好」的流程知识，减少每次的上下文构建消耗。
⑤ 反对意见：什么时候是过度工程？
过度工程的标志：知识领域太窄或变化太快（追踪每日社交媒体热点）；团队小于 3 人且知识共享频率极低；现有工具（Notion/飞书）已经能很好地解决核心问题。
一句话总结（DeepSeek）：LLM Wiki 是给 AI 装了一个可主动维护的长期记忆硬盘，而不是让它每次都靠即时检索碰运气。
① 双语/多语场景的特殊风险
最大的风险是概念漂移——同一个实体在不同语言里可能长出两套知识体系。比如「サイベリアン」在日语资料里对应血统证书/协会标准/繁殖伦理；在中文笔记里可能和「西森」「长毛猫」「涅瓦色」等标签打交道，语境完全不同。
解决方案：原始资料保留原文，wiki 层强制统一实体命名（用英文 ID 或标准化术语做主键）。跨语言 lint 要特别检查「翻译等价但不语义等价」的陷阱——比如日语「血液浄化」和中文「血液净化」字面一样，但适应症和监管框架可能完全不同。
另一个坑：日语敬語体里隐含的人际关系和商业信息（客户焦虑程度、礼貌距离）在结构化提取时容易丢失。如果将来 Wiki 要支撑客服回复生成，需要保留足够的情境元数据。
② 工具链分工：谁最适合当载体？
Obsidian 是最适合做 Wiki 载体的工具，原因：文件系统原生本地 Markdown 仓库 + 插件生态 + Web Clipper，完美匹配 Karpathy 三层架构。
| 工具 | 适合角色 | 不适合的角色 |
|---|---|---|
| Obsidian | Wiki 编译中心（wiki/ 层） | — |
| Notion | 分发终端（CRM/客户视图） | 高频 AI 读写（API 速率限制） |
| 飞书 | 原始输入源之一 | 知识库本体（信息寿命按天算） |
| Graphify | 季度健康检查员 + 全局模式发现 | Wiki 编辑和审阅体验 |
务实分工：Obsidian（编译中心）+ Notion（分发终端）+ 飞书（原始输入源）+ Graphify（季度健康检查员）。每个工具干自己擅长的事。
我们做到了什么：Graphify 知识图谱现状
我们在 Karpathy 方法论落地上已经走得比大多数人都远。以下是已有的积累：
EXTRACTED / INFERRED / AMBIGUOUS — 和 AgentMemory v2 的置信度评分体系高度一致，甚至更早在 AGENTS.md 里实现了。
AGENTS.md 已配置，answer 架构或代码问题前先读 GRAPH_REPORT.md。Git hooks 支持 post-commit 自动重建。
Graphify 的关系网络（10K 节点）是 Wiki 的天然前哨，两者协同关系已被各模型确认：Graphify = 前哨，Wiki = 输出层。
每次 /graphify query 的结果可自动保存到 graphify-out/memory/，下次 --update 时被提取为节点，知识图谱越用越智能。
差距分析：Wiki 层 vs Graphify 层
| 功能维度 | 目标状态（LLM Wiki） | 我们现状 | 差距 |
|---|---|---|---|
| raw/ 原始资料层 | 原始文档不可变存储 | ❌ 未建立 | 完全缺失 |
| wiki/ 编译层 | AI 全权维护的结构化 Markdown | ❌ 未建立 | 完全缺失 |
| AGENTS.md 规则 | 完整的 schema + 工作流规范 | 🟡 基础版 | 需扩展 Ingest/Query/Lint 规范 |
| index.md 目录 | 按主题分类，AI 主导航 | ❌ 无 | 完全缺失 |
| log.md 时间线 | 每次操作记录，可 grep 解析 | ❌ 无 | 完全缺失 |
| Ingest 交互流程 | AI 主动提问题确认概念关联 | ❌ 单次录入无交互 | 完全缺失 |
| Lint 健康检查 | 定期体检 + 自动修复 | 🟡 Graphify 有矛盾检测 | 需集成到 Wiki 层 |
| 置信度评分 | 来源数×时效性×矛盾检测 | ✅ Graphify EXTRACTED/INFERRED | 需扩展到 Wiki 层 |
| 遗忘曲线 | 随时间自动降权 | ❌ 无 | 完全缺失 |
| 四层记忆层次 | Working→Episodic→Semantic→Procedural | ❌ 无 | 完全缺失 |
| Obsidian Web Clipper | 一键保存网页/YouTube 为 Markdown | ❌ 未集成 | 完全缺失 |
| AgentMemory 接入 | 零外部依赖的记忆引擎 | ❌ 未接入 | 完全缺失 |
| 多语言实体统一 | 中日英主键统一，跨语言 lint | ❌ 无 | 完全缺失 |
关键判断（各模型共识）：Graphify 已经实现了 Wiki 的「关系发现层」，但「结构化编译层」（wiki/ 目录）和「规则引擎层」（AGENTS.md 完整版）仍然是空白。这是接下来最值得补的短板。
下一步行动清单
-
P0建立 raw/ 和 wiki/ 目录结构
在 Obsidian vault 里建立两层结构。raw/ 放原始文档（论文/文章/视频笔记），wiki/ 放 AI 编译的结构化页面。按业务分类（猫舍健康/AI研修/业务流程），初始 AGENTS.md 定义基本工作流。
-
P0扩展 AGENTS.md：Ingest + Query + Lint 规范
定义 AI 在录入时的行为规范：来源追踪要求、置信度标注规则、概念发现触发条件。参考 Karpathy gist 的 schema 设计，结合我们自己的业务场景（日语客户资料、中文运营笔记）做个性化定制。
-
P0建立 index.md + log.md
index.md 作为 wiki 的主导航（按类别列出所有页面 + 一句话摘要 + 来源数量）。log.md 记录每次 ingest/query/lint 操作，以日期为前缀，grep 即可解析。每月固定时间更新 index。
-
P1接入 AgentMemory（OpenClaw 版本）
AgentMemory 支持 OpenClaw，零外部依赖。安装后接入我们的 OpenClaw，12 个自动钩子 + 43 个 MCP 工具，可以无缝集成到现有工作流。优先测试「session 结束自动归档」和「开始自动注入」两个钩子。
-
P1建立中日双语实体统一规则
定义实体主键命名规范（英文/标准化术语）。品种名（サイベリアン = Siberian）、疾病名、行政手续名统一索引。中日双语的 wiki 页面可以并存，但实体必须映射到同一主键，防止概念漂移。
-
P1Graphify → Wiki 协同工作流
Graphify 作为 Ingest 的前置处理：raw 文档 → Graphify 抽取实体/关系/矛盾检测 → Wiki 写入结构化页面。Graphify 的矛盾检测算法直接服务 Lint 操作。Wiki 直接消费 Graphify 输出作为 source of truth，不各自独立维护。
-
P2Obsidian Web Clipper 集成
配置 Obsidian Web Clipper，支持一键保存日语客户文章/AI 研修视频字幕/行业报告为本地 Markdown（带离线图片）。设置自动化钩子：新 clip 入库 → 触发 Ingest 工作流。
-
Pilot第一个 Pilot：猫咪健康知识库
选取「猫咪健康知识库」作为首个 Wiki pilot 场景。将已有的猫咪常见疾病资料（日语 + 中文）录入 raw/ → AI 编译成 wiki/ → 建立 index/log → 测试 Query 和 Lint。这是 DS Thinking 建议的优先级最高的切入点。
落地优先级：四模型共识 + 业务匹配
DS Thinking + GLM 一致认为是价值最明确的切入点。将现有猫咪疾病资料系统化，建立 raw/wiki 结构，验证 Ingest-Query-Lint 完整流程。成功后再复制到 AI 研修和业务流程场景。
最高优先级AGENTS.md 完整版 + index.md + log.md + Graphify→Wiki 协同工作流。搭好基础设施后，其他场景的录入成本会大幅降低。
重要接入 AgentMemory，实现 session 自动归档/注入。将遗忘曲线机制写入 AGENTS.md，让知识网络有自我维护能力。
中等将图片（猫咪照片）、音频（客户语音）纳入知识库。多 agent 网格同步测试，验证多实例协作场景下的知识一致性。
探索
结论与建议
四模型核心共识
- 不是 RAG 的改进，是完全不同的范式——从检索驱动到编译驱动，从临时推理到持久积累。
- Wiki 是教科书，图谱是索引目录——两者协同，不是竞争。Graphify = 前哨，Wiki = 输出层。
- Obsidian 是最佳载体——文件系统原生，插件生态完整，不被任何 App 绑架。
- 高频跨文档综合查询场景最值得投入——50+ 核心文档，30 天内重复提问，答案需要跨文档关联。
- 中文内容需要去噪预处理——中文互联网噪音多，Ingest 前必须提取正文转 Markdown。
- 中日双语场景要防概念漂移——实体主键统一，跨语言 lint 特别检查翻译等价但不语义等价的情况。
一句话行动纲领
「先在 Obsidian 里把 raw/ 和 wiki/ 搭起来，用猫咪健康知识库跑通 Ingest-Query-Lint 全流程，Graphify 当前哨，Wiki 当输出层，AgentMemory 当自动化钩子，1 个月验证价值，3 个月形成复利。」
什么时候这套方法会失败
DeepSeek 的警告值得重视：知识领域太窄或变化太快（AI 行业趋势分析）；团队小于 3 人；现有工具（Notion/飞书）已经能解决核心问题——这些情况下不要强行上 Wiki，先用好现有工具。
Wiki 的价值在于深度 + 持久 + 关联，如果你的问题域不需要这三点，用 Notion 搭一个数据库远比维护一个 AI 可读的 Wiki 系统高效得多。