RAG这次真死了!SAG2才是本地知识库的神,又快又准又便宜~
袋鼠帝AI客栈 · 人工智能
原创 袋鼠帝 2026-11-06 11:02 云南 SAG Wiki 打破知识库的不可能三角,下一代AI知识库来了! 大家好,我是一直在跟知识库打交道的袋鼠帝。 在 AI 圈,每天都有新东西冒出来,但 已经好久没有一个东西,能让我看完浑身起鸡皮疙瘩了。 最近开源的 SAG2 ,真就做到了。或许它将彻底颠覆RAG,因为你都不用预处理文件,它直接就能把你的本地文件当成知识库,而且速度极快,准确度贼高,关键都不需要embedding... https://github.com/Zleap-AI/SAG-Wiki 当然SAG2是理论,而已经实现的可用的工具是SAG Wiki(待会儿会讲到) 这么🐂🍺的开源项目, 我必须得提一下作者:广州智跃深空(Zleap) , SAG到SAG2都是完全由他们自研 ,非常厉害的一个团队。 老粉应该记得,6 月我写过一篇SAG第一版的文章。 那会儿 SAG 刚开源,我被它用 SQL 现场串多跳线索的思路吸引了,还建议大家可以把它当 MCP 接进 FastGPT。 但用过的朋友也知道,一代在落地时依然要调大模型逐段提取事项和实体,建库耗时还是比较长,很多人觉得在工程上还是有点折腾。 结果才过了 4 个多月,他们自己把这些全砍了。 现在SAG2建库不调大模型,不做 Embedding,不要向量数据库,也不要 GPU。同样是 11,656 段文本,SAG 一代建库要 4.57 小时,SAG2 只要 2.36 秒。速度直接提升7000倍! 效果呢?还变得更好了。三个多跳检索测试集,8 项指标全部第一。 卧槽。。 知识库一直有个不可能三角,又轻、又便宜、又准 ,以前最多只能满足两个。这下SAG2直接给它打破了! 我为什么这么兴奋~ 可能是因为,我从24年初裸辞 All in AI 开始,就一直在跟知识库打交道。也写过很多关于知识库的文章。 24 年初,我裸辞后的第一桶金,就是帮一个老板部署 FastGPT、搭知识库、调优效果。后来又陆陆续续接了不少类似的单子。 搭一个知识库其实不难,难的是后面的维护和调优。 分块也是个问题,张三负责 A 项目和 500 万预算被切成两段,线索就断了。score 调低了噪音多,调高了又容易漏东西,经常是按下葫芦浮起瓢。我有个好朋友的公司,组了六个人的团队,花了整整半年,才把回复准确率调到一个相对满意的状态。 更烦的是维护。文件一改,就得重新上传、重新切块、重新向量化一遍。 预处理、调优、维护,这几个坑我基本都踩过。所以看到 SAG2 的思路,我是真滴有点激动。 先带大家简单捋一下知识库这几年是怎么走过来的吧,不然很难说清 SAG2 到底新在哪、好在哪。 RAG 这个词其实 2020 年就有了,出自 Facebook(现在的 Meta)的一篇论文。 真正火起来是 23 年 ChatGPT 之后: 大模型不知道你公司的事,那就先把资料切成小块、转成向量存起来,提问时找最像的几块丢给它。FastGPT、Dify 这类平台,把这套流程做成了UI界面点点点的操作。 再往后,大家发现光靠向量不够, 全文检索+向量检索+重排序 的混合检索就成了标配。到今天,它依然是最成熟的工业方案,日常的单文档问答完全够用。 它的短板是多跳。还是上次那个例子: 文档1:A公司全资收购了B公司。 文档2:张三被任命为A公司的CTO。 文档3:张三离职,加入了盘古大模型项目。 问:收购了B公司的企业,其CTO后来加入了哪个项目? 文档3里,收购、B公司、CTO 一个词都没有,线索到这就断了。 于是有了知识图谱: 24 年微软开源了 GraphRAG,后来又有 LightRAG、HippoRAG 2 这些。入库前,先让大模型把人名、公司、事件之间的关系全抽出来,画成一张大图。多跳确实强了,代价就是贵和重:索引阶段要大量调用大模型,新文件进来,关系可能还得重算。 今年 4 月, 卡帕西分享了 LLM Wiki 的思路: 让大模型把原始资料读一遍,编译成一套 wiki 页面,再对 wiki 做问答,产出的结果再回填进去。我写仓颉.Skill 的时候还专门借鉴过它。这套方式对个人知识整理很友好,页面读起来也舒服。但资料一多,大模型逐篇读、逐篇写的时间和 Token 就上去了,原文一改,对应的页面还是得重写。 还有 Google 的 NotebookLM 。年初那篇工具推荐里我还推荐过它,资料往里一扔就能问答、出摘要、生成播客,啃大部头简直是神器。不过资料得传到云端,每个笔记本能放的来源有上限,想让本地 Agent 直接调用也不太方便。 你会发现一个规律:每往前走一步,基本都是在入库时多花一点钱、多调一点模型,换检索的准确度。 SAG 一代也是类似的,只是比 GraphRAG 更轻了: 不画全局大图,只提炼事项和实体,查询