去年冬天，我在一家做工业配件的客户那里做交付。他们的IT总监老周拉着我看后台数据：AI知识库上线两个月，日活从136人掉到11人。点开问答记录，第一条是“报销流程是什么”，系统回了一段2019年的差旅标准，附件还打不开。老周说，员工现在宁可翻微信群聊天记录，也不愿意问这个“人工智障”。这个场景我见过太多次。问题不在模型，在于很多人把AI知识库当成“搜索框加个大模型”就完事了。
先别急着选模型，把文档仓库翻一遍
我们接手后做的第一件事不是调API，而是让行政、人事、技术三个部门各交一份“最常被问到的20个问题”。结果收上来57个问题，其中23个的答案在三个以上版本的文件里互相打架。比如年假天数，员工手册写5天，OA系统里是7天，去年发的通知邮件又变成“按司龄递增”。这种数据不先清掉，接什么模型都是灾难。
具体怎么做？我的建议是先做一轮“文档考古”。把共享盘、钉钉/飞书文件夹、邮件附件里的制度类文件全拉出来，按部门+年份建一个清单。让每个部门的接口人花半天时间标注：现行有效、已废止、待确认。我们那个客户最后清出来1800多份文档，真正有效的只有214份。剩下的不是过期就是草稿。这一步没有技术含量，但决定了知识库的底线质量。
权限不是技术问题，是管理问题
第二个坑更隐蔽。有个做医疗器械的客户，知识库上线第一周就出了事故：销售在问答里搜“产品注册证”，系统把研发部的临床测试报告摘要返回来了。虽然没造成实际泄露，但合规部门直接叫停了项目。事后复盘，他们的权限设计是“先上线再补”，把所有人放在一个默认可见的组里。
我的经验是，AI知识库的权限必须比原文件系统更细一层。因为大模型会把多个文档的片段拼在一起回答，原来A文档和B文档单独看都没问题，拼起来就可能暴露敏感信息。具体做法：在文档入库前，给每个切片打上“部门+密级+项目”三个标签，检索时先过滤标签再送模型。技术实现上，用向量数据库的元数据过滤就能做，成本不高。但前提是你要先跟法务、合规、业务部门坐下来，把标签体系定清楚。这件事花两周，比后面救火划算得多。
模型选型：别追榜单，看你的问题类型
很多决策者问我：用GPT-4还是国产模型？我的回答通常是：先看你的知识库要回答什么问题。如果主要是制度查询、流程指引这类“有明确答案”的问题，一个7B参数的小模型加上好的检索策略，效果不比大模型差，成本却只有十分之一。我们给一家连锁餐饮企业做的知识库，用的就是开源小模型加BM25混合检索，回答准确率到了89%，每个月API成本不到300块。
但如果涉及跨文档推理，比如“对比去年和今年的供应商账期政策差异”，那就需要更强的模型。我的建议是分两步走：先用小模型+规则跑一个月，收集badcase。如果badcase里超过30%是“需要推理”的类型，再考虑升级模型。别一上来就上最贵的，很多问题其实是检索没做好，不是模型不够聪明。
让员工用起来：从“能查”到“愿意查”
回到老周那个项目。我们做了三件事把日活拉回70多。第一，把问答入口嵌到企业微信的聊天侧边栏，员工不用切应用。第二，每周五发一份“本周高频问题TOP10”，附上正确答案和文档链接，让员工知道系统在更新。第三，也是最关键的，在每个答案下面加了一个“这个回答有用吗”的按钮，点“没用”会直接触发人工复核。前两周收到400多条反馈，我们据此调整了检索权重和文档切片粒度。
有个细节值得说：很多员工不是不会用，是怕问错问题丢人。我们在测试阶段找了几个部门里“人缘好但不太懂技术”的同事，让他们在群里公开提问，慢慢大家就跟着用了。知识库的冷启动，本质上是信任的冷启动。
结语
如果你现在正准备启动AI知识库，我的建议是先别写招标书。找三个部门，每个部门要10个真实问题，然后手动去翻文档找答案。这个过程会告诉你数据有多乱、权限有多复杂、员工真正关心什么。把这三个问题想清楚，再决定用什么技术。知识库不是买来的，是养出来的。