企业 AI 项目 Wiki · 数据、知识与模型
知识来源
也常写作Knowledge source · 知识源 · 信息来源 · 事实来源 · 权威来源 · 内容来源 · 知识出处
知识来源是组织为回答特定问题、解释业务规则、还原事实或支持操作而认可的可追溯起点,可以是受控记录、业务系统数据、批准文件、人员经验或外部发布物。合格的来源必须能说明身份、所有者、适用范围、版本或有效时间、访问和使用权、取得与转换过程、质量限制以及发生冲突时的处理责任。
知识来源是结论的可追溯起点,不是搜到的一段文字
员工问“这笔采购由谁批准”,可能需要当前授权规则;问“这笔申请当时由谁批准”,需要交易记录和当时有效的规则;问“为什么设置这个门槛”,还可能需要批准纪要和制度依据。三个问题使用的来源不同,不能只把搜索相似度最高的文档当成答案。
ISO 30401 把知识管理放在组织目标、人员、流程和持续改进中理解。W3C PROV 则用实体、活动和承担责任的主体描述来源链。项目里的知识来源因此既包括内容本身,也包括谁产生或批准、经过什么活动、何时有效以及怎样到达当前答案。
来源可以是数据库记录、政策文件、合同、操作手册、会议决定、专家确认或外部发布物。模型生成的摘要、切分片段和向量索引是这些来源的派生表示;如果无法回到原始版本与位置,它们不能独立承担事实责任。
企业知识通常来自多种载体,不能只盘点 PDF
正式规则可能在制度文件里,当前状态在业务系统里,例外权限在授权表里,操作经验又掌握在人员手中。来源盘点要围绕问题所需证据展开,才能发现静态文档、实时记录和有权人员分别提供哪一部分答案。
制度与规范
经批准的政策、制度、标准、流程、工作指引和授权表,说明必须、允许或禁止怎样处理;需区分正式版、解释材料、模板和历史版。
业务系统与数据服务
ERP、CRM、工单、主数据、合同、库存、订单和状态接口提供当前或历史事实;页面截图和人工导出通常只是副本,不自动成为权威。
正式记录与证据
已批准申请、签署合同、会议决定、验收确认、审计记录和通信可以证明某次活动与决定。记录内容、上下文和结构共同影响可靠性。
产品与技术资料
产品手册、接口文档、版本说明、配置说明、已知问题和供应商支持答复可解释技术行为,但必须绑定产品、版本、地区和支持状态。
人员经验
主题专家、客服、运营和现场人员掌握尚未文档化的例外、判断和隐性知识。访谈结论应记录人员角色、问题、日期、确认范围和后续固化责任。
项目产物
已批准的需求、业务规则、设计决定、测试证据、问题关闭和交接资料可解释本项目;草稿、聊天和个人笔记只有在明确状态和责任后才能使用。
外部公开或订阅资料
政府、标准组织、行业机构、研究机构、厂商网站、数据库和新闻资料可补充外部事实。发布者身份、原始页面、更新频率、许可和地域适用范围须确认。
派生内容
摘要、术语映射、知识图谱、切分片段、翻译、标签和 AI 生成说明提高可检索性,但必须连接来源版本、转换活动和复核状态,不冒充原始来源。
权威性必须按问题、对象、时间和责任范围确认
一份文件由高层发布,也不意味着它能回答所有细节;一线记录很新,也不代表它有权解释政策。判断来源要问它对哪类问题、哪些对象和哪个时期有效,以及谁为解释负责。权威不是文档的永久总分。
先写知识问题
把“了解采购”改成可判断的问题,例如谁有权批准、当前门槛是多少、某笔申请当时状态是什么、异常由谁处理。问题不同,适合的来源和时间口径也不同。
确定业务对象和粒度
说明来源描述政策、流程、实体属性、单笔交易、一次决定、技术版本还是经验建议。部门级手册不能自动回答一笔交易的真实状态。
确认发布与决定权
记录谁有权制定规则、确认事实、维护主数据、签署记录或发布外部信息。编写者、保管者、系统管理员和业务决定者可能不是同一人。
限定适用范围
明确组织、法人、部门、产品、地区、客户、渠道、语言、合同和业务情形。集团制度与地区细则冲突时,不能只按文件级别猜优先级。
限定有效时间
区分发布、批准、生效、失效、交易发生和系统取得时间。最新文件适合回答当前规则,却可能错误改写历史决定。
区分规范与说明
规范性来源规定必须怎样做;解释、培训、FAQ 和例子帮助理解但可能简化。若组织批准 FAQ 对特定问题具有决定作用,应把这项授权写清。
确认记录系统
某个系统可被组织认定为特定对象或属性的记录系统,但不等于它对全部问题都是唯一真相;属性级、时间级或决定级权威应分别登记。
知识来源登记表要让人能找到、判断和重现
只保存一个链接,过几个月可能已经指向更新后的内容,也无法解释当时回答用了哪一版。登记表要同时记录所有者、范围、版本、生效时间、权限、转换状态和替代关系,让团队能重现一次判断。
- 稳定身份
为来源和具体版本分配稳定 ID,记录正式名称、来源类型、原始位置和获取方式;文件名不能单独承担身份。
来源 ID、原始 URI/系统对象、版本或快照 ID
- 责任主体
分别记录内容所有者、批准者、维护者、技术保管方和冲突裁定人,不用一个模糊“负责人”覆盖全部责任。
角色台账、批准记录、维护与升级路径
- 适用范围
记录可回答的问题、业务对象、组织和地域、语言、产品或流程、包含与排除内容。
用途声明、范围标签、已知不适用情形
- 时间与状态
保存创建、发布、批准、生效、失效、取得和复核时间,以及草稿、有效、替代、撤回或归档状态。
版本历史、状态事件、有效区间
- 权利与保护
说明所有权、许可、合同用途、个人或机密分类、允许用户、地域、复制、模型处理和引用限制。
许可或合同引用、分类、访问策略
- 结构与语言
记录格式、字符、语言、页码或锚点、表格图片、附件、扫描/OCR 情况及机器解析限制。
格式清单、解析报告、无障碍和 OCR 结果
- 来源链与完整性
保存原始发布者、取得通道、前序版本、转换活动、校验和及派生物关系,使摘要和片段能回到原件。
来源链、处理日志、校验和、派生映射
- 质量和风险
记录准确、完整、及时、一致、代表性、已知空白、冲突、复核结论、风险和下次复核触发。
质量评估、问题台账、批准的限制
来源接入要保留原件、转换和责任链
扫描、解析、表格提取和格式转换都可能丢掉标题、脚注、否定词或单元格关系。接入过程需要保留原件与派生物的联系、处理版本和质量检查,使错误可以回到具体转换步骤,而不是笼统归咎于模型。
1. 从问题和风险提出申请
说明要支持的回答或操作、目标用户、错误后果和已有空白,不因“有一批文档”就全部接入。
2. 确认所有者和使用权
向内容或系统责任人确认正式状态、适用范围、访问、复制、AI 处理、跨境、保存和引用条件。
3. 取得可验证原件
优先从正式仓库、记录系统、批准通道或原发布者取得,保存版本、快照、下载时间和校验和,避免个人转发副本成为唯一来源。
4. 分析结构和依赖
识别正文、表格、图片、附件、链接、术语、交叉引用、地区细则、外部系统和历史版本;缺少附件时不能假定正文完整。
5. 转换但不覆盖原件
OCR、解析、格式转换、翻译、清洗、切分和标签产生独立派生版,记录工具、参数、时间、错误和人工修正。
6. 验证内容与任务
比较原件和派生物,抽查表格、否定、例外、页眉脚、公式、时间和链接,再用代表性问题确认能否支持预期结论。
7. 批准范围后发布
由承担业务、内容、数据、记录、安全或法务责任的适当角色批准可用问题、用户、期限和限制,不用技术导入成功代替批准。
8. 建立监测与退出
订阅变更、定期复核、接收使用反馈;替代、撤回、权利变化或质量失败时停止检索并处理索引、缓存和派生物。
来源质量是对具体用途的适配,不是一个总分
一份简洁手册很适合帮助员工学习,却未必足以支持合规决定;原始法规权威,但普通用户可能难以直接使用。质量要结合准确性、完整性、新鲜度、可解释性和具体风险判断,不能用一个分数决定所有用途。
真实性与身份
确认来源确为所声明发布者、系统、专家或记录产生,获取过程没有把草稿、镜像、转述或被篡改副本误当正式内容。
准确与可靠
内容是否正确表示其声称的事实、活动或规则,产生过程是否可依赖。正式身份不能保证每个值都无错误,仍需抽样、对账和反馈。
完整与上下文
正文、附件、表格、脚注、例外、定义和前置条件是否齐全,能否理解谁在何时为哪个情形作了什么决定。孤立段落容易改变原意。
当前与时点适配
当前问题使用仍有效版本,历史问题保留当时版本;更新延迟、快照截点和来源系统同步时差必须可见。
一致与冲突可解释
跨来源术语、数值、状态和责任是否一致;不一致时能说明适用边界、版本或待裁定原因,而不是在导入时静默覆盖。
覆盖与代表性
来源是否覆盖目标地区、产品、角色、语言、正常和异常情况。大量重复常见问答不能补足高风险少见情形。
可用与可定位
获准用户能稳定取得并解释内容,系统能定位到页、节、记录或时间点。只能看到摘要却不能回原件的来源不利于核验。
可解析但不过度简化
格式能被可靠提取,表格关系、标题层级、图片、公式和否定不在转换中丢失;机器友好不能以改变业务含义为代价。
冲突、过期和资料不足必须成为可见结果
检索到两份不同答案时,系统最危险的做法是悄悄挑一个读起来更像真的。来源优先级、生效时间和裁定责任要事先明确;无法确定时,展示差异并停止高风险结论,本身就是正确结果。
先判断是否真冲突
比较对象、适用组织、日期、版本、术语和问题颗粒度。集团制度与地区流程、当前规则与历史记录可能同时正确,只是适用情境不同。
执行预先批准的优先规则
按特定问题登记法规或合同约束、批准制度、属性记录系统、签署记录和解释材料的作用;优先规则本身要有所有者和版本。
不静默合并
两个来源给出不同金额、状态或责任时,保留各自出处和时间,标记冲突并阻止高风险自动操作,不让模型平均、猜测或挑一个顺口答案。
建立裁定记录
冲突工单保存问题、来源版本、业务影响、临时处理、裁定人、结论、理由、生效时间及需要修正或重发的下游资产。
明确资料不足
没有覆盖该地区、缺少有效版本、无法取得附件、记录不完整或权限不允许时,回答具体缺什么、能确认什么和下一步找谁,不用通用知识补成确定事实。
保留少数与反对意见
专家判断或研究资料存在合理分歧时,记录观点、依据和适用限制。只有获得决定权的结论才能进入规范性回答。
能看见的内容不一定有权接入、检索或输出
员工能在原系统查看某份合同,不代表项目可以把它复制进全局知识库、发送给第三方模型或向其他角色引用。权利和权限要按获取、存储、索引、模型处理和输出分别确认,并随主体与用途变化继续执行。
使用权和许可
确认抓取、复制、索引、向量化、翻译、摘要、模型处理、内部共享和对外引用的权利。公开网页可访问,不等于允许任意再利用。
个人与机密内容
识别个人数据、商业秘密、合同、凭据、受限记录和出口或地域限制,按目的最小化并决定是否脱敏、隔离或不接入。
继承来源权限
知识库和检索结果按用户、租户、对象、属性与目的执行权限过滤;来源被撤权后,片段、索引、向量和缓存也须停止暴露。
外部内容不可信
网页、邮件、文档和工具结果可能包含恶意指令或误导内容。把内容当数据而非系统指令,隔离指令层,限制工具权限并检测提示注入。
秘密和活动内容
禁止把密码、API 密钥、私钥和一次性令牌作为普通知识建立索引;实时价格、库存和账户状态应通过受权工具查询,而非依赖过期文本副本。
供应链与退出
记录外部连接器、解析器、嵌入和模型服务是否保存或训练输入、使用子处理方、怎样删除和通报事件,并准备来源服务退出或失效时的替代路径。
来源链解释内容怎样形成,引用说明当前结论由哪里支持
来源链帮助团队知道一段内容从原件经过哪些转换进入系统,引用则让读者核对某个具体主张。两者都重要:只有血缘没有可读引用,用户难以验证;只有链接没有版本和处理记录,团队又难以复现。
保存来源链
W3C PROV 用实体、活动和主体表达产生、使用、派生、修订和责任关系。项目可据此连接原件、解析版、切分、翻译、摘要、索引、检索结果和最终回答。
引用具体版本和位置
引用包含来源 ID、标题、版本或有效时间、页/节/表/记录或稳定锚点;只写文件名或网站首页,无法重现当时证据。
区分来源、证据和引用
来源是内容起点,证据是支持某项主张的具体内容,引用是把主张指回证据的表示。列出来源不等于每句话都得到支持。
检查忠实、完整和充分
NIST 的引用质量试验分别检查来源是否真正支持主张、是否遗漏改变含义的内容、证据是否足以承担结论。项目按风险建立人工或自动复核。
保留多来源归属
回答综合多个来源时,标明每项事实、规则和推断各由什么支持,不把二手摘要包装为原发布者原话,也不让一个引用装饰整段混合结论。
处理不可公开来源
内部或受限来源可以向有权用户显示必要标题、版本和位置;向无权用户不得借引用泄漏文件名、人员、路径或敏感片段,可返回受控来源类别或人工渠道。
知识来源会变更、被替代和失效,必须持续维护
制度发布后还会修订,网页可能静默更新,接口也会改变字段含义。来源维护要发现变化、判断影响、更新索引和缓存,并保留历史版本。否则系统可能继续流畅地引用已经失效的内容。
变更发现
通过正式通知、版本接口、仓库事件、定期检查、内容所有者确认和使用反馈发现新版本、撤回、链接失效、权限与许可变化。
影响分析
识别受影响的问题、规则、片段、标签、索引、评测样本、回答模板、工具操作和下游系统;内容只改一页也可能改变多个结论。
版本并存
当前回答切换到新有效版,历史回答仍能定位旧版和当时有效区间;不要覆盖原件后让过去的决定失去依据。
重新处理和回归
重新解析、切分、嵌入和索引,比较数量、位置、权限和检索结果,用关键问题验证新增、修改、删除、否定和例外是否正确生效。
撤回与隔离
来源真实性、权利、完整性或安全失败时立即停止新增使用,隔离派生内容,评估既有回答和操作影响,再决定修复、替换或通知。
保留与处置
按业务、记录、合同、隐私和审计要求保留原件、版本、处理与批准证据;到期删除可控副本、索引、向量和缓存,并记录无法即时清除的范围。
责任和服务水平
为高影响来源约定所有者、复核周期、变更通知时限、故障联系、替代来源和恢复目标;无人维护的“权威文档”会快速失去权威性。
采购知识来源登记和冲突处理的构造例子
下面用独立构造、与任何客户无关的采购问题,展示制度、授权表、交易记录和操作说明怎样分别承担规则、数值、事实与流程证据。重点是来源冲突或缺失时怎样停下来,并找到有权裁定的人。
当前审批门槛
使用已批准且在询问日期有效的采购授权表,登记适用法人、品类、币种、含税口径、版本和批准人;培训幻灯片只作解释,不覆盖授权表。
某笔申请事实
申请金额、币种、状态、提交人与审批事件来自获认定的采购记录系统及不可无痕覆盖的事件历史,截图和邮件转发不能替代该记录。
供应商身份
规范供应商 ID、法律实体与有效状态来自主数据属性级权威;合同里的名称是交易时证据,不能反向静默修改当前主数据。
异常流程
当前流程制度说明超门槛、资料不足、职责冲突和 ERP 状态未知怎样处理;若流程图与正文冲突,按预先批准的裁定规则停止自动提交并发起工单。
专家补充
运营负责人说明未文档化例外时,先记录问题、人员角色、日期、适用情形和临时效期,交制度所有者确认;未经批准不得长期变成 AI 的确定性答案。
回答和引用
回答分别引用授权表的具体条款、申请事件 ID 和供应商记录版本;说明哪些是事实、哪些是规则、哪些是推断。资料缺失时列出缺项和责任渠道,不生成门槛或状态。
企业 AI 要在检索前选对来源,在生成后验证每项主张
RAG 能把相关片段送给模型,却不会自动判断资料是否有权、仍然有效或足以支持结论。可靠回答要在检索前收窄合格来源,在生成后逐项核对主张与引用;两个阶段任何一个省略,都可能产生带链接的错误答案。
建立可回答范围
按来源登记允许回答的问题、用户、组织、时点和风险,不把“已接入 10 万份文档”当能力边界。无合格来源的问题进入澄清、拒答或人工接手。
检索前做权限和时点过滤
先按租户、用户、对象、来源状态、有效区间、语言和地区过滤,再做关键词、向量或混合检索;不能检索后才让模型决定哪些内容无权看。
来源内容与指令分离
文档、网页、邮件和工具返回值均视为不可信内容,不能修改系统指令、扩大工具权限或要求泄漏其他来源。提示注入检测只是额外防线。
片段保留上下文
切分须携带来源 ID、版本、标题层级、页节、有效期、权限和相邻定义/例外。命中句子却丢失否定、表头或前置条件时,应扩大上下文或停止回答。
区分检索事实和模型推断
生成结果把直接来源事实、跨来源组合、计算和模型推断分开;高风险规则和工具参数由确定性数据或规则提供,不从自然语言片段猜测。
答案挂着链接,也可能没有被链接真正支持
引用要逐项检查它是否直接支持当前主张、有没有漏掉例外或适用条件,以及指向的版本和位置是否真实存在。模型如果只找到同一主题的资料,就可能生成看似可信的脚注;链接与结论之间没有证据关系时,不能把它当作有依据的回答。
冲突与低置信停止
检索到不同有效值、只有二手资料、来源过期、附件缺失或证据不足时,明确展示差异并停止高风险回答或操作,交给登记的裁定责任人。
评测真实来源变化
测试当前/历史问题、跨地区规则、冲突、撤回、无权限、恶意文档、表格和多跳来源,分别测检索覆盖、来源选择、引用质量、拒答、泄漏和工具副作用。
记录完整组合版本
保存模型、提示、检索、重排、来源清单、源与派生版本、权限策略、工具和评测集,使错误回答能够回放并定位是来源、转换、检索还是生成问题。
知识来源与相邻概念怎样区分
知识来源是内容或事实的起点,知识库是受控提供这些内容的系统,检索结果只是一次查询选出的候选,引用则连接具体主张。区分它们能避免把“已经入库”“已经命中”误认为来源已经合格且答案已经被证明。
| 概念 | 与知识来源的边界 |
|---|---|
| 知识库 | 是组织、存储、索引和提供知识内容的受控集合或系统;知识来源是其中内容的原始或认可起点,一套知识库可以接入多个来源。 |
| 源文档 | 是以文档为载体的一类来源。数据库记录、API、人员确认和事件流也能成为知识来源,因此两者范围不同。 |
| 数据来源 | 强调数据从哪里取得;知识来源还要求说明内容能支持什么理解、规则或决定,以及相应责任、范围和引用。两者可以重叠。 |
| 权威来源 | 是在明确范围内获组织或制度认可、能决定某类事实或规则的来源。知识来源不一定权威,也可以是需标明限制的辅助、外部或专家来源。 |
| System of Record | 是特定记录、实体或属性的获认定记录位置;它是某些知识问题的权威来源,但不会自动覆盖制度解释、外部事实和所有历史语境。 |
| 证据 | 是用于支持具体主张或决定的内容。一个来源可能包含大量内容,只有与主张相关并满足证明需要的部分才构成该项证据。 |
| 引用 | 是把主张指向来源中具体证据的表达,包括身份、版本和位置;引用存在不代表来源真实、结论忠实或证据充分。 |
| 来源链/数据血缘 | 记录实体由哪些活动和主体产生、转换和派生;它描述知识怎样到来,但不单独决定内容是否正确或有权使用。 |
| 参考资料 | 提供背景、解释或延伸阅读,未必对业务决定具有正式责任。项目应标明它可回答什么,避免把所有参考资料升级为规范来源。 |
| 训练语料 | 用于训练或调整模型参数,通常不能在回答时逐项检索和精确引用;它的存在不等于模型回答获得项目知识来源支持。 |
| 模型输出 | 是根据输入和模型生成的派生内容,可作为待核实线索、摘要或草稿,但未经来源验证和有权确认不能自我循环成为事实来源。 |
依据与适用边界
本文解释企业知识库、检索和 AI 项目中的知识来源:能够为某个回答、判断、规则解释或操作提供原始内容、业务事实、责任确认和出处依据的人、记录、数据系统、文档或外部资源。知识来源不是所有可搜索内容的总称,也不等于知识库、源文档、参考资料、数据来源、证据、引用、权威来源、记录系统或模型训练语料。不存在适用于所有问题的统一来源排名;同一来源对一个对象、时间或决定可能权威,对另一个问题只具参考价值。本文不完整定义知识管理体系、记录管理、数据治理、内容管理、文档切分、检索排序、版权许可、事实核查、档案鉴定、法律证据规则、行业监管来源或完整 RAG 架构。哪些来源可以回答什么问题、由谁批准、优先级怎样处理、能否进入 AI、保留多久和如何引用,须由项目有权角色按用途和风险确认。
- ISO 30401:2018:组织建立、实施、维护、评审和持续改进知识管理体系的要求;该版处于修订流程但仍为已发布标准
- ISO 15489-1:2016:跨格式和技术环境的记录、记录系统、元数据、责任、业务情境、控制及创建捕获管理原则
- ISO/IEC 5259-2:2024:面向分析与机器学习、适用于结构化和非结构化数据的用途适配质量模型与可测特性
- W3C PROV-O Recommendation:以实体、活动、主体及产生、使用、派生、修订和责任关系表示可交换来源信息
- W3C DCAT 3 Recommendation:资源目录的标识、版本、生命周期、来源链、质量、引用、数据服务和责任关系
- W3C Web Annotation Data Model:把注释或引用连接到资源、具体片段、时间状态、主体、用途和权利的通用模型
- W3C Data on the Web Best Practices:许可、来源链、质量、版本、覆盖、反馈、原发布物引用和标识持久性
- NIST AI RMF Core:AI 数据与第三方来源、文档、角色责任、风险、测量和全生命周期持续治理
- NIST AI RMF Playbook Manage:记录数据来源、起点、转换、增强、标签、依赖、限制、元数据、用途必要性和过期通知
- NIST AI 600-1:生成式 AI 的数据来源、内容来源链、事实核查、第三方数据、隐私安全和持续评测风险管理
- NIST Agentic AI 评测探针:以可信来源和严格规则分别检查引用的忠实性、完整性与充分性
- 英国政府跨部门参考数据指南:可信来源、记录系统、持久标识、所有者与管理员、更新历史、过期版本和元数据
- Microsoft 输入、上下文和检索安全指南:权限感知索引、文档级访问、元数据过滤、来源引用、不可信外部内容和提示注入防护