自2026年8月起,欧盟AI法案第50条的透明度义务生效:直接与AI系统交互的人必须能够识别出来。我们会标准化地内置标识功能。对AI知识库而言,这意味着:标识是强制性的,不是可选的,且不论企业规模如何——个体企业和大型集团同样适用。关键在于使用目的和风险,而非员工人数。
01——法律状况
欧盟AI法案:适用规定
自2026年8月起,欧盟AI法案第50条的透明度义务生效:直接与AI系统通信时必须能够识别。我们会标准化内置标识功能。
AI法案不区分企业规模:在客户接触环节使用AI系统的个体企业与大型集团同样适用。关键在于使用目的和风险,而非员工数量。
此外还有义务确保相关人员具备足够的AI能力。这不是考核义务,但应有记录 — 带参与者名单的培训是最简单的证明方式。
02——数据保护
GDPR的要求
只要处理个人数据 — 这比想象中更快发生,例如有人输入姓名或电话号码时 — 就适用常规义务:明确法律依据、确定目的、遵守数据最小化原则、定义删除期限、告知当事人。
对AI知识库而言,这实际意味着:与每个参与的服务提供商签订数据处理合同,检查在哪里处理数据,记录删除期限,并在隐私声明中加入清晰易懂的说明。实践中几乎总是缺少三件事:明确的删除期限、在数据收集处的提示,以及澄清提供商是否将数据用于自身训练。
数据保护影响评估仅在预计存在高风险时才必要 — 对此类项目大多数情况不需要。但审查本身仍应记录,以便在需要时能说明为何省略了评估。
03 — 风险
可能出现的问题
- 系统回答错误。可通过仅使用经过审核的内容并在不确定时转接而非猜测来限制。这是配置决策,不是技术特性。
- 工作量被低估。最常见原因:初始情况不明确。报价前进行诚实的现状盘点比任何缓冲都更可靠地避免这一问题。
- 无人维护。最大的风险 — 也是最容易避免的。
- 数据保护漏洞。几乎总是因缺少删除期限和职责不清造成,很少由技术本身造成。
- 对服务商的依赖。如果合同规定访问权、数据和文档归委托方所有,则可避免。
04 — 问题
常见问题
什么是 RAG?
这个缩写代表检索增强生成(retrieval-augmented generation)。系统不是让语言模型凭记忆回答,而是先在您的文档中搜索,只将找到的内容用于回答。这就是答案附带来源的原因。
必须在云端运行吗?
不必。对于敏感领域,我们部署完全在您自有硬件上运行的模型。这会增加配置成本并略微影响回答质量,但任何文档都不会离开您的企业。
我们的文档很混乱。这样也可以吗?
在一定程度上可以——系统能够处理不同的格式和结构。但它无法解决矛盾信息。如果同时存在三个版本的价目表,必须事先明确哪个有效。
文档量大的情况下配置需要多长时间?
这取决于文档状态而非数量:结构良好、重复较少的文档库几周内即可投入使用,而长期积累、存在大量旧版本的文档库需要先进行清理。
那所有人都能看到一切内容吗?
不会。系统会沿用您现有系统的权限设置。今天无权打开某个文件夹的人,也不会从中获得答案。
如果文档库中包含多种语言怎么办?
没问题——搜索能够独立理解不同语言的问题和文档,即使提问和来源使用不同语言也能找到正确答案。
我们可以分步扩展到其他部门吗?
可以,这是常规做法。从一个部门开始,从其问题和结果中学习,然后再接入下一个——而不是一次性全部开放。
下一步
让我们简短讨论一下这对您是否划算。
二十分钟的对话通常就足以弄清一个项目是否有意义。如果没有,我们会直说——这对双方来说都比一份无人需要的报价更便宜。