PIPELINE一旦AI自动化涉及个人数据处理，就需要法律依据、目的限制、明确的删除期限、对数据主体的告知以及与每个参与服务提供商签订数据处理协议。实践中几乎总是缺失相同的三点：删除期限、数据收集处的告知以及澄清服务提供商是否将数据用于自身训练。
01 — 数据保护
GDPR的要求
只要处理个人数据 — 这比想象中更快发生，例如有人输入姓名或电话号码时 — 就适用常规义务：明确法律依据、确定目的、遵守数据最小化原则、定义删除期限、告知当事人。
对AI自动化而言，这在实际中意味着：与每个参与的服务提供商签订数据处理协议、审查数据处理地点、制定有记录的删除期限以及在数据保护声明中添加易懂的条款。实践中几乎总是缺少三件事：明确的删除期限、在数据采集处的提示，以及澄清供应商是否将数据用于自身训练。
数据保护影响评估仅在预计存在高风险时才必要 — 对此类项目大多数情况不需要。但审查本身仍应记录，以便在需要时能说明为何省略了评估。
02 — 合同
需要书面明确的事项
- 数据和访问权的所有权。属于委托方。如果服务商不明确确认这一点，这就是谈话中最重要的信息。
- 终止时的交付。以何种格式、在何期限内、费用多少。
- 无对价的最短期限不可接受。如果绑定换来某些服务，则可以接受 — 否则不行。
- 后续变更的费用。决定总成本的不是项目价格，而是第三年的小时费率。
- 文档作为交付物。不是承诺，而是报价中的条目。
03 — 风险
可能出现的问题
- 系统回答错误。可通过仅使用经过审核的内容并在不确定时转接而非猜测来限制。这是配置决策，不是技术特性。
- 工作量被低估。最常见原因：初始情况不明确。报价前进行诚实的现状盘点比任何缓冲都更可靠地避免这一问题。
- 无人维护。最大的风险 — 也是最容易避免的。
- 数据保护漏洞。几乎总是因缺少删除期限和职责不清造成，很少由技术本身造成。
- 对服务商的依赖。如果合同规定访问权、数据和文档归委托方所有，则可避免。
04 — 问题
常见问题
EU AI Act对此有何规定？
大多数企业应用场景属于低风险类别，主要触发透明度义务。当客户直接与系统交互或发布AI生成的内容时，我们会标注。对于人力资源领域的应用，我们会更仔细审查，那里适用更严格的规则。
这与聊天机器人有何区别？
聊天机器人在对话中回答问题。AI自动化在后台运行，无需对话——它阅读、分类和预判，而其他人专注于实际工作。
这需要大量数据吗？
不需要。与传统机器学习不同，大多数应用场景只需几十个优质示例，因为语言模型已经具备语言能力。
如果文档或格式发生变化怎么办？
只要内容意义不变，系统就能很好应对——不同于刚性的基于字段的识别。全新的文档类型需要短暂的重新调整，而非重建。
与普通自动化有何区别？
普通自动化遵循固定规则：如果字段A填写完毕，则执行B。AI自动化则适用于没有固定字段的场景——自由文本、图像、变化的文档格式。通常二者结合才是正确答案，而非只选其一。
我们可以小规模开始吗？
这是唯一合理的方式。一个应用场景，八周时间，可衡量的结果。之后做什么，您根据所见结果决定。
我们的数据会被用于语言模型训练吗？
不会。我们仅使用合同明确排除客户数据训练的访问权限，并在欧盟内处理。对于特别敏感的数据，我们使用在您自己基础设施上运行的模型。
下一步
请向我们发送几句话介绍您的项目。
我们亲自阅读每一个咨询并亲自回复。没有销售团队，没有消失在虚空中的回电表单。