根据《通用数据保护条例》(GDPR),您可以使用大数据并训练人工智能模型,但前提是您必须在开始之前根据 GDPR 第 6 条规定提供合法依据,并且该处理对于该目的而言是必要的。将现有客户数据用于训练属于进一步的处理,必须通过 GDPR 第 6 条第 4 款的兼容性测试。荷兰数据保护局 (Autoriteit Persoonsgegevens, AP) 对此进行监管,并可处以最高 20 万欧元或全球年营业额 4% 的罚款。
目录
大数据集何时会被视为个人数据?
几乎总是如此。根据《通用数据保护条例》(GDPR) 第 4 条第 1 款,如果数据与可识别的自然人有关,且通过所有合理可能的方式,您或任何其他人均可识别该自然人,则该数据属于个人数据。
因此,即使不包含姓名,设备标识符、位置轨迹、交易记录和点击流通常也属于个人数据。即使标识符被替换但密钥仍然存在,假名化数据仍然属于个人数据。只有匿名数据(即任何人都无法合理地重新识别出该数据)才不受 GDPR 的约束。
匿名化的门槛很高:哈希、聚合或移除直接标识符通常仍足以重新识别个人身份。除非有记录在案的重新识别分析表明并非如此,否则应将数据集视为个人数据。欧洲数据保护委员会 (EDPB) 也指出,基于个人数据训练的模型不能自动被视为匿名,因为个人数据可能从中提取出来。
人工智能训练可以采用哪些法律依据?
GDPR 第 6 条第 1 款列出了六项法律依据;对于大规模数据分析而言,只有三项是切实可行的。在大多数商业环境中,合法利益将作为法律依据,并需提供书面评估报告。
同意必须是自愿的、具体的、知情的且明确的,并且撤回同意应该像给予同意一样容易(GDPR 第 7 条)。训练集的组织工作比较困难,因为模型训练完成后,还需要一种方法来处理撤回同意的情况。
履行合同的必要性定义较为狭窄。其检验标准是服务对象所请求服务的客观必要性;欧盟法院驳回了将此标准扩展至行为广告和个性化服务的尝试。
合法利益(《通用数据保护条例》第6条第1款(f)项)需要三个有据可查的步骤:真实合法的利益、必要性(因为不存在侵入性更小的替代方案)以及与相关人员的权利和合理预期进行权衡。欧洲法院已确认,商业利益可以构成合法利益,但前提是必须满足必要性和权衡测试的要求。
特殊类别和推断数据又该如何处理?
关于健康、种族、政治观点、宗教信仰、工会会员身份、性生活或性取向以及用于身份识别的生物识别或基因数据,只有在《通用数据保护条例》(GDPR)第9条规定的例外情况下才能进行处理。在商业环境中,这通常意味着需要获得明确的同意。
特殊类别数据无需刻意收集。如果可以从购买记录、位置信息或自由文本字段中推断出受保护的特征,则适用更严格的规定。在开发过程中,应识别出可作为此类特征替代指标的特征。
能否重用现有数据来训练模型?
只有当新的用途与原用途相符时,数据处理才可适用。根据GDPR第5条第1款(b)项,数据不得以与收集目的不符的方式进行进一步处理。
GDPR 第 6 条第 4 款的测试会考察数据处理的目的、背景、相关人员的合理预期、数据的性质、可能产生的后果以及诸如匿名化或加密等保障措施之间的关联性。医疗或财务记录通常无法通过测试,而运营日志则符合要求。如果测试不合格,则需要新的法律依据,并且通常需要向相关人员提供新的信息。
如果符合 GDPR 第 89 条规定的保障措施,则为科学研究或统计目的进行的进一步处理将被视为兼容。以研究名义进行的商业产品开发不符合此条件。收集数据时应如实描述用途;我们的荷兰隐私政策指南对此有详细说明。
如何应用最小化、保留和准确性原则?
根据 GDPR 第 5 条第 1 款 (c) 项的规定,数据必须仅限于必要信息。您可以通过记录哪些字段是必需的、在不使用某些字段的情况下进行了哪些测试以及为什么舍弃其他字段,来确保模型开发符合这一要求。
存储限制(GDPR 第 5 条第 1 款 (e) 项)适用于训练数据、特征存储、模型检查点和推理日志,每项都有其自身的保留期限。推理日志经常被遗忘,并且可能包含比训练集更多的个人数据。
准确性(GDPR 第 5 条第 1 款 (d) 项)也涵盖模型输出。推断某人信用风险高或可能存在欺诈行为属于个人数据,可能存在错误,并受 GDPR 第 16 条规定的更正权约束。应构建能够更正此类输出的系统。
何时必须进行数据保护影响评估?
根据《通用数据保护条例》(GDPR)第35条,当数据处理可能导致高风险时,必须进行数据保护影响评估(DPIA)。这包括基于重要决策的画像分析,以及大规模处理特殊类别数据,后者涵盖了大多数重要的大数据项目。
美联社公布了一份清单,列出了在荷兰必须进行数据保护影响评估(DPIA)的处理操作,其中包括大规模用户画像和系统性员工监控。请在每个项目开始时查看该清单。
在数据处理开始之前进行数据保护影响评估 (DPIA),在人工智能项目中,这意味着在收集训练数据之前。如果仍然存在较高的残余风险,则必须首先咨询数据保护官员 (AP)(GDPR 第 36 条)。一份有效的算法 DPIA 应记录数据来源和法律依据、模型自主决策的内容、输出结果的解释、偏差测试方法以及模型出错时的应对措施。
Autoriteit Persoonsgegevens 如何执行?
AP负责执行GDPR和荷兰GDPR实施法(Uitvoeringswet AVG)。它可以发出警告和训诫、责令支付罚款、禁止数据处理以及处以行政罚款。
根据GDPR第83条,对于较低级别的违规行为,罚款最高可达1000万欧元或全球营业额的2%;对于违反GDPR原则、法律依据、数据主体权利和数据传输规则的行为,罚款最高可达2000万欧元或全球营业额的4%,以较高者为准。AP特别重视透明度,并设有专门的算法监管部门。
个人数据泄露事件必须立即向数据保护机构(AP)报告,如有可能,应在72小时内报告(GDPR第33条);如果风险较高,则还应报告给相关人员(GDPR第34条)。这与自2026年8月15日起生效的《荷兰网络安全法》(Cyberbeveiligingswet)规定的事件报告不同;请参阅我们关于NIS2和《荷兰网络安全法》的概述。
《人工智能法案》会取代《通用数据保护条例》(GDPR)吗?
不。欧盟人工智能法案按风险等级对人工智能系统进行监管,但并未提供处理个人数据的法律依据。如果人工智能系统处理个人数据,则两种监管制度并行适用。
对不当行为的禁令、通用人工智能模型规则和透明度义务已生效。高风险系统的义务已由人工智能综合条例(欧盟2026/1744号条例)推迟,该条例于2026年7月27日生效。人工智能造成的损害责任仍受荷兰合同法和侵权法以及产品责任规则的约束。请参阅我们关于欧盟人工智能法案和高风险人工智能系统的指南。
集体诉讼的风险是什么?
根据《通用数据保护条例》(GDPR)第82条,任何因侵权行为遭受物质或非物质损害的人均可要求赔偿。基金会或协会可根据《世界反侵权法》(WAMCA)(荷兰民法典第3:305a条)提起集体诉讼,要求赔偿损失,但居住在荷兰的人士可选择不参与集体诉讼。
欧盟法院裁定,仅凭侵权行为本身并不构成获得赔偿的权利:索赔人必须证明损害和因果关系,但对于非物质损害,没有严重程度门槛。在荷兰,个人获得的赔偿金额通常不高,但数十万人的集体诉讼则情况截然不同。请参阅我们关于大规模损害案件中集体诉讼的文章。
当数据来自多个参与方时,谁是数据控制者?
控制者决定目的和手段;处理者仅根据书面指示行事(GDPR 第 4 条第 7 款和第 8 款)。根据 GDPR 第 26 条,联合控制者必须在协议中明确各自的责任。
合同中的标签并非决定性因素。如果供应商保留使用您的数据来改进其自身产品的权利,那么在某种程度上,该供应商也属于其自身目的的数据控制者。请检查供应商合同中的培训条款和子处理条款,因为根据《通用数据保护条例》(GDPR)第五章,向欧洲经济区以外地区传输数据需要采用相应的传输机制。务必与所有处理数据的供应商签订数据处理协议。
作为组织,您应该检查哪些方面?
- 在开始之前,您是否已记录了每项处理(包括培训)的法律依据?
- 您是否已测试过重复使用现有数据是否符合 GDPR 第 6(4) 条的规定?
- 数据保护影响评估是在收集训练数据之前完成的吗?
- 你们的供应商合同是否允许供应商使用你们的数据进行训练?
- 训练数据、检查点和推理日志是否设置了保留期限?
- 能否修正模型对个体的输出结果?
作为个人数据被使用的个人,您应该检查哪些内容?
- 隐私声明是否明确说明您的数据将用于分析或人工智能训练?
- 该组织依据何种法律依据行事?您可以提出异议或撤回同意吗?
- 您可以要求查阅并更正针对您的调查结论吗?
- 是否有人仅通过自动化方式就对你做出了重大决定?
- 你是否已向该组织或美联社提出投诉?
我们能通过 GDPR 和 AI 培训为您提供哪些服务?
作为IT 律师,我们为组织提供数据驱动型项目方面的建议;另请参阅我们对《通用数据保护条例》的概述以及我们关于GDPR 和荷兰人工智能的文章。
- 我们选择并记录合法依据和合法权益评估。
- 我们对现有数据的重用性进行兼容性测试。
- 我们负责起草和审查DPIA,并事先与AP进行磋商。
- 我们会审查供应商合同和数据处理协议,包括培训条款。
- 我们起草的隐私声明会准确描述其目的。
- 我们代表您处理反腐败调查以及个人或集体索赔。
结语
- 大数据集几乎总是个人数据;匿名化数据仍符合 GDPR 的规定。
- 合法利益是人工智能训练的通常基础,并有记录在案的三步评估流程。
- 将数据重新用于训练需要进行 GDPR 第 6(4) 条规定的兼容性测试,或者需要新的依据。
- 通常需要进行数据保护影响评估 (DPIA),并且必须在收集训练数据之前完成。
- 《人工智能法案》与《通用数据保护条例》(GDPR)并行适用,而不是取代GDPR。
常见问题
我们应该采用哪种法律依据来训练人工智能模型?
在大多数商业环境中,根据《通用数据保护条例》(GDPR) 第 6 条第 1 款 (f) 项,合法利益是处理数据的基础,但需要提供利益评估、必要性评估和利益平衡评估的书面支持。对于训练集而言,获得同意很难做到,而合同的必要性几乎从不涵盖模型开发。处理数据前,务必记录处理依据。
如果我们先对数据进行匿名化处理,GDPR 是否仍然适用?
只有当匿名化真正有效,即任何人都无法合理地重新识别身份时,才算有效。哈希处理、移除姓名或聚合通常会生成假名化数据,完全符合 GDPR 的要求。测试并记录匿名化过程,并在数据集发生变化时重新评估。
我们能否依据研究例外情况来重复使用客户数据?
极少情况下。出于科学或统计目的的进一步处理,只有在符合GDPR第89条规定的保障措施时才被视为符合要求。商业产品开发不会因为涉及数据科学就变成研究。
如果模型训练完成后有人撤回同意会发生什么?
撤回操作仅对未来生效,并不使之前的处理行为违法。您必须停止基于此使用数据,这可能需要从训练集、特征存储和日志中删除数据,并在必要时重新训练模型。