荷兰各地的企业正越来越多地使用人工智能工具来改进运营。但许多企业对相关法律法规的要求感到困惑。
如果您在荷兰开发、购买或使用人工智能系统，则必须遵守《欧洲人工智能法案》。该法案对人工智能在商业领域的应用制定了严格的规则。这些于2024年生效的法规几乎影响到所有使用人工智能的公司，从部署聊天机器人的小型企业到构建定制系统的大型组织。
在将人工智能融入您的业务之前，了解您在荷兰和欧盟法律下的法律义务至关重要。相关规则会根据您使用的人工智能系统类型和使用方式而有所不同。
某些人工智能应用被完全禁止，而另一些则需要详细的文档记录和监管。您的合规责任还取决于您是开发人工智能系统还是仅仅使用它们。
本指南阐述了根据荷兰法律在企业中使用人工智能工具的法律要求。您将学习如何识别自身义务、了解风险类别、保护数据和隐私、应对知识产权问题以及制定切实可行的合规策略。
了解人工智能工具和荷兰法律格局
荷兰已成为欧洲人工智能监管领域的领导者，设有多个监管机构，对从数据保护到金融服务等各个方面进行监管。您的企业将会接触到各种各样的人工智能技术，从简单的聊天机器人到复杂的机器学习系统，每种技术都根据其风险等级和应用场景受到不同的监管要求。
人工智能技术的定义和类型
人工智能是指能够执行通常需要人类智能才能完成的任务的计算机系统。在商业环境中，你会遇到几种不同类型的人工智能。
生成式人工智能可以创建文本、图像或代码等新内容。OpenAI 的 ChatGPT 等工具就属于此类，它们通常用于客户服务、内容创作和文档撰写。
机器学习系统通过分析数据模式来进行预测或决策。这些系统为欺诈检测、库存管理和客户行为分析提供支持。
预测性人工智能利用历史数据来预测结果，例如销售趋势或维护需求。聊天机器人则通过自动化对话处理客户互动。
这些工具涵盖范围广泛，从简单的基于规则的系统到复杂的AI助手，应有尽有。您还可以将AI用于文档分析、风险评估或个性化营销活动。
根据荷兰法律，每种类型的合规义务各不相同。
荷兰企业人工智能应用趋势
荷兰企业正在迅速将人工智能融入各个行业。半导体行业在全球处于领先地位，其企业开发的尖端技术为全球人工智能系统提供动力。
在金融服务领域，人工智能推动了欺诈检测和客户服务的改进。医疗机构则利用人工智能辅助诊断和制定治疗方案。
零售企业利用人工智能优化库存并提供个性化购物体验。制造工厂实施预测性维护系统以减少停机时间。
荷兰政府通过多项举措积极支持人工智能的应用。荷兰人工智能联盟汇集了企业、研究机构和政府部门，共同促进负责任的人工智能发展。
政府机构提供创新中心和监管沙盒，尤其是在金融科技领域。这种支持体现了对人工智能经济潜力的总体乐观态度，同时也兼顾了对透明度和问责制相关风险的谨慎关注。
荷兰的主要监管机构
您在人工智能合规方面的义务涉及多个荷兰机构。荷兰数据保护局（Autoriteit Persoonsgegevens ）是荷兰人工智能监管的国家协调机构。
欧盟专门设立了算法协调局，负责监督人工智能系统并执行欧盟人工智能法案。该机构致力于在2025年之前确保算法透明化、审计、治理以及欧盟人工智能法案的合规性。
如果您从事金融服务行业，您还需要与另外两个监管机构打交道。金融市场管理局 (AFM) 负责行为监管，重点是保护消费者免受操纵性数字营销和“暗网”骗局的侵害。
荷兰中央银行（荷兰央行）负责监管审慎监管事务，包括人工智能系统的稳健性、问责制和公平性。消费者和市场管理局（Autoriteit Consument en Markt）负责执行公平竞争规则和消费者保护法。
它负责监管《数字服务法》、《数据治理法》和《数据法》的合规性。各监管机构都加强了对人工智能的专项监管，并发布了针对各自行业企业的指导意见。
人工智能合规核心监管框架
欧盟人工智能法案确立了欧洲人工智能领域的主要法律框架，并以现有的数据保护法（如GDPR）以及包括《数据法案》和《数据治理法案》在内的新法规为支撑。该法案的实施遵循分阶段时间表，并设有具体截止日期，以决定各项要求的生效时间。
欧盟人工智能法案概述及荷兰实施情况
欧盟人工智能法案（正式名称为《人工智能法》）为欧盟范围内的人工智能系统建立了一套基于风险的监管体系。该法案将人工智能应用分为四个风险等级：不可接受风险、高风险、有限风险和极低风险。
荷兰政府发布了《人工智能法案指南》（1.1版），旨在帮助各组织了解这些规则在实践中的应用。该指南提供了一个四步法：识别系统构成的风险、确认系统符合欧盟对人工智能的定义、确定自身是服务提供商还是部署者，以及明确自身的具体义务。
被禁止的人工智能用途包括社交评分系统、预测性警务工具以及以有害方式操纵人类行为的应用程序。高风险人工智能系统运行于医疗保健、教育、就业和执法等关键领域。
通用人工智能模型和生成式人工智能模型在透明度和风险缓解方面承担不同的义务。相关法规对符合特定标准的某些开源模型作出了例外规定。
与现有法规（GDPR、数据法、数据治理法）的关系
《人工智能法案》与《通用数据保护条例》并行运作，而非取而代之。如果您的人工智能系统处理个人数据，您必须同时遵守这两个框架。
GDPR 的要求仍然适用于数据收集、处理和个人权利。您需要有合法的数据处理依据，必须对高风险数据处理进行数据保护影响评估，并保留数据处理活动的记录。
《数据法》规范了企业与用户之间的数据共享和访问权限。它对生成或使用工业或商业数据的AI系统产生影响。
《数据治理法案》为数据中介机构制定了规则，并促进出于公共利益目的的数据共享。《网络弹性法案》则为包含数字元素的AI产品增加了安全要求。
这就造成了义务重叠，你的人工智能系统必须同时满足网络安全标准和人工智能特定规则。
分阶段实施和关键合规期限
欧盟人工智能法案采取分阶段实施的方式。不同的要求在不同的日期生效。
禁止的人工智能行为已于2025年2月2日生效。您必须立即停止使用任何属于此类范畴的人工智能系统。
通用人工智能模型的要求将于 2025 年 8 月 2 日生效。高风险人工智能系统必须在 2027 年 8 月 2 日之前符合要求，这给了提供商和部署者更多的时间来实施必要的控制措施。
高风险系统部署者的义务同样遵循2027年8月2日的最后期限。政府实体还需满足额外要求，包括基本权利影响评估以及在部署前在欧盟数据库中注册系统。
风险评估、文件编制和控制措施实施需要大量的时间和资源才能正确完成。
数据保护和隐私法律义务
使用人工智能工具的荷兰企业必须遵守《通用数据保护条例》(GDPR)中严格的数据保护要求，该条例赋予个人对其个人数据享有强大的隐私权。荷兰数据保护局积极执行这些规定，并要求企业证明其数据处理合法，进行适当的风险评估，并迅速应对安全事件。
个人数据处理及同意
根据《通用数据保护条例》(GDPR)，在通过人工智能系统处理任何个人数据之前，您需要有合法依据。荷兰数据保护局已明确指出，使用抓取的互联网数据训练人工智能模型通常无法满足法律要求，尤其是在涉及特殊类别的个人数据时。
特殊类别数据包括种族、政治观点、宗教信仰、健康记录和生物识别信息。处理此类敏感数据必须满足更严格的条件。
同意是处理个人数据的法律依据之一，但它需要满足特定条件。您的同意请求必须清晰明确，与其他条款分开，并且是自愿作出的。
用户必须能够像当初给予同意一样轻松地撤回同意。其他法律依据包括履行合同、法律义务、切身利益、公共任务或合法利益。
您应记录每项数据处理活动所依据的法律依据。荷兰数据保护法要求，培训数据必须合法获取并经过妥善处理，以删除不必要的个人信息。
你不能依赖数据已经在网上公开这一论点。
数据保护影响评估和隐私设计
当您的人工智能处理可能对个人权利造成高风险时，您必须进行数据保护影响评估 (DPIA)。荷兰数据保护局 (DPA) 要求大多数处理个人数据的生成式人工智能应用都必须进行 DPIA。
您的数据保护影响评估报告应明确您处理哪些个人数据，描述处理操作，评估必要性和相称性，并评估对个人的风险。您还必须概述应对这些风险的措施。
隐私设计意味着从一开始就将数据保护融入到人工智能系统中。您应该实施数据最小化原则，将数据收集限制在为实现既定目标绝对必要的范围内。
技术措施至关重要。诸如检索增强生成（RAG）之类的技术可以帮助减少人工智能输出中错误或不必要的个人数据的重复出现。
所有人工智能处理活动都需要明确的用途描述。GDPR 禁止将个人数据用于与最初收集目的不符的用途。
如果您的数据处理涉及大规模系统性监控或特殊类别数据，则必须指定一名数据保护官。该人员负责监督合规情况，并作为与荷兰数据保护局的联络人。
管理数据泄露和网络安全风险
您必须在发现个人数据泄露后的72小时内通知荷兰数据保护局。这包括未经授权的访问、意外丢失或通过人工智能系统进行的不当披露。
当数据泄露对个人权利和自由构成高风险时，您必须立即通知受影响的个人。您的通知应使用清晰易懂的语言解释数据泄露事件，并说明人们可以采取哪些措施来保护自己。
针对人工智能系统的网络攻击会带来独特的风险。人工智能模型可能通过对训练数据进行投毒攻击或输入旨在产生有害输出的对抗性数据而被操纵。
《网络韧性法案》将在欧盟范围内生效，该法案将对人工智能产品提出更高的安全要求。您现在就应该做好准备，实施强有力的访问控制和治理框架。
请记录您的安全措施和事件响应流程。荷兰数据保护局 (DPA) 希望您能证明您已采取适当的技术和组织措施来保护个人数据。
您必须建立相应的系统，使个人能够行使其隐私权，包括访问权、更正权、删除权和反对权。人工智能模型的技术架构使这项工作充满挑战，但荷兰数据保护局认为，无论技术难度如何，这都是强制性的。
人工智能使用的风险类别和义务
欧盟人工智能法案设立了不同的风险等级，这些等级决定了您的合规义务，从彻底禁止某些做法到通用人工智能的透明度规则。了解您的系统属于哪个风险等级，将决定从文档要求到人工监督协议等方方面面。
识别被禁止的人工智能实践
根据欧盟《人工智能法案》，某些人工智能应用被彻底禁止，因为它们威胁到基本人权。您不能部署通过潜意识技术操纵人类行为或利用基于年龄、残疾或社会经济地位的弱点的系统。
政府或其代表进行的社交评分是被禁止的。这包括像荷兰SySteem Risico Indicatie (SyRI)这样的系统，该系统因侵犯隐私权于2020年被取缔。
公共场所的实时生物识别也被禁止，仅在特定情况下执法部门可获准使用。工作场所和教育场所的情绪识别也受到限制。
如果您的AI算法试图在这些情况下基于生物识别数据推断情绪或对人进行分类，则您很可能违反了相关法规。这些禁令在法案生效后立即生效，不留任何调整宽限期。
高风险和低风险人工智能系统
高风险人工智能系统面临最严格的监管要求。这些系统应用于关键基础设施、雇佣决策、教育机会、执法、边境管制和司法行政等领域。
如果您的系统影响信用度、应急响应或员工管理，则很可能属于高风险系统。
对于高风险人工智能应用，您必须维护详细的技术文档。这包括训练数据源、模型架构、测试结果和预期用例。
定期合格评定成为强制性要求，同时还需在欧盟数据库中注册。
低风险系统会触发透明度义务。聊天机器人和内容生成器必须向用户披露其人工智能特性。
如果您的系统生成深度伪造或合成内容，则必须对其进行明确标注。通用人工智能模型需要训练数据、能耗和版权合规性方面的透明度。
分阶段实施意味着根据您系统的风险等级，适用不同的截止日期。
透明度和人为监督要求
根据相关法规，人工监督是可信赖人工智能的核心原则之一。对于高风险系统，必须确保在必要时，人工可以介入、推翻决策或停止运行。
这是保护基本权利的法律要求。你们的监督机制必须切实有效，而非徒有其表。
设计便于操作人员理解人工智能输出并进行有效干预的界面。明确最终决策的责任人，并在系统产生可疑结果时建立清晰的升级流程。
透明度不仅仅体现在信息披露标签上。您必须提供关于人工智能系统的功能、局限性和准确度水平的清晰信息。
对于直接影响个人的系统，必须对自动化决策进行解释。这既符合现有的数据保护规则，又增加了人工智能特有的可解释性和问责制方面的义务。
知识产权、版权和数据权利
根据荷兰和欧盟法律，人工智能工具会引发复杂的产权所有权问题，特别是关于人工智能生成的内容的所有权归属，以及您的企业是否可以合法使用受版权保护的材料来训练模型。
荷兰版权法要求保护人类的创造力，而数据库权利和专利规则又增加了需要考虑的层面。
人工智能生成作品的版权保护
荷兰版权法（Auteurswet）只对通过人类智力劳动创作的作品授予版权保护。
在荷兰，完全由人工智能系统生成且未经有意义的人工干预的内容无法获得版权保护。这与欧盟版权法以及美国版权局等机构的最新指导意见相符。
如果您在使用人工智能工具时做出实质性的创意选择，您的企业可以主张版权。例如，选择特定的提示、精心策划输出结果，或将人工智能生成的元素与您自己的原创作品相结合。
当人类创造力仍然是主导因素时，荷兰民法典支持这种做法。在使用人工智能工具时，请记录您的创作过程。
记录下你的提示、编辑和决定。如果出现所有权纠纷，这些证据可以加强你的立场。
如果没有人工输入的证明，你的 AI 生成的内容将进入公共领域，任何人都可以自由使用。
专利法和数据库权利
欧洲专利局（EPO）不承认人工智能系统在专利法下的发明人身份。您的专利申请必须列明对人工智能辅助发明做出重大贡献的人类发明人。
荷兰专利法严格遵循这一要求。根据荷兰法律，数据库权利保护在获取、验证或展示数据集方面的大量投资。
即使使用人工智能工具进行处理，您的企业仍可对您编制的数据集主张特殊的数据库权利。保护期为自完成之日起 15 年，并要求证明在数据库的创建或维护方面投入了大量资金。
这些财产权独立于版权之外。您可以通过数据库权保护您的训练数据集，而人工智能输出本身可能缺乏版权保护。
文本和数据挖掘注意事项
根据《数字单一市场指令》第 3 条和第 4 条，欧盟版权法允许出于特定目的进行文本和数据挖掘 (TDM)。
第三条允许科研机构和文化遗产机构出于科学研究目的进行技术数据挖掘（TDM）。第四条赋予更广泛的技术数据挖掘权，可用于任何目的，但版权所有者可以通过保留其权利来选择退出。
检查您的AI工具提供商是否尊重退出机制。许多生成式AI系统会在未核实许可条款的情况下抓取公开内容。
如果训练数据包含受版权保护的作品，而版权所有者反对将训练数据用于训练数据管理（TDM），这将给您的业务带来法律风险。荷兰对这些训练数据管理例外情况的实施，限制了您分析受版权保护材料的自由。
使用受版权保护的内容训练的人工智能模型进行商业用途仍存在法律不确定性。建议使用已获许可的数据集或明确发布用于人工智能训练的内容，以降低侵权风险。
人工智能在敏感商业环境中的应用
荷兰监管机构期望金融机构在创新与保护基本权利之间取得平衡。鉴于政府系统算法故障频发，就业和公共部门申请系统正面临更严格的审查。
这些敏感情况需要除一般人工智能合规措施之外的特定保障措施。
反洗钱和欺诈检测
荷兰的金融机构可以利用人工智能和数据分析进行反洗钱(AML) 检查和欺诈检测。
2022 年，贸易和工业上诉法庭的一项重要裁决确认，在线银行 Bunq 有权使用人工智能技术对客户进行筛选，作为其“了解你的客户”程序的一部分。
该决定解决了自 2018 年以来的一场争议，当时荷兰中央银行 (DNB) 最初质疑 Bunq 基于人工智能的方法是否符合反洗钱合规的监管要求。
法院的裁决确立了数据分析和人工智能等新技术是履行反洗钱程序中把关职能的可接受工具。
您的实施方案仍须符合反洗钱监管的核心标准。法庭的裁决并未取消监管要求，但确认了技术手段在设计合理的情况下可以满足这些要求。
DNB在2021年采访的保险公司表示，他们在欺诈检测系统中保留了人工监督机制。没有一家保险公司完全采用无人干预的自动化人工智能决策。
这种做法吸取了荷兰儿童保育福利丑闻的教训，该丑闻中自动化系统做出了错误的欺诈判定。保险公司一贯表示，所有被算法标记为可能存在欺诈的索赔，都会由人工进行审核。
就业和人力资源申请
根据荷兰法律，用于雇佣决策的人工智能系统存在重大的法律风险。政府以人为本的人工智能方针强调，尊重公共价值观和人权必须指导人工智能的设计和部署。
这一原则直接影响着你如何在招聘、绩效评估和员工管理中使用人工智能。
您的人力资源申请必须避免歧视，并确保法律上的平等。荷兰政府特别强调，自主权和隐私是人工智能系统可能影响的公共价值观。
在算法决策直接影响人们生计的就业领域，这些问题尤为突出。您应该对人工智能生成的就业推荐结果实施人工审核流程。
这项要求与荷兰在敏感的自动化决策中强调人工监督的总体方针相一致。请记录您的决策过程，并保持人工智能如何影响就业结果的透明度。
由内政和王国关系部开发的《合乎道德责任的创新工具箱》提供了切实可行的指导。其七项核心原则包括确保数据质量、保持透明度和问责制，以及监测系统以便进行必要的调整。
人工智能在教育和公共部门的应用
在荷兰爆发儿童保育福利丑闻后，公共部门的人工智能应用正面临严格审查。该丑闻中，由于荷兰税务机关使用了歧视性的自学习算法来监管儿童保育福利的发放，导致数千名家长被错误地指控欺诈。
这场丑闻从根本上改变了荷兰的人工智能政策。政府现在要求采取以人为本的方法，强化而非削弱公共价值观和人权。
如果您向公共部门机构提供人工智能服务，您的系统必须符合这些更高的标准。财政部于2023年7月制定了一项算法研究框架，旨在梳理政府机构内部的算法控制。
该框架涵盖四个主题：治理与问责、隐私、数据与模型质量以及信息安全。荷兰算法注册库目前收录了来自包括市政当局在内的各个政府机构的700多个算法。 Amsterdam 以及荷兰社会保险银行。
公共部门人工智能必须透明且负责。《合乎伦理的创新工具箱》要求您让公民和利益相关者参与其中，尊重相关法律，并根据需要对系统进行调整和监控。
教育机构和政府机构希望供应商在采购前证明其符合这些原则。
金融机构与监管预期
荷兰中央银行（DNB）和荷兰金融市场管理局（AFM）于2024年4月联合发布了关于人工智能对金融领域影响的指导意见。这些监管机构承认，目前专门强制要求负责任地使用人工智能的法律条文有限，但他们预计随着人工智能影响的扩大，监管框架将会不断完善。
您的金融机构在部署人工智能时必须关注六个关键方面：稳健性、问责制、公平性、伦理道德、技能和透明度。DNB 2019 年发布的指南将这些方面确立为金融服务领域负责任地使用人工智能的初步观点。
金融机构利用人工智能进行聊天机器人、身份验证、交易数据分析、欺诈检测、法律文件分析和交易操作。
监管机构正在调整监管方法，以评估人工智能系统的风险管理实践、运行模式和结果。荷兰中央银行强调，这可能需要加强自身对人工智能的了解，并评估各机构如何管理算法决策。
荷兰中央银行在 2024 年 10 月发表的题为“2024：人工智能之旅”的演讲中，确认了该监管机构致力于根据《欧洲人工智能法案》为人工智能监管创造监管确定性的承诺。
该演讲特别强调，隐私权和非歧视等基本权利是金融领域人工智能监管的核心。荷兰金融市场管理局（AFM）的2023-2026年战略将数字化确定为一项关键趋势。
监管机构提倡对人工智能应用进行负责任的决策框架，并期望在客户接受、金融产品定价、选择环境和在线定向活动期间，客户数据的使用和算法决策具有透明度。
数字监管合作平台 (SDT) 由包括荷兰消费者和市场管理局 (ACM)、荷兰金融市场管理局 (AFM) 和荷兰数据保护局在内的多个监管机构于 2021 年 10 月推出，旨在协调数字领域的执法工作。
该平台设立了专门的监管机构，用于监督各行业的 AI 应用。
合规与治理的运营策略
有效的 AI 治理需要具体的监督制度、清晰的文档记录规范以及持续的员工教育，以符合荷兰法律规定的监管合规标准。
构建人工智能治理框架
您的人工智能治理框架应明确人工智能部署和监督的角色和职责。
首先，成立一个人工智能治理委员会，成员包括法律、技术和业务方面的利益相关者。该委员会负责监督您的人工智能战略，并确保其符合荷兰数字基础设施管理局的要求。
记录每个人工智能系统的风险评估流程。按风险等级对系统进行分类，并应用相应的控制措施。
高风险应用需要比低风险工具更严格的监管。应制定清晰的数据共享和数字基础设施使用政策。
您的框架应明确规定谁可以访问人工智能系统、他们可以使用哪些数据以及决策如何审核。在部署新的人工智能工具之前，应建立审批流程。
纳入技术保障措施，例如访问控制、数据加密和定期安全评估。您的框架必须解决如何处理人工智能故障或意外输出。
员工人工智能素养及培训
人工智能素养培训有助于员工了解人工智能工具的功能和局限性。员工需要知道何时人工智能的输出结果需要人工审核，以及何时应该上报问题。
提供针对特定岗位的培训。法务团队和运营人员需要掌握的知识不同。
重点关注员工在日常工作中会遇到的实际场景。涵盖人工智能系统如何做出决策、常见偏见以及数据质量问题等基本知识。
对员工进行组织人工智能政策方面的培训，包括数据处理要求和禁止用途。随着人工智能战略的演进，定期安排复习课程。
新的工具和监管要求意味着培训不能再是一次性的。要跟踪完成率，并通过实践练习评估学员的理解程度。
文件记录、监控和审计实践
详细记录您的人工智能系统，包括其用途、数据来源和决策逻辑。记录模型或训练数据的任何更改。
这些记录证明了检查期间符合监管规定。持续监控人工智能性能。
跟踪准确率、错误模式和用户反馈。设置异常行为或性能下降警报。
关键文档要求：
- 具有风险分类的系统清单
- 数据处理记录和同意书
- 高风险应用的影响评估
- 事件日志和纠正措施
- 人工智能决策的审计跟踪
定期对您的人工智能系统进行内部审计。审查它们是否仍然能够满足预期用途并符合现行法规。
外部审计可对您的合规工作进行独立验证。建议至少每年进行一次外部审计，或在对人工智能基础设施进行重大变更时进行外部审计。
伦理和基本权利考量
您企业中的人工智能系统必须尊重荷兰法律和《欧洲人权公约》所保护的基本权利，特别是关于不歧视和公平待遇方面的权利。
了解算法偏差如何影响结果以及在自动化流程中保持人工监督是必要的合规要求。
保障基本权利和不歧视
您的AI工具必须遵守荷兰宪法和《欧洲人权公约》中规定的基本权利保护。
这些权利包括隐私权、平等权以及免受基于种族、性别、年龄或残疾等受保护特征的歧视的权利。
荷兰法院对影响个人权利的人工智能系统审查日益严格。您需要评估您的人工智能应用是否会影响就业、住房、信贷或公共服务方面的决策。
这些领域将受到更严格的法律保护。《人工智能法案》要求您记录您的系统如何保护基本权利。
这包括在部署高风险人工智能应用之前进行影响评估。您还应该制定明确的程序，让个人能够对影响其权利的、受人工智能影响的决策提出质疑。
通用人工智能模型带来了独特的挑战，因为它们的广泛功能可能会以不可预测的方式影响基本权利。
您必须评估这些模型在您的具体使用案例中的功能，而不能仅仅依赖提供商的一般性评估。
算法偏差与人类决策
当人工智能系统对某些群体产生系统性的不公平结果时，就会出现算法偏见。您的训练数据、模型设计和部署环境都可能引入偏见，从而违反荷兰法律规定的非歧视原则。
您必须定期测试您的人工智能系统是否存在针对受保护特征的偏见。这意味着要检查不同人口群体之间的结果是否存在显著差异，而没有正当理由。
常见的偏差来源包括反映过去歧视的历史数据和缺乏代表性的训练数据集。不完善的特征选择也会引入偏差。
在许多情况下，法律仍然要求进行人工监督。当基本权利受到威胁时，不能将最终决策权完全委托给人工智能系统。
您的员工必须接受过相关培训，掌握必要的信息，并拥有相应的权限，才能对人工智能的建议进行有效审查并予以否决。荷兰法院要求您证明，人工审核人员会积极参与人工智能的输出结果，而不是简单地对自动化建议盖章认可。
记录您的审查流程，并确保决策者了解人工智能系统的局限性和潜在偏见。
负责任地处理自动化决策
自动化决策（ADM）是指人工智能系统在几乎或完全无人干预的情况下做出的决策。根据《通用数据保护条例》（GDPR），如果自动化决策对其产生法律效力或类似重大影响，个人享有相应的权利。
当ADM（应用决策调整）影响到相关人员时，您必须告知他们，并提供有意义的逻辑信息。这并不意味着要泄露商业机密，但需要提供足够的细节，以便个人能够理解并质疑相关决策。
您还应提供清晰的人工审核申请流程。根据荷兰法律，某些决定不能仅依赖行政复议程序。
这些决策会对就业、信用或获得基本服务产生重大影响。因此，需要人为干预，而不仅仅是应用自动化程序生成的结果。
请保留您的行政管理流程记录，包括您如何确定适当的人工监督级别。荷兰监管机构和法院将审查您的治理结构是否充分保护了个人权利。
常見問題解答
使用人工智能工具的荷兰企业必须遵守《通用数据保护条例》(GDPR)中关于决策透明度和数据保护的要求。非歧视标准、知识产权考量和责任框架均由《人工智能法》和现行荷兰法律规定。
在荷兰企业中，将人工智能应用于决策过程会带来哪些法律影响？
《人工智能法案》根据风险等级对用于决策的人工智能系统进行分类。从2026年8月起，部署在就业、人力资源管理或基本服务获取领域的高风险系统将面临严格的要求。
对于高风险的人工智能决策系统，必须实施人工监督。这意味着必须有人能够审查并推翻人工智能生成的决策。
您的企业不得使用基于社交评分进行决策的人工智能系统。这包括根据行为或个人特征对用户进行奖励或惩罚。
当您的人工智能系统影响招聘、晋升或解雇等决策时，您必须告知员工和求职者。荷兰劳动法要求自动化决策过程必须透明。
根据 GDPR，荷兰公司在使用人工智能工具时应如何处理个人数据？
在部署人工智能系统之前，您必须明确处理个人数据的法律依据。常见的法律依据包括同意、合同必要性或合法利益。
GDPR第22条赋予个人不受完全自动化决策约束的权利，此类决策可能产生法律效力或重大影响。您必须提供有关所涉逻辑和处理意义的有效信息。
您的人工智能系统必须遵循数据最小化原则。仅收集为特定目的所必需的个人数据。
当您的人工智能系统以可能对个人权利构成高风险的方式处理个人数据时，您需要进行数据保护影响评估 (DPIA)。根据《人工智能法案》，高风险人工智能系统通常需要进行 DPIA。
存储限制规则适用于训练数据。您不得将个人数据保留超过人工智能系统运行所需的时间。
为确保人工智能系统不具歧视性并符合荷兰平等法律，需要采取哪些措施？
在部署人工智能系统之前，必须对其进行偏见测试。这包括检查是否存在基于种族、性别、年龄、残疾和性取向等受保护特征的歧视。
《人工智能法案》禁止使用生物识别数据将个人分类到敏感类别中的系统。您不能使用人工智能，通过面部识别或类似技术，根据出身、健康状况或性取向对人进行分类。
您的训练数据必须具有代表性和多样性。存在偏差或缺乏代表性的数据集可能导致歧视性结果，违反荷兰的平等法。
您需要提供文件，说明您如何评估和降低歧视风险。这将成为您高风险人工智能系统技术文档的一部分。
部署后的定期监测有助于识别随着时间推移而出现的歧视模式。您必须及时处理任何歧视问题。
您能否概述一下荷兰企业在人工智能运营的透明度和可解释性方面应承担的责任？
当用户与人工智能系统（例如聊天机器人）交互时，您必须告知用户。人们有权知道自己是在与人工智能而非真人交流。
高风险人工智能系统需要全面的技术文档。这包括有关系统功能、局限性和预期用途的信息。
当您使用人工智能对生物识别数据进行分类时，您必须向个人解释系统的工作原理。即使是非高风险系统，也同样需要履行这项透明度义务。
人工智能创建或编辑的内容必须带有清晰的标签。您需要标记人工智能生成的文本、图像和其他内容，以便启用自动检测功能。
您的员工需要具备足够的AI素养，才能理解和监督他们所使用的AI系统。培训项目有助于满足这一透明度要求。
您必须向人工智能系统的部署人员提供正确使用说明。这些说明应涵盖系统的用途、功能和局限性。
在商业环境中应用人工智能生成的内容或数据时，知识产权方面有哪些关键考虑因素？
荷兰版权法目前不承认人工智能系统作为作者的身份。根据现行法律，只有人类创作者才能拥有版权。
您需要在雇佣合同和与承包商的协议中明确人工智能生成内容的产权归属。标准的知识产权条款可能无法充分涵盖人工智能生成的作品。
使用受版权保护的材料训练人工智能系统会引发法律问题。您应该评估您的使用是否符合荷兰版权法规定的合法例外情况。
数据库权利保护荷兰境内的数据集合。使用数据库训练人工智能系统可能需要获得数据库权利持有者的许可。
人工智能生成的发明给专利保护带来了挑战。荷兰专利法要求发明人必须是人类，尽管这一领域仍在不断发展。
在部署人工智能工具时，您必须尊重第三方的知识产权。这包括确保您的人工智能系统不会在未经授权的情况下复制受保护的作品。
荷兰的法规如何处理因在商业运营中使用人工智能而产生的责任问题？
您仍需对您部署的人工智能系统造成的损害承担责任。荷兰侵权法规定，企业应对其运营（包括人工智能驱动的流程）造成的损害承担责任。
《人工智能法案》规定了对违规行为的罚款。将违禁人工智能系统投放市场可能会导致相关方的处罚和法律诉讼。
产品责任规则适用于嵌入实体产品的AI系统。如果您的AI产品造成损害，现行产品责任法律将决定您的责任。
您必须购买与人工智能系统风险相匹配的保险。对于高风险人工智能应用而言，这一点尤为重要。
与人工智能供应商签订的合同应明确划分责任。协议应具体规定，当人工智能系统出现故障或造成损害时，由谁承担责任。
《人工智能法案》规定的文件记录要求有助于确立问责制。完善的记录能够证明您在责任纠纷中已尽到合规义务和尽职调查的责任。
