《欧洲人工智能法案》于2025年2月2日引入了重大变革，明确规定了某些事项。 人工智能实践 在欧盟范围内均属违法行为。 荷兰企业 现在他们必须遵守关于可以使用哪些人工智能系统的严格规定。
未能移除被禁用的AI工具的公司将面临巨额罚款，任何遭受损害的人都可能面临法律诉讼。
截至 2025 年 2 月，荷兰已禁止使用操纵人心、使用社交评分、根据生物特征数据对个人进行分类或在公共场所使用实时面部识别的人工智能系统。 这些禁令还涵盖工作场所和学校中的情绪识别技术，以及从互联网上无目的地收集面部图像以建立识别数据库的行为。
这些规定立即生效，不给企业任何过渡期来逐步淘汰这些系统。了解哪些人工智能实践被禁止以及您的组织必须采取哪些措施，对于避免处罚至关重要。
本指南解释了具体的禁令，概述了您的 合规职责 作为一家荷兰企业，它涵盖了确保您的运营在新法律下合法所需的培训要求。
2025年2月禁令概述
（欧盟）2024/1689 号条例，即所谓的 欧盟人工智能法案针对某些人工智能实践，引入了具体的禁令，这些禁令于2025年2月2日生效。如果您在荷兰开发、部署或使用人工智能技术，这些规则将适用于您的荷兰业务。 人工智能系统在荷兰境内或更广泛的欧盟范围内。
禁止的人工智能实践范围
《人工智能法》禁止某些对基本权利和欧洲价值观构成不可接受风险的人工智能实践。欧盟第2024/1689号条例第5条根据这些实践的潜在危害而非技术本身来界定这些被禁止的实践。
主要禁止类别包括：
- 操纵型人工智能系统 利用特定群体的漏洞
- 社会评分系统 由公共机构
- 实时远程生物识别 在公共场所 法律 执行（除少数例外情况外）
- 生物特征分类系统 推断敏感属性
- 非定向抓取 来自互联网或闭路电视录像的面部图像
无论您在荷兰以人工智能提供商、部署商还是分销商的身份运营，您的业务都受这些禁令约束。荷兰数据保护局与其他欧盟执法机构合作，确保合规性。
不遵守规定将处以最高可达全球年营业额 7% 的罚款。
生效日期和过渡期
第 5 条规定的禁令于 2025 年 2 月 2 日生效。这意味着，如果您使用或开发相关的 AI 系统，您的企业必须立即遵守这些规定。
执法框架遵循分阶段实施的时间表。所有处罚措施、治理结构和保密条款将于2025年8月2日起生效。
这为您的组织提供了一个为期六个月的过渡期，在此期间规则适用，但完整的执行机制仍在建立中。欧盟委员会于2025年2月4日发布了官方指南，以阐明这些禁令在实践中的运作方式。
从 2 月份开始，包括荷兰数据保护局在内的市场监管机构获得了监督和执行这些规则的责任。
关键定义：人工智能系统与实践
根据人工智能法案， 人工智能系统 指利用机器学习、逻辑方法或统计方法生成预测、建议或决策等输出的软件。此定义特意采用宽泛的框架，以涵盖当前和新兴技术。
A 禁止的人工智能实践 指的是欧盟认为不可接受的特定人工智能部署或使用方式。该禁令针对的是实践本身，而非其底层技术。
这意味着，即使您出于允许的目的使用同一人工智能系统，也可能被禁止用于某些特定用途。您的企业必须区分人工智能系统（技术本身）及其应用（您如何使用它）。
用于人脸识别的人工智能系统可能合法用于楼宇门禁控制，但禁止用于公共场所的实时监控。根据欧盟第2024/1689号条例，其合法性取决于具体情况和应用场景。
被禁止的人工智能实践详细清单
欧盟人工智能法案禁止某些对基本权利和安全构成不可接受风险的人工智能应用。这些被禁止的应用主要分为三类：操纵人类行为的系统、…… 利用弱势群体以及通过社交评分实现大规模监控的机制。
操纵性和欺骗性系统
《人工智能法案》禁止任何使用潜意识技术从根本上扭曲人类行为并造成伤害的人工智能系统。这些技术在用户意识之外发挥作用，影响用户的决策或行为。
禁止的操纵行为包括：
- 人工智能系统部署了你无法察觉的潜意识组件。
- 旨在利用儿童年龄相关弱点的系统
- 利用操纵行为造成身心伤害的技术
你不能故意使用人工智能 欺骗他人 以导致的方式 重大伤害这意味着，如果这种欺骗行为可能造成损害，您的企业就不能部署会误导用户，使其误以为聊天机器人或虚拟助手是人工智能的聊天机器人或虚拟助手。
禁令也适用于使用“黑暗模式”或心理操纵手段诱导用户做出有害选择的人工智能系统。 法律 保护个人免受绕过理性决策的人工智能行为的影响。
如果你的人工智能系统通过隐藏的操纵而非透明的信息来影响行为，那就违反了该法案。
剥削弱势群体
利用年龄、残疾或社会经济状况等因素造成的脆弱性的人工智能系统是被严格禁止的。您不能利用人工智能来占那些缺乏理解能力或抵制操纵能力的人的便宜。
这项禁令涵盖利用儿童缺乏经验或老年人认知能力下降等因素来操纵行为的人工智能。您的企业不得部署利用身心障碍来操纵行为的系统。
利用经济困境或社会孤立进行牟利的人工智能也属于此项禁令的范畴。
受保护的弱势群体包括：
- 儿童及未成年人
- 认知障碍老年人
- 身患残疾（包括身体残疾和精神残疾）的人
- 面临经济困难的个人
当您的人工智能系统通过滥用行为造成或可能造成重大伤害时，此禁令适用。您必须评估您的人工智能应用程序是否会对弱势群体造成不公平的侵害。
社会评分和行为分析
《人工智能法案》禁止人工智能系统根据人的性别、智力或行为特征来评估或分类人。 社会行为 或个人特征。您不能使用会导致不公平待遇或伤害的社会评分机制。
社会评分是指根据个人的行为、人际关系或预测行为对其进行评估。由此产生的个人档案决定了其获得服务、机会或权利的途径。
被禁止的社交评分活动包括：
- 根据公民的社会或职业行为对其进行评级
- 利用个人数据创建可信度评分
- 基于侧写预测犯罪行为
- 根据行为评估结果拒绝提供服务
您不得部署任何通过评分来决定某人是否获得医疗保健、教育、就业或金融服务的AI系统。无论您是以公共机构还是私营企业的身份运营这些系统，此项禁令均适用。
实时远程 生物识别 在公共场所也受到严格禁止，执法部门可有有限的例外情况。
禁止使用生物识别、面部识别和情感人工智能
欧盟人工智能法案禁止使用多种生物识别和面部识别系统，这些系统对人工智能构成风险。 基本权利这些禁令会影响荷兰企业如何使用它们 生物识别数据人脸识别数据库、情绪识别工具以及公共场所的实时身份识别系统。
生物特征分类和数据使用
您不得使用基于生物识别数据对人进行分类的人工智能系统来推断其种族、政治观点、工会成员身份、宗教信仰或性取向。无论您是将这些系统投放市场、投入使用还是用于上述特定目的，此禁令均适用。
该禁令针对的是那些制造……的系统 敏感推断 通过生物识别分析获取个人信息。您的企业若不遵守规定，将面临高达全球年营业额7%的罚款。
但也有例外。在执法领域，您可以根据生物特征数据对合法获取的生物特征数据集（例如图像）进行标记或筛选。
除了执法部门之外，这些分类做法仍然完全被禁止。
对人脸识别技术的限制
您不得通过从互联网或监控录像中无目的地抓取人脸图像来创建或扩展人脸识别数据库。该禁令已于2025年2月2日生效。
这项禁令的实施必须满足以下四个条件：
- 这种做法涉及人工智能系统的部署、维护或使用。
- 目的是创建或扩展人脸识别数据库。
- 该方法采用非定向抓取方式获取面部图像。
- 数据来源为互联网或闭路电视录像。
关键词是“非定向”。你不能以广泛、不加区分的方式收集面部图像。
这意味着，如果没有特定的目标标准，就不能在超市或公共场所部署自动抓取人脸以建立识别数据库的摄像头。
就业和教育中的情绪识别
在工作场所和教育机构中，禁止使用人工智能系统来推断人们的情绪。这项禁令直接影响到人力资源部门、学校和培训机构，这些机构可能正在考虑使用情绪检测工具。
该禁令涵盖任何旨在读取或解读特定环境下情绪状态的人工智能系统。无论使用面部分析、语音模式识别还是其他生物特征识别指标，都无关紧要。
但有一种例外情况：如果情感识别人工智能用于医疗或安全目的，则可以使用该人工智能。
例如，出于安全原因监测驾驶员的警觉性或在医疗保健环境中检测患者的痛苦，可能符合此例外情况。
远程生物识别技术的局限性
除严格规定的情况外，不得在公共场所使用实时远程生物识别系统进行执法活动。这些例外情况包括搜寻绑架或人口贩运的受害者、防止迫在眉睫的生命威胁或恐怖袭击，以及抓捕可判处至少四年监禁的严重犯罪嫌疑人。
每次使用都需要 事先授权 从 司法权威 或独立行政机构。紧急情况下，您无需授权即可开始使用，但必须在 24 小时内申请批准。
如果当局拒绝授权，您必须立即停止使用该系统并删除所有数据。荷兰可能会在国家法律中制定针对此类例外情况的详细规则。
您的企业必须将每次使用情况通知相关的市场监管机构和国家数据保护机构。成员国每年向欧盟委员会提交关于实时远程生物识别技术使用情况的报告。
荷兰企业的合规义务
荷兰企业必须采取切实措施来实现人工智能合规，包括识别被禁用的系统、将其从运营中移除并妥善保存相关文档。 荷兰 DPA 荷兰数字基础设施管理局将强制执行这些要求，违规者将受到严厉处罚。
识别运营中被禁用的人工智能
您需要对整个组织进行全面的风险评估，以找出可能违反新规的人工智能系统。这意味着要审查任何使用操纵技术、利用漏洞、实施社交评分或在公共场所进行实时生物识别的技术。
首先，对当前使用的所有人工智能系统进行清点。记录每个系统的功能、数据处理方式以及影响对象。
特别关注与客户、员工或公众互动的系统。风险评估应评估任何系统是否可能损害基本权利。
这包括检查人工智能系统是否会基于行为、个人特征或社会关系对人们做出决策。任何在缺乏透明度的情况下跟踪或分析个人的系统都需要立即接受审查。
与您的技术团队合作，了解每个人工智能系统的运行方式。您不能仅仅依赖供应商的描述。
荷兰数据保护局已明确表示，无论系统是你自己搭建的还是从第三方购买的，你都有责任遵守相关规定。
逐步淘汰或移除被禁人工智能系统
您必须立即停止使用被禁止的人工智能技术。法律对被禁系统不设任何宽限期。
如果风险评估发现存在违禁行为，则需要立即停止该行为。制定一份移除计划，其中应涵盖技术和运营两方面的影响。
某些系统可能嵌入在大型平台中，或与多个流程相连。您需要确保移除违禁元素不会中断关键业务功能。
在关闭系统之前，请确定如何处理它之前执行的任务。这可能意味着恢复手动流程、采用不同的技术，或者彻底重新设计工作流程。
记录移除过程的每一步。记录你何时发现违规行为、你采取了哪些措施以及系统何时完全停用。
监管机构希望获得确凿证据，证明你在发现违规行为后立即采取了行动。
记录保存和文件记录
您必须保存能够证明您遵守禁令规定的技术文档。这包括您的风险评估记录、关于人工智能系统的决策以及您为实现合规性而做出的任何更改。
您的文档应包含以下内容：
- 系统清单 以及对每款人工智能应用的描述
- 风险评估报告 展示您对潜在违规行为的分析
- 移除记录 详细说明您何时以及如何停用了禁用系统
- 基本权利影响评估 对于任何临界情况
这些记录至少保存五年。荷兰数据保护局可以在检查或调查期间要求提供这些记录。
缺少或不完整的文档可能导致最高 7,500,000 万欧元或全球年营业额 1% 的罚款。您的技术文档必须足够详细，以便监管机构能够理解您的人工智能系统的功能以及它们为何符合法律规定。
通用描述或营销材料不符合此要求。请包含技术规格、数据流和决策过程。
每当您修改人工智能系统或部署新系统时，请更新您的文档。您需要持续改进流程，以确保未来的系统不会引入违禁行为。
人工智能素养要求和员工培训
自2025年2月2日起，荷兰所有提供或部署人工智能系统的企业必须确保其员工具备足够的人工智能素养。无论使用高风险还是低风险的人工智能系统，此项义务均适用。
制定书面培训计划必须根据员工的岗位和技术背景量身定制。
人工智能素养义务详解
欧盟人工智能法第4条规定： 法律要求 所有人工智能提供商和部署商都必须确保其员工具备足够的人工智能素养。您必须采取措施，保证与人工智能系统打交道的员工和承包商了解他们所使用的技术。
人工智能素养义务涵盖所有代表您操作、使用人工智能系统或就人工智能系统做出决策的人员。这包括构建或维护人工智能系统的技术人员，以及在日常工作中使用人工智能工具的非技术员工。
您必须根据每个人的角色、技术知识、经验、教育背景以及他们使用人工智能系统的具体情境，量身定制人工智能素养培训。例如，开发人工智能模型的软件开发人员所需的培训与使用人工智能聊天机器人的客服代表所需的培训就截然不同。
这项义务要求您尽“最大努力”确保足够的识字水平。您不能仅仅提供象征性的培训就声称已履行义务。
制定有效的培训计划
您的AI素养培训计划应该针对贵组织使用的具体AI系统，而不是提供通用信息。员工需要了解他们所使用的特定AI工具的功能、局限性和潜在风险。
培训内容应涵盖：
- 与您的系统相关的基本人工智能概念
- 如何正确操作人工智能工具
- 人工智能输出中的潜在偏差和误差
- 需要人工监督的时候
- 贵组织的 AI 政策和程序
您必须考虑每位员工的初始知识水平。技术人员可能需要接受模型开发和测试方面的高级培训，而普通用户则需要有关如何解读人工智能输出结果以及识别错误结果的实用指导。
培训形式多种多样，包括研讨会、在线课程、在职辅导或外部培训项目。形式本身并不重要，重要的是确保员工真正获得必要的知识和技能。
记录人工智能素养活动
您必须保存人工智能素养培训活动的记录，以证明您遵守欧盟人工智能法案。这些文件可作为您已履行相关义务的证据。 法律义务.
您的记录应包括：
- 培训课程内容和材料
- 完成培训的员工名单
- 培训课程的日期和持续时间
- 评估结果（如适用）
- 您如何确定不同角色所需的适当读写能力水平
记录您识别组织内人工智能素养需求的过程。这包括您如何评估哪些员工需要培训，以及根据他们与人工智能系统的互动情况，他们需要哪些具体知识。
随着人工智能系统的变化或新员工的加入，请记录您如何更新培训内容。人工智能素养并非一次性要求，而是一项持续的义务，必须根据您不断发展的人工智能技术应用情况进行调整。
监督、执法和处罚
欧盟人工智能法案建立了一个多层次的执法结构，具有显著意义。 经济处罚 不遵守相关规定将受到处罚。荷兰企业面临国家和欧洲监管机构的双重监管，对于禁止的人工智能行为，罚款最高可达全球年营业额的7%。
荷兰和欧盟监管机构
荷兰数据保护局是荷兰人工智能法案执行的主要国家监管机构。该机构与其他指定的荷兰市场监管机构合作，共同监督该法案的执行情况。
在欧洲层面，欧盟委员会负责监督《人工智能法》在所有成员国的实施。欧盟委员会下设的欧洲人工智能办公室负责协调执法活动并提供技术支持。
欧洲数据保护委员会支持该法案的统一实施，尤其是在人工智能系统涉及个人数据处理的情况下。这些机构通力合作，确保在整个欧盟范围内执行统一的法律。
如果您在多个欧盟国家运营人工智能系统，您可能会面临系统部署或生效所在司法管辖区的监管机构的审查。
制裁与民事责任
违反第五条所列禁止行为，最高可处以5万欧元或全球年度总营业额的7%的罚款，以较高者为准。该等罚款自2025年2月35日起生效。
欧盟法院对《人工智能法》的条款拥有最终解释权。当各国法院对何为禁止行为产生争议时，可将问题提交欧盟法院。
除了行政罚款外，您还可能面临因不合规人工智能系统而受到损害的个人或组织的民事索赔。成员国可以根据其国家法律制定额外的处罚措施。
来自欧洲和国家机构的指导
欧盟委员会发布 禁止事项指南 人工智能实践将于 2025 年 2 月 4 日生效。这些文件解释了当局将如何解释第 5 条的禁令，并提供了遵守规定的实际例子。
虽然这些指导原则不具有约束力，但它们为执法重点提供了宝贵的见解。只有欧盟法院才能提供权威的法律解释。
荷兰监管机构可能会发布针对当地商业环境的补充性国家指导意见。随着执法方式的演变，您应密切关注欧洲和荷兰监管机构发布的最新信息。
为促进跨境理解，指南提供所有欧盟官方语言版本。
常見問題解答
欧洲人工智能法案对荷兰企业提出了具体要求和限制，这些要求和限制将于2025年2月起生效。这些法规禁止某些人工智能实践，并要求…… 合规措施并制定违规处罚措施。
截至 2025 年 2 月，荷兰公司使用人工智能方面有哪些新规定？
《欧洲人工智能法案》于 2024 年 8 月 1 日生效，首批禁令于 2025 年 2 月 2 日生效。这些法规适用于所有在欧盟境内开发、部署或使用人工智能系统的荷兰企业。
该法案禁止使用潜意识技术操纵人们做出正常情况下不会做出的决定的人工智能系统。利用基于年龄、残疾或社会经济地位的弱点进行攻击的人工智能系统也被禁止。
根据个人社会行为或性格特征对个体进行评判的社会评分系统将被全面禁止。相关法规还禁止仅通过人格侧写或性格特征分析而非与犯罪活动相关的事实来预测犯罪的基于人工智能的风险评估。
通过面部图像或指纹推断种族、政治观点、工会成员身份、宗教信仰或性取向的生物识别分类系统是不允许的。除特定情况下，公共场所禁止进行实时远程生物识别。 法律授权.
2025 年 2 月荷兰人工智能指南将如何影响消费者的数据隐私和保护？
《人工智能法》与现有的数据保护法规（包括《通用数据保护条例》）并行运作。荷兰数据保护局就人工智能系统如何遵守数据保护规则，特别是自动化决策方面的规则，提供指导。
禁止未经授权从互联网或摄像头录像中抓取面部图像以创建或扩充面部识别数据库。此项限制旨在保护个人隐私权，并防止未经授权收集生物识别数据。
人工智能系统在其整个生命周期中都必须尊重基本权利。公共机构和提供公共服务的实体在使用高风险人工智能系统时，必须进行基本权利影响评估。
由于最近的立法变更，荷兰企业不再被允许从事哪些基于人工智能的活动？
您的企业不得在工作场所或教育环境中使用情绪识别系统。无论声称的益处或应用场景如何，这些系统均被禁止使用。
您不能部署通过潜意识技术操纵人们或利用其弱点的AI系统。这包括基于残疾、社会地位或年龄等因素来影响个人行为的系统。
基于敏感特征对人进行分类的生物识别分类系统是被禁止的。您不能使用人工智能从生物识别数据中推断某人的种族、政治观点、宗教信仰或性取向。
社交评分系统被彻底禁止。你不能使用任何基于社交行为或个人特征来评估或分类人的AI。
在公共场所使用实时远程生物识别技术进行商业用途是被禁止的。执法部门只有在获得适当法律授权的情况下，才能在严格限定的范围内使用此类系统。
荷兰企业必须采取哪些措施才能使其人工智能系统符合 2025 年 2 月制定的合规标准？
您必须列出贵组织目前使用或部署的所有人工智能系统。该清单应根据《人工智能法案》中定义的风险分类对每个系统进行分类。
请对照禁止使用清单审查您的人工智能系统。如果您使用了任何被禁用的系统，必须立即停止使用，以免受到监管处罚。
记录人工智能系统的用途、数据来源和决策过程。这些文档有助于证明合规性，并为任何必要的评估提供支持。
对于高风险人工智能系统，需要采取额外的合规措施。公共机构必须在2026年8月2日前将高风险系统登记到欧洲数据库中，并进行基本权利影响评估。
对员工进行新规培训，并建立内部流程以持续监控合规情况。您的合规计划应包括定期审查人工智能系统，以确保其始终符合监管要求。
根据新的法规，荷兰企业应该注意哪些针对人工智能行业的特定禁令？
教育机构面临着特定的限制。无论其预期教育目的如何，都不能使用情绪识别系统来监控学生或评估他们的情绪状态。
工作场所环境也存在类似的局限性。雇主无法部署情绪识别人工智能来监控员工在工作活动中的情绪状态或反应。
执法机构对生物识别系统的应用权限有限。这些例外情况需要严格的法律授权，且仅适用于特定情况，例如搜寻绑架受害者、预防迫在眉睫的威胁或追踪重罪嫌疑人。
提供公共服务的公共机构除了受到一般性禁令的限制外，还需遵守其他规定。您必须对所有高风险人工智能系统进行基本权利影响评估，并将这些系统注册到欧洲数据库中。
不遵守荷兰于 2025 年 2 月出台的人工智能限制措施的处罚是什么？
监管机构可以对违反人工智能法案的行为处以巨额罚款。处罚结构采用分级制，根据违规行为的严重程度而定。
使用被禁用的AI系统属于最严重的违规行为。如果您的组织在2025年2月截止日期后继续运行被禁用的系统，将面临巨额罚款。
具体的罚款金额取决于您的组织是中小企业还是大型企业。监管机构会考虑违规行为的性质、持续时间和造成的损害等因素。
除了经济处罚外，不合规还会损害贵组织的声誉。因被禁人工智能系统而受到伤害的个人可以通过民事诉讼寻求其他补救措施。
荷兰数据保护局和其他监管机构拥有执法权。他们可以调查投诉、进行审计，并要求立即停止违禁行为。
