2023年底，欧盟新的产品安全立法框架《通用产品安全法规》正式实施。 在本文中，我们概述了GPSR的历史，其于前法规GPSD相比的最大变化，以及人工智能系统如何适应这一更新法规的框架。
什么是GPSR，它对人工智能有什么影响？
通用产品安全法规（GPSR）代表了欧盟产品安全监管方式的重大转变。GPSR对人工智能产品的开发和部署具有显著的影响。全面了解GPSR的要求，以及遵守即将出台的欧盟人工智能法案，可以确保企业能够满足其人工智能产品的产品安全期望。
GPSD（2001）到GPSR（2023）的演变
GPSR于2023年推出，取代了2001年的通用产品安全指令（GPSD）。GPSD是欧盟20多年来产品安全规则的基础。它的重点是确保消费品在进入市场之前是安全的。然而，随着消费技术的进步，显然也需要更新的监管法规框架，新的监管法规尤其应考虑到与数字产品、人工智能和网络连接设备相关的更广泛更具有复杂性的新风险。
新的GPSR旨在通过强调一种主动的产品安全方法来解决这些差距，这种方法考虑了算法介导技术的复杂性。它为制造商、进口商和分销商制定了更明确的义务，同时加强了当局的市场监督和安全执法。这意味着人工智能产品，像任何其他消费产品一样，必须首先证明是安全的，并且在出现任何安全问题时，可以很容易地从市场上回收。
GPSR的主要更新及其对人工智能产品的影响
与之前的GPSD相比，GPSR包括几个关键更新：
对于人工智能产品，这些变化意味着组织需要在设计系统时考虑到市场退出能力。如果人工智能产品在发布后表现出不安全行为，必须能够轻松召回或禁用它，从而有效控制对消费者的潜在伤害。
GPSR和人工智能法案之间的关系
《2024年欧盟人工智能法案》特别侧重于根据人工智能系统的风险水平对其进行监管。如果人工智能系统被归类为高风险（例如，用于医疗设备、关键基础设施或执法的系统），则需要严格要求确保安全性、透明度和问责制。重要的是，遵守《人工智能法案》本质上也确保了这些高风险产品遵守GPSR。
对于不被认为是高风险的人工智能产品，GPSR仍然是确保其安全性的主要监管框架。因此，公司需要努力了解他们的人工智能系统是否被归类为高风险，以及这种状态如何影响他们的合规义务。
GPSR要求产品在其整个生命周期内必须是安全的。组织必须为任何系统更新和变更准备安全协议。这与人工智能法案对透明度、记录保存和上市后监测的关注是一致的。符合《人工智能法案》要求的高风险人工智能产品也可能符合GPSR要求，特别是在可追溯性和安全监控方面。
准备符合GPSR要求的AI产品
正在开发人工智能产品的公司应该在开发阶段及以后制定对GPSR和人工智能法案的期望，为合规要求做好准备。对于非高风险人工智能产品，重点将放在确保产品的一般安全性上。开发低风险系统的组织应该考虑由错误的算法、有偏见的决策或意外行为引起的潜在风险。
一个关键的实际步骤是实施有效的上市后监测。人工智能产品应包括跟踪性能并在部署后识别风险的机制。这种积极主动的方法对于履行GPSR义务至关重要，因为它确保人工智能系统在存在安全问题时可以迅速适应或退出市场。
另一个重要的考虑是产品的可追溯性。人工智能产品的设计必须考虑到透明度，以便当局能够了解其决策背后的数据和过程。这有助于在必要时提高安全评估和市场召回的效率。
GPSR对AI产品撤市的要求
GPSR规定，包括人工智能产品在内的所有产品，如果发现安全问题，必须有明确的召回或撤回市场的程序。具体来说，制造商必须向当局提供详细的产品文档，包括风险分析和人工智能产品设计思路和安全测试的描述。
GPSR的这一文档要求对于促进人工智能产品的可追溯性至关重要。它强化了对可访问的内置机制的需求，使AI系统能够有效地从市场中撤出。对于嵌入到消费设备中的人工智能系统来说，这可能意味着如果产品被认为不安全，其功能可能会禁用核心功能。
结论
通用产品安全法规（GPSR）为人工智能产品引入了一个全面的安全框架，无论是否高风险。对于被认为是高风险的人工智能系统，遵守《人工智能法案》将有效地与GPSR的安全要求保持一致。对于其他人工智能产品，GPSR是组织必须将其视为低风险产品安全标准的主要框架。为了确保符合GPSR，公司必须采用强大的安全实践，有效的监控和从市场召回产品的能力。
致力于人工智能产品设计和生产的公司应该尽快开始积极应对GPSR的实施带来的影响。符合性的计划应从产品设计和风险评估开始，包括在组织内实施更常规的生命周期管理实践。准备好应对GPSR这一监管框架不仅有助于符合欧盟标准，更可以为你的人工智能技术创建正面的声誉，而且，增强消费者对人工智能增强的未来的信任。
Nemko Digital
Nemko Digital 提供有关全球AI 法规发展资讯，风险分类和管理，全球市场准入，AI管理系统、培训等服务。欢迎关注Nemko Digital 网站，了解AI相关的法规，标准详情以及Nemko的服务。您也可以加入 AI-Trust hub ，随时获取有关AI领域的最新资讯