将AI嵌入联网产品的竞赛已到达一个关键的转折点。目前，80%的电子工程师正在积极研究AI技术，42%的工程师已经推出了基于AI的产品，这意味着这项技术已经从试验阶段过渡到了不可或缺的阶段。然而，随着监管期限的临近以及客户对可靠人工智能的期望不断提高，问题不再于是否要将AI融入产品，而是如何正确地融入整合。
欧盟《人工智能法案》AI Act的处罚执行将于 2026 年 8 月开始，这将设立一个前所未有的合规期限，从而改变企业对嵌入式系统中人工智能处理方式的考量。与此同时，自 2024 年 12 月起生效的GPS《通用产品安全条例》以及 ISO/IEC 42001 认证需求在各行业迅速增长。对于电子工程和产品领域的领导者，包括医疗设备、物联网、交通、电信和工业系统等领域的企业而言，提前做好准备的窗口期正在迅速关闭。
监管压力、竞争态势和技术进步的这一系列因素的共同作用，使得可信的人工智能不仅是一项合规要求，更是一项基本的商业必要性。如果不遵守规定，那么就可能面临监管处罚、市场准入延迟以及品牌信任度下降的风险。而在这样一个环境中，有 37%的消费者已经选择更换品牌以保护自己的隐私。
9 月 4 日，在挪威奥斯陆的IBM大楼，IBM挪威分公司和Nemko Digital 共同举办了一场名为“AI Trust in Electronics”的国际峰会。
本次峰会的目的是汇集所需的专业知识、监管框架和实用指导，以应对嵌入式系统中复杂的人工智能信任形势。
此次峰会有约 60 名企业领导人、监管人员和创新者现场参加，还有约 100 人通过线上方式参与。
所涵盖的主题包括：
- 《ISO/IEC 42001 人工智能管理体系实施路线图》：该标准旨在建立人工智能管理体系（AIMS），是首个获得国际认证的人工智能治理标准，为人工智能的整个生命周期管理提供了全面的框架。
- 人工智能治理与风险管理，旨在应对自主人工智能系统所面临的新兴挑战，这些系统能够在极少的人工干预下做出决策并采取行动。探讨了管理自主人工智能行为的框架，包括与公司价值观和法规要求相一致的方面。
- 基于设计的实用信任方法，用于将理论概念转化为可实施的流程，包括创建人工智能事实表、设计故障安全机制以及提供反馈以实现持续改进和风险缓解的技术手段。
- 通过验证的人工智能获得竞争优势，展示了信任如何成为市场差异化因素。审查了成功利用人工智能信任作为商业策略的公司的案例研究，考察了其技术实施和市场结果。
- 欧盟人工智能法案的处罚执行，代表了最直接和重大的监管压力点。其分阶段实施时间表在 2025 年和 2026 年期间设置了关键的截止日期。
2026 年 8 月，高风险人工智能系统的全面处罚执行开始，而最终的指导方针尚未出台。预计于 2026 年 2 月之前发布，即距离实施仅剩 6 至 8 个月的时间。
- 现有的《通用产品安全条例》（GPSR）对在欧盟销售的嵌入人工智能的消费产品规定了立即的合规义务。与《人工智能法》的风险评估方法不同，GPSR 广泛适用于包含人工智能的实体和数字消费产品，包括线上和线下产品。由于其广泛的适用范围，大多数面向消费者的 AI 产品都会受到影响。
如果您希望了解有关此次AI Trust 峰会的更多详情或希望进一步了解Nemko AI Trust 认证及AI监管服务，欢迎联系我们。
标签:
AI trust