在《海外 AI 向善：数字内容、个人数据保护以及企业责任》一篇中，确保AI向善和可持续发展，海外接连陆续颁布有关数字内容、个人数据保护以及企业责任的法案、联合声明以及公约等，为我们明确需要通过六个方面的努力。欧盟公布的《人工智能公约》，企业承诺人工智能治理战略，识别高风险AI系统并提高员工对AI的认识，采取具体行动提前遵守《人工智能法案》。
01 AI技术的潜在风险
随着人工智能（AI）技术的不断发展，我们必须关注其伦理和社会影响，共同探索如何构建一个更加智能且和谐的未来。AI技术的飞速进步带来了众多益处，然而也潜藏着不容忽视的风险。在享受AI带来的便利之际，推进AI技术的同时，我们还须对下列的这些潜在风险保持警惕，且能够加以平衡：
- 版权侵权：生成式AI企业因涉及版权侵权问题而面临众多诉讼案件。
- 安全隐患：自动驾驶汽车若遭到非法篡改，可能会引发严重的人员伤亡事故。
- 数据偏见：基于存在偏见的数据进行训练的AI系统，有可能产生具有歧视性的结果。
- 责任归属模糊：AI系统导致的不良后果，其责任归属问题尚不明确。
- 隐私侵犯：部分AI应用实践可能侵犯个人隐私。
- 歧视与个人自由受限：某些AI系统可能导致歧视现象以及限制个人自由。
- 对个人健康、安全及基本权利的潜在威胁：高风险AI系统可能对个人的健康、安全或基本权利带来严重危害。
- 干扰个人决策：高风险AI系统可能会影响人们的决策过程。
- 网络安全风险：AI系统可能遭受未经授权的攻击，试图篡改系统使用、输出或性能。
- 数据投毒、模型投毒、模型规避及对抗性攻击：高风险AI系统需具备抵御这些网络安全威胁的能力。
- 社会影响：诸如失业和岗位转移的担忧，以及深度伪造技术带来的潜在危害。
这些风险凸显了制定法规和采纳最佳实践的重要性，来管理和减轻AI技术可能产生的负面影响。政府、企业和科研机构需共同努力，制定严格的法规和标准，确保AI技术的合理开发和应用。公众教育和意识提升也至关重要，帮助人们更好地理解和应对AI技术带来的挑战。
02 欧盟AI法案概述
为了降低这些与AI相关的风险，规范AI的开发和应用，确保其安全性、透明性和伦理性，欧盟《人工智能法案》（欧盟AI法案）应运而生。该法案明确了AI开发者和使用者的责任与义务，强调了数据保护和隐私权的重要性。该法案的实施标志着AI治理进入新阶段，旨在保护公众利益，促进创新与技术进步。
企业和个人需密切关注其规定，确保合规性，同时利用AI技术提升生活质量，推动社会进步。值得一提的是，即便某些企业不受该法案的直接约束，他们仍可将法案中的部分内容当作最佳实践来采纳。
1. 法案背景和目标
欧盟AI法案作为全球首个全方位监管人工智能的法律框架，其核心宗旨在于降低与人工智能相关的各类风险，并致力于在安全且值得信赖的环境中推动AI技术的进步，保障公民基本权利。同时，该法案也期望为全球范围内的人工智能监管树立新的标杆。
欧盟AI法案所采取的全面风险管理策略，有助于确保AI系统的安全性、透明度和可信度，进而促进其安全且负责任地开发与部署。该法案确保AI技术在欧盟范围内得以安全且可信赖地发展，着重强调的是透明度和问责制度的重要性，来增强公众对AI系统的信任度。
2. 透明与责任
AI的提供方和使用方都有责任确保其应用的透明度。对于那些风险较高的AI系统，提供者需在欧盟的高风险AI系统数据库中进行注册，并及时上报任何严重事件。
监管机构也应加强对AI系统的监督和评估，确保其安全性和合规性。同时，公众的参与和教育也至关重要，提高人们对AI透明度和责任意识的认识。只有这样，我们才能共同构建一个更加安全、可靠的AI应用环境。
3. 处罚与合规性
违反相关法规将面临严厉的罚款。因此，各企业应立即启动合规性工作，确保其AI系统的合法且合规地使用。企业应加强内部培训与监督，提高员工对法规的了解与遵守意识。同时，与专业的法律团队合作，定期对AI系统进行合规审查，确保其始终符合法律法规的要求。只有在严格遵守法规的前提下，企业才能充分利用AI技术的优势，实现可持续发展，为社会创造更多价值。
03 AI系统定义和风险等级划分
AI系统的出现无疑是科技进步的一大飞跃，它们正逐渐渗透到我们生活的方方面面。从智能家居的语音助手，到自动驾驶汽车，再到医疗领域的精准诊断，AI系统正以其强大的数据处理和决策能力，改变着我们的世界。
欧盟AI法案明确了AI系统的定义及其适用范围，AI系统指的是一种基于机器构建的系统，旨在以不同级别的自主性运作，并具备潜在的适应能力。这类系统能够依据数据推断出如何生成对物理或虚拟环境产生影响的输出结果。欧盟AI法案对AI系统进行了风险等级的细致划分，具体如下：
- 不可接受风险：涵盖诸如潜意识操纵、社会评分等具有极高风险的行为。
- 高风险：涉及对人类健康、安全、基本权利及法治带来严重威胁的AI系统。
- 有限风险：这类系统可能对个人或社会产生一定程度的影响。
- 最小风险：主要指日常使用的AI应用，例如语音识别助手等。
对于风险等级的划分，旨在确保AI技术的发展始终与人类价值观和社会福祉保持一致。通过明确界定各类风险，欧盟AI法案不仅为监管机构提供了清晰的执法依据，同时也为AI研发者和企业设定了责任与义务的边界，从而推动人工智能行业健康、有序地发展。
为保护人类的自主权和尊严，防止AI技术被滥用，以下高风险AI实践已被法案明确禁止：
- 应用潜意识、操纵或欺骗性技术来曲解人类行为。
- 利用人类的年龄、残疾或社会经济地位的脆弱性来不当影响他们的决策。
- 进行社会评分以及基于个人特征的犯罪风险评估。
- 无差别地捕捉面部图像并用于构建数据库。
这也提醒我们，在开发和应用AI技术时，必须始终坚守伦理底线，确保技术的合理性和公平性。随着AI技术的不断进步，我们期待看到更多关于如何安全、负责任地利用AI的法规出台。
04 参与者和关键义务
欧盟AI法案还详细界定了各类参与者的义务，包括提供者、部署者、进口商和分销商。除了已明令禁止的高风险AI实践，法案同时针对高风险AI系统设定了一系列具体要求。同时，AI系统需要定期进行更新和优化，来确保其始终处于最佳状态。提供者应积极收集用户反馈，针对系统存在的问题进行及时改进，从而不断提升AI系统的整体性能和用户体验。
1. 关键义务
- 风险管理：对于高风险AI系统，务必构建完善的风险管理机制。
- 质量管理体系：提供者需建立一套严格的质量管理体系，确保各项操作遵循相关法规与标准。
- 数据和数据治理：确保所使用的数据集精确无误、完整无缺，并努力消除潜在的偏差。
- 准确性、稳健性与网络安全：系统应实施一系列措施，以保障其安全性、稳定性和网络安全性。
- 技术文档与记录保存：详尽记录技术文档并妥善保存，以证明系统操作的合规性。
- 上市后监测：对系统性能进行持续监测，迅速发现并解决可能出现的问题。
- 符合性评估：出具证明文件，证实系统满足各项相关法规要求。
- 人工监督：加强人工监督环节，降低AI系统可能引发的风险。
- AI素养：大力提升AI素养，以便更加高效地使用和监管AI系统。
2. 提供者义务
- 致力于确保人工智能（AI）系统的设计、开发及运用皆遵循相关法规之标准。
- 针对具有高风险的AI系统展开严格的合格性评估程序。
- 执行上市后的监测方案，以保障其持续性地符合法规要求。
3. 部署者义务
- 确保所采用的AI系统完全满足相关法案的规定。
- 对AI系统的应用进行持续的监督与管理。
4. 进口商与分销商义务
- 确保推向市场的AI系统严格符合法案的各项要求。
- 对所分发的AI系统执行必要的检验与监督措施。
消费者也需提高自身权益意识，合理利用AI技术的同时，关注其潜在风险。社会各界应共同推动AI行业的健康发展，加强监管与自律，促进人工智能技术的创新与应用。
05 实务操作指南
企业应当首先对其业务中涉及的AI系统进行全面评估，识别潜在风险并确定相应的风险等级。同时，需深入研究并理解适用法规的合规要求。构建完善的风险管理框架，确保AI系统在安全性与合规性方面得到充分保障。实施严格的数据治理和质量管理体系，以维护数据的准确性和安全性。
此外，提供清晰的用户界面及详尽的文档，帮助用户全面了解AI系统的功能及其局限性。定期开展内部及外部的合规审计工作，确保持续符合标准。若发现严重违规事件，应立即向欧盟监管机构报告，并采取相应的纠正措施。
为企业能更好地利用AI技术，推动业务创新与发展，同时降低潜在风险，建议采取以下实践：
- 全面风险评估：企业务必要对AI系统进行全面的风险评估，以确保其合规性，从而保障企业的稳健发展。
- 规范获取与使用流程：建立一套完善的AI系统获取和使用流程，旨在提高透明度并确保所有操作的可追溯性。
- 提升AI素养：积极培训员工，提高他们对AI技术的理解和应用能力，同时增强对潜在风险的认知。
- 制定伦理指南：审慎制定AI伦理指南，充分考虑AI技术应用可能带来的社会影响，以确保其符合道德和法律标准。
- 强化持续监管与审计：在AI系统运行过程中，企业应定期对其性能、安全性和合规性进行审查，及时发现并解决问题。
- 建立反馈机制：鼓励员工和相关方提出改进意见，不断完善AI管理体系。
随着技术的不断进步和法规的日益完善，企业需时刻关注AI领域的发展动态，及时调整策略，对AI系统进行迭代升级。同时，加强员工培训，提升整体合规意识和技能水平，共同构建一个安全、高效、合规的AI应用环境，为企业的长远发展奠定坚实基础。
欧盟AI法案的出台标志着全球AI监管进入了一个新的阶段。企业和个人需要认真了解和遵守该法案的要求，来确保AI技术的安全、可靠和负责任的使用。通过合规管理，企业不仅能够避免潜在的法律风险，还能够提升公众信任，促进AI技术的健康发展。通过多方共同努力，我们将迎来一个更加智能、安全、可靠的未来科技环境。
数治网院iDigi 为此推出行动速查手册《欧盟AI法案问答》，与有关AI出海合规的内训体系课程配合使用，按下方获取链接即可。
来源：《欧盟AI法案解读：要求和实践指南》，ISACA，本篇针对全文由生成式 AI 做出的核心摘要和解答，仅作为参考，请以原文为准。下载白皮书和问答手册请在数治网微信公众号对话框发送“241118”获取链接，或访问：https://www.isaca.org.cn/about/newsroom/2484。图片：Igor Omilaev，Unsplash
在此声明以上观点和内容，仅代表原作者和出处，与数治网DTZed 无关，如有出错或侵害到相关合法权益，请通过电邮与我们联系：cs@dtzed.com。
欢迎领取数字人才中国方案，一起产研内训、知识平台共建！请在我们的微信公众号“idtzed”对话框内，发送“入”添加老邪企业微信获取。
欢迎先注册，登录后即可下载检索人工智能等相关标准、白皮书及报告。更多高质量纯净资料下载，进入公众号菜单“治库”。
