AI Act：首批措施生效以规范AI风险

经过多次修改和延期，主要由于生成式AI的兴起，《AI法案》已于2024年8月1日生效。正如预期，自上周日以来，禁止使用的情况的措施已经开始实施。

欧盟率先想要建立一个AI监管框架，旨在根据AI带来的潜在危害进行监管。《AI法案》旨在确保欧洲公民的基本权利、民主、法治和环境可持续性不受AI风险的威胁。

虽然其实施将逐步进行，直到2027年8月，并且将陆续发布新的指导方针，但自今年2月2日起，针对不可接受风险的AI系统的条款已生效。

禁止的AI使用案例

为了保护公民的权利和民主，禁止以下行为：

• 使用敏感特征（如：政治、宗教、哲学观点、性取向、种族）进行生物特征分类的系统；
• 通过互联网或视频监控进行非针对性的面部图像提取以创建面部识别数据库；
• 在工作场所和教育机构识别情绪的系统；
• 基于社会行为或个人特征的社会评分；
• 旨在操控人类行为以绕过自由意志的AI系统；
• 用于利用个人脆弱性的AI（由于年龄、残疾、社会或经济状况）。

然而，对于在公共场所用于执法目的的生物识别系统的使用，已设置了例外，但须事先获得司法授权，并针对明确列出的犯罪：

• “远程”生物识别系统将严格用于有针对性的查找被定罪或涉嫌严重犯罪的人
• “实时”生物识别系统的使用将受时间和空间的限制，用于：
  • 有针对性地查找受害者（绑架、贩卖、性剥削）；
  • 预防明确且当前的恐怖威胁；
  • 定位或识别涉嫌犯有法规中提到的特定犯罪的人（恐怖主义、贩卖、性剥削、谋杀、绑架、强奸、武装抢劫、参与犯罪组织、环境犯罪）。

欧洲AI委员会，由欧盟委员会和所有成员国的高级代表组成，以及AI局，由技术专家、法律专家和经济学家组成，负责《AI法案》的实施和执行。

不遵守适用于在欧盟开发、投放市场或使用AI系统的任何实体的规定，可能导致最高达3500万欧元或全球营业额7%的罚款，具体取决于违规行为和企业规模。