GenAI의 발전으로 인한 여러 수정과 연기 끝에, AI ACT는 2024년 8월 1일에 발효되었습니다. 예고된 바와 같이, 지난 일요일부터 금지된 사용 사례에 대한 조치가 적용되었습니다.
EU는 인공지능이 초래할 수 있는 피해를 조절하기 위해 규제 프레임워크를 최초로 도입하려 했습니다. AI Act는 유럽 시민의 기본 권리, 민주주의, 법치주의 및 환경 지속 가능성을 인공지능의 위험으로부터 보호하는 것을 목표로 합니다.
2027년 8월까지 점진적으로 적용될 예정이며, 새로운 지침도 계속해서 발표될 것입니다. 그러나 지난 2월 2일부터 수용 불가능한 위험을 가진 AI 시스템에 대한 조치가 발효되었습니다.
금지된 AI 사용 사례
시민의 권리와 민주주의를 보존하기 위해 다음과 같은 경우가 금지됩니다:- 민감한 특성을 사용하는 생체 인식 분류 시스템 (예: 정치적, 종교적, 철학적 견해, 성적 지향, 인종);
- 인터넷이나 비디오 감시를 통해 얼굴 이미지를 비목표적으로 추출하여 얼굴 인식 데이터베이스를 만드는 것;
- 직장 및 교육기관에서 감정 인식을 허용하는 시스템;
- 사회적 행동이나 개인적 특성을 기반으로 한 사회적 점수 매기기;
- 인간의 행동을 조작하여 자유 의지를 우회하려는 AI 시스템;
- 사람들의 취약성을 이용하는 AI (나이, 장애, 사회적 또는 경제적 상황 때문에).
- “원거리” 생체 인식 시스템은 중범죄를 저지른 것으로 유죄 판결을 받았거나 의심되는 특정 인물을 대상으로 한 수색에서만 엄격하게 사용됩니다.
- “실시간” 생체 인식 시스템의 사용은 시간과 공간에서 제한되며:
- 피해자 수색 (유괴, 인신 매매, 성적 착취);
- 구체적이고 현재의 테러 위협 예방;
- 규정에 명시된 특정 범죄 (테러, 인신 매매, 성적 착취, 살인, 유괴, 강간, 무장 강도, 범죄 조직 참여, 환경에 대한 범죄)를 저질렀다고 의심되는 사람의 위치 추적 또는 식별.
EU 내에서 AI 시스템을 개발, 시장에 출시하거나 사용하는 모든 엔티티에 적용되는 규정을 준수하지 않을 경우, 위반 및 기업 규모에 따라 최대 3,500만 유로 또는 전 세계 매출의 7%에 해당하는 벌금이 부과될 수 있습니다.