[유럽연합 법제동향]

유럽의회, 「AI법」 가결


(이미지 출처: DW News)
 

2024년 3월 13일(현지 시간) 프랑스 스트라스부르에서 열린 유럽의회 본회의 표결에서 찬성 523표, 반대 46표, 기권 49표로 유럽연합의 「AI법」이 가결되었다. 「AI법」의 제정 목적은 고위험 AI로부터 인간의 기본권과 민주주의, 법치, 환경적 지속가능성을 보호하는 동시에 혁신을 촉진하고 유럽이 AI 분야의 선구자로 자리매김하도록 하는 것이다. 이 법은 잠재적 위험과 영향 수준에 따라 AI와 관련한 의무를 설정하고 있다.

이 법 제5조에 따르면 민감한 특성을 기반으로 한 생체 인식 분류 시스템, 얼굴 인식 데이터베이스를 생성하기 위한 인터넷 또는 CCTV 영상에서의 얼굴 이미지 무작위 수집 등 시민의 권리를 위협하는 AI 애플리케이션 사용이 금지된다. 그리고 AI를 직장과 학교에서 감정 분석 또는 사회적 점수 평가에 사용하거나 오로지 개인의 특성 평가에 기반한 예측적 치안 유지 활동에 활용하는 것이 금지되며, 인간 행동을 조작하거나 인간의 취약성을 이용하는 AI도 금지된다.

실시간 원격 생체 인식 시스템을 법 집행기관이 공개된 공간에서 사용하는 것은 원칙적으로 금지되나, 특정 조건에서는 예외적으로 사용할 수 있다. 예를 들어 실종자를 수색하거나 테러 범죄를 예방하기 위한 목적으로 사용하는 경우 시간적‧지리적 범위를 제한하여야 하며 사전에 사법적 또는 행정적 승인을 받아야 한다. 사후 원격 생체 인식 시스템은 고위험 사용 사례로 보며, 이 시스템을 형사 범죄와 관련하여 사용할 경우 사전 또는 사후에 승인을 받아야 한다.

건강‧안전‧기본권‧환경‧민주주의‧법치에 대하여 잠재적으로 높은 위험을 내포하는 고위험 AI 시스템에 대해서도 명확한 의무가 규정되었다. 이 법 부속서 III에 따르면 고위험 AI 시스템은 핵심 인프라‧교육‧필수 민간 및 공공 서비스(의료 및 은행 서비스 등)‧사법 및 민주적 절차(선거 등)와 관련하여 사용되는 AI 시스템을 말한다. 이러한 AI 시스템은 위험을 평가하고 완화하여야 하며 사용자 기록을 관리하여야 하고 사람의 감독을 받아야 한다. 

이 법 제53조에 따르면 범용 AI 시스템과 그 기반이 되는 범용 AI 모델은 유럽연합의 저작권법 준수, 학습에 사용된 콘텐츠의 상세 요약 공개 등 투명성 요건을 충족하여야 한다. 그리고 시스템 위험을 초래할 수 있는 강력한 범용 AI 모델일수록 모델 평가 수행, 시스템적 위험 평가 및 완화, 사고 보고 등 추가적인 요건을 충족하여야 한다.

이 법 제99조에 따르면 유럽연합 회원국은 처벌 규정을 도입하여야 하고 경고, 비금전적 조치와 같은 집행 수단을 마련하여야 한다. 제5조의 AI 사용 금지 규정을 위반하는 경우 위반자에게 최대 3,500만 유로(약 512억 원) 또는 해당 기업의 직전 회계연도 총 매출액 7% 중 더 큰 금액이 벌금으로 부과되며, AI 시스템이 제조업자, 수입업자와 같은 경제 행위자나 인증기관과 관련한 규정을 위반하는 경우 위반자에게 최대 1,500만 유로(약 219억 원) 또는 해당 기업의 직전 회계연도 총 매출액 3% 중 더 큰 금액이 벌금으로 부과된다.

이 법은 유럽연합 관보에 게재된 날부터 20일 후에 발효되며, 발효한 후 24개월이 경과한 날부터 전면 시행된다. 단, 금지 대상 AI 시스템에 관한 규정은 발효한 후 6개월이 경과한 날부터 시행되고 범용 AI에 관한 규정 및 처벌 규정은 발효한 후 12개월이 경과한 날부터 시행된다. 그리고 고위험 AI 시스템에 관한 의무 규정은 발효한 후 36개월이 경과한 날부터 시행된다.

출처: 
유럽의회(2024.03.13.)