[영한 번역 기업과인권리소스센터 제공]

"인공지능법: 획기적 법안 채택"

지난 수요일 유럽연합(EU)의회는 혁신을 촉진하며 안전과 기본권 준수를 보장하는 인공지능법을 승인했다.

해당 법은 2023년 12월 회원국간 협상을 통하여 합의된 것으로, 찬성 523표, 반대 46표, 기권 49표를 받으며 통과한 바 있다.

금번 법안은 고위험 인공지능(AI)으로부터 기본권, 민주주의, 법치, 환경적 지속가능성을 보호하는 한편, 혁신을 촉진하고 유럽을 해당분야 리더로 자리매김하는 것을 목표로 하고 있다. 법안은 AI의 잠재적 위험성과 영향수준에 따른 의무를 규정하는 것을 주 내용으로 한다.

금번 법안은 시민의 권리들을 위협하는 특정 AI 앱(애플리케이션)을 금지하는 것을 골자로 하며, 금지 대상에는 안면인식 데이터베이스 구축을 목적으로 인터넷이나 CCTV에서 개인 민감특성 혹은 불특정 안면이미지 수집을 기반으로 한 생체 범주화 등이 포함된다.

사법당국의 인식시스템(biometric identification systems, RBI) 사용은 좁게 정의되어 제한적으로 나열된 사항을 제외하고는 원칙적으로 금지된다.

다른 고위험 AI 시스템에 대한 명백한 규제화도 이루어질 전망이다. 이들 시스템은 건강, 안전, 기본권, 환경, 민주주의와 법치에 심각한 위해를 끼칠 잠재적 위험이 있다. 이러한 고위험 AI 사용의 예로는 중요 인프라, 교육 및 직업 훈련, 고욕, 필수 민간 및 공공 서비스(의료, 은행업 등), 검경찰 등 법집행, 이주 및 국경관리, 사법 및 민주적 절차(선거 등) 에서 활용되는 시스템들을 들 수 있다. 이러한 시스템들은 잠재적 위험을 측정, 감경하며, 사용기록을 유지하고, 투명하고 정확한 인간에 의한 감독이 보장되어야 한다. 또한 모든 시민은 AI 시스템에 대해 불만을 제기하고 자신의 권리에 영향을 미치는 고위험 AI 시스템에 기반한 결정에 대한 설명을 받을 권리가 있다.

범용 AI(General-purpose AI ,GPAI) 시스템과 그 기반이 되는 모델들은 특정 투명성 요건을 충족하도록 하여야 한다.

금번 법안은 최종 변호사 및 언어학자 차원의 검토를 앞두고 있으며, 의회 종료 전 (이른바 정정 절차를 거쳐) 최종 채택될 것으로 보인다. 법안은 또한 의회의 공식적인 승인을 받아야 하며, 20일간의 관보 게재 후 발효, 그리고 발효 후 24개월 이후 전면 적용이 된다.