EU 인공지능법

핵심 내용

EU 인공지능법은 AI의 개발·출시·사용 과정에서 건강·안전·기본권 위험을 관리하는 위험기반 규제이다. AI 시스템을 허용할 수 없는 위험, 고위험, 투명성 위험, 최소·무위험으로 구분하며, 사회적 점수화·직장과 교육기관의 감정인식 등은 금지한다. 채용·노동자 관리, 교육, 필수 공공·민간서비스, 생체인식, 사법·이민 등은 고위험 영역으로 분류한다. 범용 AI(GPAI) 모델에는 이 체계와 별도로 투명성·저작권 준수 등을 요구하고, 시스템적 위험이 있는 모델에는 위험 평가·완화 의무를 추가한다.¹

배경 및 상황

규정은 2024년 8월 발효됐고 조항별로 단계 적용되고 있다. 금지 AI 규정은 2025년 2월, 범용 AI 모델 의무는 같은 해 8월부터 적용됐으며, 2026년 8월부터 일반 적용과 감독·집행 및 생성형 AI 등의 투명성 의무가 시작됐다. 다만 2026년 7월 제정된 ‘AI 옴니버스’가 표준 마련 지연과 준수 부담 등을 이유로 고위험 AI의 핵심 의무 적용 시점을 별표 III 영역은 2027년 12월 2일, 제품에 내장된 별표 I 영역은 2028년 8월 2일로 연기했다.²

작동 방식

고위험 AI 제공자는 위험관리, 학습·검증 데이터 품질관리, 기록·기술문서 작성, 이용자 정보 제공, 인간의 감독, 정확성·견고성·사이버보안 등을 갖춰야 한다. 생성형·대화형 AI에는 인간이 AI와 상호작용하고 있음을 알리고 AI 생성물을 기계가 판독할 수 있게 표시하는 의무가 적용되며, 딥페이크와 일정한 공익 관련 AI 생성 텍스트도 공개 대상이 된다.³ 범용 AI 모델은 기술문서·저작권 정책·학습 콘텐츠 요약 등의 의무를 지며, EU는 이를 구체화하는 자율적 ‘범용 AI 실천 강령’을 운영한다.⁴

효과 및 쟁점

위험 정도에 따라 의무를 달리해 AI 규제를 단일한 금지·허가 체계가 아니라 기본권 침해 가능성에 맞춘 관리체계로 설계한 점이 특징이다. 노동 영역에서는 직장 감정인식을 금지하고 채용·노동자 관리 AI를 고위험으로 분류했지만, 해당 고위험 의무의 본격 적용은 2027년 말까지 유예된 상태이다. 디지털권리단체 EDRi는 일부 생체감시와 권리침해적 AI에 금지선을 설정한 점은 평가하면서도, 법집행기관의 원격 생체인식 등에 광범위한 예외가 남아 기본권 보호가 충분하지 않다고 비판했다.⁵

각주