인공지능 인권영향평가

핵심 내용

인공지능 인권영향평가는 AI가 개인정보, 평등권, 노동권 등 기본권에 미칠 영향을 개발·도입·운영 과정에서 사전에 평가하고 위험을 줄이도록 하는 제도이다. 국가인권위원회는 공공기관이 개발·활용하는 모든 AI와 민간의 고위험 AI를 대상으로 한 평가를 제안했다. 현행 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 이보다 좁은 ‘고영향 인공지능 영향평가’를 규정해, 사업자가 제품·서비스 제공 전에 기본권 영향을 평가하도록 노력하게 하고 국가기관은 평가를 거친 제품·서비스를 우선 고려하도록 하고 있다.¹

배경 및 상황

국가인권위는 2022년 「인공지능 개발과 활용에 관한 인권 가이드라인」에 이어 2024년 4단계 72개 문항의 「인공지능 인권영향평가 도구」를 마련했다. 사후 구제가 어려운 AI의 불투명성과 광범위한 파급효과 때문에 사전 예방이 필요하다는 취지이다.²

2026년 1월 시행된 인공지능기본법은 고영향 AI에 대한 영향평가를 법제화했지만 평가 자체는 강행 의무가 아닌 노력 의무이다. 2026년 7월 시행 개정법은 평가 시 장애인·고령자 등 인공지능취약계층의 특성을 반영하도록 보완했다.³

작동 방식

인권위 도구는 계획·준비 → 영향 분석·평가 → 방지·완화·구제 → 결과 공개·사후점검의 네 단계로 구성되며, 이해관계자 의견수렴과 재평가도 포함한다.⁴ 현행 시행령의 고영향 AI 영향평가는 영향을 받을 개인·집단과 관련 기본권을 식별하고, 기본권에 대한 사회·경제적 영향과 AI의 사용 행태 등을 평가하도록 정하고 있다.⁵

효과 및 쟁점

인권영향평가는 AI가 실제 피해를 발생시킨 뒤 대응하는 방식에서 벗어나 도입 단계에서 차별·감시·권리침해 위험을 발견하고 설계를 수정하는 수단이 될 수 있다. 반면 현행법의 평가가 노력 의무에 그쳐 실효성이 제한될 수 있다는 지적이 제기된다.⁶

민변 디지털정보위원회·정보인권연구소·진보네트워크센터·참여연대는 공공기관과 고위험 AI에 대한 인권영향평가를 법적 의무로 만들 것을 요구했다.⁷ 2025년 민주노동당 권영국 대선후보도 AI기본법을 개정해 악영향 위험이 큰 AI와 공공부문 AI에 인권영향평가를 실시하겠다고 공약했다.⁸

각주