인공지능기본법의 개선방안에 관한 연구 : 주요국 비교연구를 중심으로 = A Comparative Study on Improvement Measures for the Framework Act on Artificial Intelligence - Focusing on Major Jurisdictions -

국문 초록 (Abstract)

인공지능（AI） 시스템은 채용·금융신용평가·의료진단·형사사법 등 개인의 권리·의무에 직접적인 영향을 미치는 의사결정 영역 전반에서 광범위하게 활용되고 있다. 그런데 인공지능의 자율성·불투명성·범용적 확장성이라는 기술적 특성은, 전통적인 법질서가 전제하는 책임 귀속의 명확성, 인과관계의 확인 가능성, 절차적 권리의 실효적 보장이라는 구조적 기반을 근본적으로 흔든다. 특히 알고리즘의 불투명성으로 인해 AI 기반 결정으로 불이익을 받은 당사자가 처분의 위법성이나 손해와의 인과관계를 스스로 입증하기 어렵다는 구조적 한계는, 인공지능 규제가 사후적 책임 추궁에만 의존하는 방식으로는 기본권 보호의 공백을 메울 수 없음을 보여준다. 우리나라는 2025년 1월「인공지능기본법」을 제정하여 2026년 1월 22일 시행하였다. 그러나 동법이 기본권 보호를 실질적으로 담보하는 규범적 구조를 갖추고 있는지에 대해서는 여러 측면에서 문제가 제기되고 있다. 이에 본 연구에서는 「인공지능기본법」의 개선방안을 도출하기 위해 관련 규범에 대한 검토, 주요국 비교법 분석, 그리고 동법의 구체적인 문제점 분석과 입법론적 개선방안 제시의 측면에서 연구를 수행하였다.
첫째, 인공지능 위험규제체계의 문제점 및 개선방안과 관련하여, 현행 이분법적 구조（고영향·일반）가 위험의 다양한 유형과 수준을 충분히 반영하지 못하고, 제2조 제4호 카목의 포괄위임 구조가 수범자의 법적 예측가능성을 저해하며 포괄위임금지원칙에 위배될 소지가 있음을 확인하였다. 또한 안전성 확보 의무의 기준인 1026 FLOPs와 같은 단일 연산량 기준이 실제 위험 수준을 충분히 반영하지 못한다는 점, 제35조의 영향평가 의무가 노력의무에 머물러 규제의 실효성이 낮다는 점도 지적하였다. 「EU 인공지능법」의 4단계 위험분류 체계를 참고하여 위험등급별 차등규제를 도입하고, 고영향 인공지능의 유형과 판단 기준을 법률에 직접 명시하며, 기본권 영향평가（FRIA）를 의무적 사전규제로 전환할 것을 제안한다. 둘째, 투명성 확보 의무의 문제점 및 개선방안과 관련하여, 현행 「인공지능기본법」 제31조가 인공지능 사용 사실의 형식적 고지에 규율의 중심을 두고 있을 뿐, 불이익한 결정을 받은 개인이 사업자에게 직접 설명을 청구할 수 있는 법률상 청구권을 규정하지 않고 있음을 확인하였다. 「EU 인공지능법」 제86조가 고위험 AI 출력에 기초한 결정에 대해 개인에게 명확하고 의미 있는 설명을 구할 권리를 부여하고 있는 것에 비추어, 고영향 인공지능에 의한 불이익 결정에 대해 개별적 설명청구권을 법률에 직접 명시하고 구조적 투명성 의무를 강화하는 방향의 개정이 필요하다. 셋째, 절차적 권리 보장 및 행정적 통제체계의 문제점 및 개선방안과 관련하여, 세 가지 규범적 한계를 확인하고 개선방안을 제시하였다. 우선, 고영향 인공지능에 의한 불이익 결정에 대한 이의신청권·인간개입요구권·의견진술권이「인공지능기본법」에 명시되어 있지 않아 절차적 기본권 보장에 공백이 존재하며, 제34조 제4호의 인간 감독·관리 원칙은 선언적 수준에 그쳐 구체적 주의의무로 기능하지 못하고 있다. 이에 「EU 인공지능법」 제14조 및 콜로라도 SB 24‑205에서 논의된 절차적 권리보호 및 인간 감독자의 역량·검증·개입 권한에 관한 규율 구조를 참고하여, 이러한 요소들을 강행규정으로 명문화할 것을 제안한다. 다음으로, 인공지능 시스템의 불투명성으로 인해 피해자가 알고리즘의 결함이나 인과관계를 완전히 입증하는 것이 사실상 불가능하다는 점에서, 사업자가 위험관리·문서화·감독의무를 위반하였음이 소명되는 경우 위법성과 인과관계를 추정하도록 하는 입증책임 전환 규정의 도입이 필요하다. 마지막으로, 개인정보보호위원회가 독립 합의제 행정기관으로서 실질적 집행 권한을 행사하여 성과를 거둔 선례를 참고하여, 독립적 조사·시정명령·과징금 부과 권한을 갖춘 인공지능 전담 독립 감독기구의 설립이 시급하다.
이상 살펴본 개선방안들은 「인공지능기본법」이 현재의 선언적·프로그램적 기본법의 성격을 넘어 실효적 규제법으로 기능하기 위한 핵심 과제들이다. 다만 인공지능에 의한 저작권 침해, 형사책임의 귀속, 민사불법행위 등 사법적 쟁점, 인공지능 거버넌스 집행기관의 설계, 알고리즘 감사 제도의 구체화, 생성형 인공지능에 특화된 규율 체계의 정비, 국제규범과의 조화를 위한 하위법령 정비 문제 등에 대해서는 본 연구의 범위를 벗어나는 것으로서 후속 연구의 과제로 남겨둔다.

주제어 : 인공지능기본법, 기본권, 비교법, Framework Act on Artificial Intelligence （Korea）, EU AI Act

목차 (Table of Contents)

• 제1장 서론 1
• 제1절 연구의 목적 1
• 제2절 연구의 범위와 방법 4
• 제2장 인공지능 법제에 관한 이론적 배경 7
• 제1절 서설 7
• 제2절 인공지능 특성에 따른 기본권 침해 요인 8
• 1. 인공지능의 정의 및 특성 8
• 2. 인공지능의 기본권 침해 요인 10
• 3. 인공지능 규제의 규범적 방향 12
• 제3절 인공지능 법제의 기본원칙 14
• 1. 기본권 보호를 위한 일반적 원칙 16
• 2. 인공지능의 기술적 특성에 따른 추가적 원칙 23
• 3. 기본원칙의 인공지능 규제에의 적용 27
• 제4절 소결 29
• 제3장 주요국 인공지능 법제에 관한 비교법적 검토 31
• 제1절 서설 31
• 제2절 개인정보보호 및 인공지능 관련 국제규범 32
• 1. OECD 개인정보보호 가이드라인 및 AI 원칙 33
• 2. UN AI 가이드라인 39
• 3. 시사점 44
• 제3절 EU의 인공지능 법제 47
• 1. EU 인공지능법의 규제구조 48
• 2. 인권 중심의 규제 철학 구체화 53
• 3. 시사점 58
• 제4절 미국의 인공지능 법제 62
• 1. 연방 및 주 차원의 분산적 규제 거버넌스 62
• 2. 사법심사를 통한 기본권 보호 69
• 3. 시사점 74
• 제5절 소결 77
• 제4장 인공지능기본법의 문제점 및 개선방안 79
• 제1절 서설 79
• 제2절 인공지능 위험규제체계의 문제점 및 개선방안 80
• 1. 위험규제체계 현황 80
• 2. 이분법적 분류 및 고영향 기준 위임의 문제점 81
• 3. 개선방안 84
• 제3절 투명성 확보 의무의 문제점 및 개선방안 85
• 1. 투명성 확보 의무 현황 85
• 2. 설명가능성 및 정보주체 권리 보장의 문제점 86
• 3. 개선방안 89
• 제4절 절차적 권리 보장 및 행정적 통제체계의 문제점 및 개선방안 90
• 1. 절차적 권리 및 행정적 통제체계 현황 90
• 2. 절차적 권리, 감독체계, 입증책임의 문제점 91
• 3. 개선방안 94
• 제5절 소결 96
• 제5장 결론 99
• 참 고 문 헌 107
• ABSTRACT 115