AI 행위에 대한 책임귀속 및 범위에 관한 원칙과 그 실현 방안에 대한 연구 : 기능적 단위의 법인격 부여라는 수단을 중심으로 = A Study on the Attribution and Scope of Liability for AI Actions ? A Functional Approach to the Granting of Legal Personality

국문 초록 (Abstract)

본 연구의 핵심은 인공지능 책임 문제를 단순한 기술 위험의 관리 문제가 아니라, 인공지능 행위와 책임귀속 사이의 규범적 불균형을 공정하게 정렬하는 문제로 재구성하는 데 있다. 고도화된 인공지능은 학습, 추론, 판단, 추천, 실행의 과정을 통하여 외부 세계에 법적 의미를 갖는 결과를 발생시킨다. 그러나 이러한 작동은 인과적 층위에서는 손해 발생의 원인이 될 수 있으나, 그 자체로 곧바로 도의적 비난 가능성이나 법적 책임의 근거가 되는 규범적 행위로 구성되는 것은 아니다. 반면 책임귀속은 법적 부담을 누구에게 어느 범위까지 배분할 것인가를 정하는 규범적 판단이다. 따라서 인공지능의 기술적 작동을 그대로 책임귀속과 연결하면, 인과적 작동과 규범적 책임 판단이 매개 없이 결합되어 귀속의 불균형이 발생한다.
본고는 이러한 문제를 해결하기 위하여 먼저 인공지능 행위, 행위귀속, 책임귀속의 개념을 구별하고, 행위귀속을 기술적 작동과 규범적 책임 판단 사이의 매개로 설정한다. 인공지능 행위는 인공지능이 인간과 동일한 자유의지나 도덕적 책임능력을 가진다는 의미가 아니라, 인공지능 시스템의 자율적·준자율적 작동이 외부 세계에 법적으로 평가 가능한 결과를 발생시키고, 그 결과가 행위귀속과 책임귀속의 판단 대상으로 전환될 수 있도록 법적으로 구성된 규범적 평가 단위를 의미한다.
행위귀속은 그 작동 결과를 누구의 법적 행위로 평가할 것인가를 정하는 규범적 판단이고, 책임귀속은 그 행위 또는 결과에 따른 법적 부담을 누구에게 어느 범위까지 배분할 것인가를 정하는 규범적 판단이다. 이 구별이 선행되어야 인공지능의 작동 결과를 단순한 사실적 결과에 머물게 하지 않고, 법적으로 평가 가능한 행위 단위로 구성할 수 있다.
현행 책임체계는 인공지능의 기술적 작동과 법적 책임귀속 사이에서 발생하는 규범적 불균형을 충분히 해결하지 못한다. 자연인 중심의 불법행위책임은 고의 또는 과실, 예견가능성, 통제가능성을 인간 행위자의 인식·선택·통제를 기준으로 판단한다. 그러나 인공지능의 작동은 학습데이터, 모델 구조, 운영 환경, 업데이트, 이용자의 입력, 자동화된 실행 과정이 결합되어 발생하므로, 특정 자연인에게 작동 과정 전체를 직접 귀속시키기 어렵다. 법인 책임이나 제조물책임을 확장하는 방식도 일정한 피해구제 기능은 가질 수 있으나, 인공지능의 작동 단위 자체를 규범적으로 포착하지 못하면 책임의 근거는 여전히 외부 주체에게 사후적으로 환원된다. 이 경우 책임은 피해자 보호를 이유로 외부 주체에게 임의로 전가되거나, 반대로 책임 주체가 불명확하다는 이유로 공백 상태에 놓이게 된다.
따라서 인공지능 책임법의 과제는 단순한 책임 확대가 아니라 공정한 귀속의 기준을 세우는 것이다. 공정한 귀속은 손해가 발생했다는 이유만으로 손해 발생 과정에 외형상 가장 근접한 인간 또는 기업에게 책임을 전가하는 방식이 아니며, 인공지능의 자율성이 개입되었다는 이유만으로 책임을 공백 상태로 방치하는 방식도 아니다. 공정한 귀속은 인공지능 행위가 형성된 기능적 구조, 위험의 생성과 현실화 과정, 통제가능성, 위험 기여도, 경제적 이익 귀속, 실질적 관리가능성을 기준으로 행위귀속과 책임귀속을 정렬하는 규범적 판단이다. 이 정렬을 통하여 인공지능의 비규범적 기술 작동은 법적으로 평가 가능한 행위 단위로 전환되고, 그 행위 단위에 대응하는 책임은 다시 책임을 부담할 수 있는 주체 또는 기능적 단위에 배분된다.
이러한 관점에서 본 연구는 기능적 단위 법인격을 공정한 귀속을 실현하기 위한 법기술적 수단으로 제시한다. 기능적 단위 법인격은 인공지능에게 인간과 같은 전면적 인격이나 일반적 권리주체성을 부여하려는 이론이 아니다. 그것은 인공지능의 작동 과정 중 법적으로 의미 있는 위험을 생성하고 손해 발생에 실질적으로 기여하는 기능적 단위를 포착하여, 그 기능적 단위에 제한적·목적구속적 법적 지위를 부여하는 입법기술이다. 이를 통해 인공지능 행위는 행위귀속의 대상으로 규범화되고, 행위귀속을 기초로 책임귀속의 주체와 범위가 정렬된다.
민사책임 영역에서 기능적 단위 법인격은 피해자 보호와 책임 실현의 실익을 갖는다. 피해자는 인공지능의 복잡한 작동 과정 전체를 입증하지 못하더라도, 손해를 발생시킨 기능적 단위와 위험관리 구조를 중심으로 책임 창구를 특정하고 확보할 수 있다. 책임보험이나 위험분산제도는 이 기능적 단위와 결합하여 손해배상의 실효성을 높일 수 있다. 반면 형사책임 영역에서 기능적 단위 법인격은 직접적 형벌주체성을 정당화하지 못한다. 인공지능은 도덕적 비난 가능성, 책임능력, 형벌감수능력을 갖는 자연인이 아니므로, 기능적 단위 법인격을 이유로 인공지능에게 형벌을 직접 귀속시키는 것은 책임주의와 형벌 목적에 부합하기 어렵다. 다만 형사법 영역에서도 기능적 단위 분석은 인간 행위자의 통제·관리책임, 과실책임, 부작위책임을 재구성하는 보조적 기준으로 기능할 수 있다.
또한 기능적 단위 법인격은 책임 회피를 방지하는 통제 장치와 결합되어야 한다. 법인격이 책임귀속을 위한 수단이라면, 그것이 자연인 또는 법인의 책임을 차단하는 장치로 기능해서는 안 된다. 따라서 경제적 이익을 향유하고 실질적으로 위험을 통제한 주체가 기능적 단위 뒤에 숨어 책임을 회피하는 경우에는 법인격 부인 또는 책임의 재귀적 귀속 구조를 통하여 그 책임을 다시 배후 주체에게 귀속시켜야 한다. 이 점에서 기능적 단위 법인격은 책임을 인공지능에게 최종적으로 떠넘기는 장치가 아니라, 기능적 단위를 중심으로 책임을 집약하고 다시 통제자, 운영자, 개발자, 이용자, 이익 귀속자에게 공정하게 배분하기 위한 제도적 매개 장치이다.
결론적으로, 인공지능 책임법의 핵심 문제는 인공지능에게 인간과 같은 법인격을 부여할 것인가가 아니라, 인공지능이 발생시키는 법적 결과를 누구에게, 어떤 기준으로, 어느 범위까지 공정하게 귀속시킬 것인가이다. 이를 위해서는 인공지능 행위의 규범적 정의, 행위귀속의 매개, 책임귀속의 정렬이 선행되어야 한다. 기능적 단위 법인격은 이 세 단계를 제도적으로 연결하는 제한적 수단이다. 본 연구는 인공지능의 기능적 작동을 법적으로 포섭하고, 행위귀속과 책임귀속을 동일한 규범적 평면 위에서 공정하게 정렬함으로써, 인공지능 시대의 책임 공백을 해소하고 피해자 보호와 책임 실현을 동시에 달성하기 위한 법리적·입법적 방향을 제시한다.

목차 (Table of Contents)

• 제1장 서론 12
• 제1절 연구 배경 및 문제의 제기 12
• 제2절 연구 목적과 연구 범위 14
• 제3절 연구 방법 및 구성 17
• 제2장 인공지능의 개념과 책임 논의의 범위 설정 18
• 제1절 인공지능의 개념과 법적 의미 18
• 1. 기술적 개념과 법적 개념의 구별 18
• 2. 자동화 시스템과 자율적 인공지능의 구분 21
• 3. 인공지능 행위의 규범적 정립 필요성 23
• 제2절 인공지능의 유형과 책임 관련 특성 26
• 1. 자율성·학습성에 따른 유형화 26
• 2. 물리적 구현 여부에 따른 구분 28
• 3. 행위귀속 문제와의 관련성 31
• 제3절 책임 논의의 대상 범위 확정 33
• 1. 논의 대상에서 제외되는 인공지능 33
• 2. 책임 문제를 일으키는 핵심 대상 34
• 3. 기능적 단위 분석의 필요성 36
• 제4절 소결 38
• 제3장 인공지능으로 인한 손해 유형 40
• 제1절 민사적 손해 유형 40
• 1. 판단·추천·추론 오류로 인한 손해 40
• 2. 인공지능 자동화 시스템에 의한 손해 43
• 3. 집단적·확산적 손해 45
• 제2절 형사적 피해 유형 46
• 1. 범죄 결과 발생과 행위자성 문제 46
• 2. 고의·과실 판단의 한계 47
• 3. 형사책임귀속의 단절 49
• 제3절 소결 50
• 제4장 현행 책임귀속 체계의 구조적 한계 51
• 제1절 민법상 불법행위책임구조의 한계 51
• 1. 자연인 중심 책임구조 전제와 한계 51
• 2. 법인 중심 책임구조 유비 가능성과 한계 52
• 제2절 형사책임귀속 문제와 유비의 한계 53
• 1. 형사책임에서의 자연인 유비와 부적합성 53
• 2. 형사책임에서의 법인 유비와 제재 구조 전이 가능성 54
• 3. 형사 영역 유비 한계와 제재 중심 책임구조 전환 55
• 제3절 제조물책임·소비자법 적용의 한계 56
• 1. 결함 개념의 구조적 한계 56
• 2. 책임귀속 시점의 불명확성 58
• 3. 다층적 서비스 구조의 문제 59
• 제4절 소결 60
• 제5장 인공지능 행위에 대한 책임귀속 61
• 제1절 책임귀속 기준 전환의 필요성 61
• 1. 책임 기준 유지의 한계 61
• 2. 인간 행위자 중심 귀속 기준의 적용 한계 63
• 3. 규범적 전환의 불가피성 64
• 제2절 책임귀속 기준의 최소 요건 65
• 1. 통제 가능성의 재구성 65
• 2. 인공지능 위험 기여의 도입 66
• 3. 복수 주체 귀속 정렬 기능 67
• 제3절 기능적 단위 중심 위험관리 책임귀속 68
• 1. 행위자 중심 모델과의 차별성 68
• 2. 기능적 단위 중심 위험관리 책임의 구조 69
• 3. 규범적 정당성 70
• 제4절 소결 71
• 제6장 기능적 단위의 법인격 부여 가능성 71
• 제1절 번들 이론의 개념과 법인격 이해 71
• 1. 법인격의 규범적 성격 72
• 2. 권리·의무 번들 이론 72
• 제2절 권리·의무의 기능적 분해 가능성 75
• 1. 권리능력의 선택적 부여 75
• 2. 책임의 기능적 귀속 76
• 3. 전면적 인격 부여와의 구별 77
• 제3절 기능적 단위 법인격의 구조 78
• 1. 기능적 단위 설정 기준 78
• 2. 책임귀속의 법적 메커니즘 79
• 3. 제도적 의의와 한계 80
• 제4절 소결 83
• 제7장 기능적 단위 법인격을 통한 민사책임구조 84
• 제1절 불법행위책임의 재편 84
• 1. 기능적 단위 중심 책임구조 84
• 2. 입증 부담 완화 85
• 3. 피해자 보호 효과 86
• 제2절 손해배상책임과 위험책임보험 87
• 1. 기능적 단위 책임과 보험 구조 87
• 2. 위험 비용의 분산 88
• 제3절 피해자 구제 구조의 개선 89
• 1. 책임 창구의 명확화 89
• 2. 집단 피해구제 가능성 90
• 3. 제도적 실효성 90
• 제4절 소결 92
• 제8장 형사책임의 한계와 재구성 92
• 제1절 기능적 단위 법인격과 형사책임 부정 92
• 1. 책임능력 부재 92
• 2. 형벌 목적과의 불합치 93
• 제2절 인간 행위자에 대한 형사책임 재구성 94
• 1. 통제·관리 책임 중심 접근 95
• 2. 과실책임의 재정렬 96
• 3. 부작위 책임 문제 97
• 제3절 소결 98
• 제9장 책임 분산과 귀속 및 법인격 부인 99
• 제1절 책임 분산의 원칙 99
• 1. 다수 주체 관여 구조 99
• 2. 책임 분산 기준 100
• 3. 기능적 단위의 위치 101
• 제2절 경제적 이익과 통제 기준에 따른 책임귀속 102
• 1. 이익 귀속 기준 102
• 2. 실질적 통제 기준 104
• 제3절 기능적 단위 법인격에 대한 법인격 부인 105
• 1. 법인격 부인 이론의 적용 가능성 105
• 2. 남용 방지 기능 106
• 제4절 소결 107
• 제10장 결론 108
• 참고문헌 113
• 부록 1 EU 인공지능 책임지침（AILD, 2022/496 Final） 번역본 126
• 부록 2 인공지능 행위책임에 관한 법률（안） 135
• ABSTRACT 139
• 감사의 글 145