인공지능 시대 이사회의 회사법적 연구 : 인공지능 이사의 법적 지위를 중심으로

국문 초록 (Abstract)

인공지능 기술의 획기적인 발전은 기업지배구조를 근본적으로 재편하고 있으며, 기업 내 인공지능의 도입은 피할 수 없는 시대적 조류가 되고 있다. 인공지능의 기업 내 도입은 특히 이사회의 의사결정에 지대한 영향을 미치며 인간과 인공지능 간 역할과 책임이 분배되고 상호 협력을 통한 합의로 의사결정을 도출하는 협력적 지배구조를 형성하게 될 것이다.
이사회 내 인공지능의 도입은 궁극적으로 인공지능이 독립적인 의사결정권을 가지는 인공지능 이사(Director)로 활용될 수 있는데, 인공지능의 이사회 내 영향력은 점차 증대되어 인간 이사와 인공지능 이사가 공존하는 하이브리드 이사회(Hybrid boards)로 이어질 가능성이 있다. 인공지능에 법인격을 인정하여 이사의 법적 지위를 부여하게 되면 인간 이사의 단점과 전통적인 이사회의 한계를 보완할 수 있으며 하이브리드 이사회 내에서 인간 이사와 인공지능 이사 간 책임 분배의 문제에도 유용하다.
법인격이 부여된 인공지능 이사는 인간 이사와 마찬가지로 법적 권리 의무의 귀속 주체가 된다. 이에 따라 인공지능 이사는 회사법상 의무와 책임을 부담하는 직접적인 주체가 될 수 있으며 경영판단법칙과 주주대표소송의 적용 대상이 된다. 다만, 인공지능 이사가 법적 책임 주체가 되는 경우 책임재산이 문제될 수 있으므로 이는 보험제도나 보상기금 또는 유한책임 보증으로 인한 책임 기금으로 마련한다.
인공지능의 도입으로 인한 이사회의 변화는 의사결정 구조에 대한 법적 책임과 권한의 재배분이라는 문제로 귀결된다. 경영 판단의 형식적 주체를 인간 이사에 한정하고 있는 기존 회사법은 인공지능의 의사결정 행위를 규율할 수 없으므로 현행 회사법에 대한 재정비와 새로운 제도의 마련이 요구되는 것이다. 또한, 인공지능의 사용과 관련된 새로운 리스크를 관리·감독하는 프레임워크로서 인공지능 지배구조의 구축이 필요하다.
기술의 발전과 법적 통제 간의 불균형을 해소하기 위해서는 인공지능의 기술적 한계에 대한 정확한 인식을 바탕으로 법적·제도적 대응을 선결적으로 마련해야 한다. 인공지능 시대의 법제 개선은 단순한 규제의 강화가 아니라 설명가능성과 투명성을 확보하는 방향으로 재구조화되어야 하며, 이는 기술적·제도적·법적 측면에서 이사회 운영에 필요한 시대적 과제를 다각적으로 검토함으로써 실현될 수 있다. 이러한 입법적 보완은 인공지능 시대 기업지배구조의 변화에 대응하는 법제적 기반을 마련할 것이며, 기업 경영의 신뢰성과 지속가능성을 높이는 방향으로 작용할 것이다.

다국어 초록 (Multilingual Abstract)

The groundbreaking advancements in AI technology are fundamentally reshaping corporate governance, and the adoption of AI within companies is becoming an inevitable trend of the times. The adoption of AI within companies will have a significant impact on board decision-making, particularly in the form of collaborative governance where roles and responsibilities are distributed between humans and AI, and decisions are reached through consensus through mutual cooperation.
The introduction of AI within boards could ultimately lead to AI being utilized as AI directors with independent decision-making authority. However, the increasing influence of AI within boards could potentially lead to hybrid boards where human and AI directors coexist. Granting AI legal personality and the legal status of directors could address the shortcomings of human directors and the limitations of traditional boards, and could also be beneficial in allocating responsibilities between human and AI directors within hybrid boards.
With legal personality, AI directors, like human directors, are subject to legal rights and obligations. Consequently, AI directors can directly assume duties and responsibilities under corporate law and are subject to the business judgment rule and shareholder derivative suits. However, if AI directors become legally responsible, liability assets may become an issue. Therefore, this should be covered by insurance, compensation funds, or limited liability guarantees.
Changes to the board of directors due to the introduction of AI ultimately lead to issues of legal responsibility and redistribution of authority regarding decision-making structures. Existing corporate law, which restricts the formal subject of management decisions to human directors, cannot regulate AI decision-making. This necessitates a reorganization of the current corporate law and the establishment of new systems. Furthermore, the establishment of an AI governance structure is necessary as a framework to manage and supervise the new risks associated with the use of AI.
To address the imbalance between technological advancement and legal control, legal and institutional responses must be established based on a clear understanding of the technological limitations of AI. Improving the legal system in the AI ​​era requires not simply strengthening regulations, but rather restructuring to ensure explainability and transparency. This can be achieved through a comprehensive review of the technological, institutional, and legal challenges facing board operations. These legislative enhancements will establish a legal foundation to address the changing corporate governance landscape in the age of artificial intelligence, and will work to enhance the reliability and sustainability of corporate management.

목차 (Table of Contents)

• 제1장 서론 1
• 제1절 연구의 목적 1
• 제2절 연구의 범위와 방법 2
• 1. 연구의 범위 2
• 2. 연구의 방법 3
• 제3절 논문의 구성 4
• 제2장 인공지능의 발전과 국제적 인공지능 규제체계 5
• 제1절 서언 5
• 제2절 인공지능의 정의와 유형 6
• 1. 서론 6
• 2. 인공지능의 정의 6
• 3. 인공지능의 유형 8
• 가. 기능적 수준에 따른 구분 9
• 나. 의사결정상 역할에 따른 구분 10
• 다. 윤리적 행위성에 따른 구분 12
• 4. 소결 13
• 제3절 인공지능의 구조와 특성 14
• 1. 서론 14
• 2. 인공지능의 구조 14
• 가. 알고리즘 14
• 나. 전뇌 에뮬레이션과 마인드 업로딩 17
• 3. 인공지능의 특성 21
• 가. 블랙박스 문제 21
• 나. 인공지능 환각 문제 25
• 다. 데이터 편향 및 유출 문제 27
• 4. 소결 29
• 제4절 인공지능 지배구조의 등장 29
• 1. 서론 29
• 2. 인공지능 지배구조의 개념 및 필요성 30
• 3. 인공지능 지배구조에 관한 주요국의 논의 32
• 4. 소결 36
• 제5절 인공지능 관련 규범과 법적 논의의 발전 37
• 1. 서론 37
• 2. 국제적 규범의 형성 37
• 가. EU인공지능법: 통합적 규제 모델 37
• 나. 미국 연방법과 주법: 조화적 규제 모델 41
• 다. 일본 인공지능촉진법: 자율적 규제 모델 47
• 3. 한국의 인공지능기본법과 동법 시행령 48
• 가. 인공지능기본법 제정 48
• 나. 인공지능기본법 시행령 제정 50
• 다. 주요 내용 51
• 라. 시사점 54
• 4. 소결 55
• 제6절 결어 56
• 제3장 인공지능과 기업지배구조의 변화 58
• 제1절 서언 58
• 제2절 기업지배구조의 변화 60
• 1. 서론 60
• 2. 기업지배구조의 개념과 구조 61
• 3. 전통적 기업지배구조의 변화 64
• 제3절 기업 내 인공지능 도입의 필요성 65
• 제4절 기업 내 인공지능 도입의 순기능 68
• 1. 서론 68
• 2. 의사결정 구조의 변화 68
• 3. 대리인 비용의 변화 70
• 제5절 기업 내 인공지능 도입의 역기능 72
• 1. 서론 72
• 2. 알고리즘 기반 의사결정과 담합 리스크 72
• 3. 블랙박스 및 환각 현상과 책임 소재의 공백 리스크 75
• 4. 데이터 편향과 불공정성 리스크 및 개인정보 유출 리스크 76
• 5. 소결 78
• 제6절 인공지능 지배구조 구축의 필요성 78
• 제7절 결어 80
• 제4장 인공지능 이사와 이사회의 변화 82
• 제1절 서언 82
• 제2절 인공지능의 법인격 인정 여부 83
• 1. 서론 83
• 2. 법인격 인정론 88
• 가. 법적 유용성 88
• 나. 권리능력 확장 가능성 88
• 다. 포스트 휴먼 측면 89
• 라. 법인 이론의 차용 90
• 3. 법인격 부정론 91
• 가. 법적 유용성에 대한 의문 91
• 나. 책임법 수정의 부당성 92
• 다. 법인격 부여 실익의 부재 92
• 라. 법인 이론 차용의 부당성 93
• 4. 제한적 법인격 인정론 94
• 5. 소결 95
• 제3절 인공지능 이사의 인정 가능성 96
• 1. 회사법상 쟁점 96
• 2. 인공지능 이사의 인정과 법적 요건 98
• 3. 인공지능 이사와 이사회 규정의 개정 101
• 가. 인공지능 이사의 선임과 해임 및 변경 101
• 나. 인공지능 이사의 소집과 토론 및 결의 방법 104
• 다. 인공지능 이사의 의결권 행사 제한과 의결권 대리 행사 106
• 4. 소결 107
• 제4절 인공지능 이사의 도입 필요성 108
• 1. 서론 108
• 2. 인공지능 이사의 도입 가능성 109
• 3. 인공지능 이사의 특성과 도입 필요성 111
• 4. 전통적 이사회의 한계와 도입 필요성 113
• 5. 인공지능 이사의 책임 범위와 도입 필요성 116
• 6. 소결 117
• 제5절 결어 117
• 제5장 인공지능 이사와 법적 책임구조 119
• 제1절 서언 119
• 제2절 인공지능의 특성과 이사의 의무 120
• 1. 서론 120
• 2. 선관주의의무와 충실의무 121
• 가. 일반론 121
• 나. 인공지능 이사의 의무와 강화된 인간 이사의 의무 122
• 3. 감시의무와 내부통제제도 구축의무 123
• 가. 일반론 123
• 나. 인공지능 이사의 의무와 강화된 인간 이사의 의무 128
• 4. 자기거래금지의무 129
• 가. 일반론 129
• 나. 인공지능과 의무위반 판단 129
• 5. 비밀유지의무와 회사의 기회 및 자산의 유용 금지 의무 130
• 가. 일반론 130
• 나. 인공지능과 의무위반 판단 131
• 6. 소결 132
• 제3절 인공지능 제조사와 이용자의 의무 133
• 1. 인공지능 관련법상 의무 규정 133
• 2. 인공지능 제조사의 의무 134
• 3. 인공지능 이용자의 의무 135
• 4. 소결 136
• 제4절 이사의 회사법상 책임과 경영판단법칙 136
• 1. 서론 136
• 2. 이사의 회사에 대한 책임 136
• 가. 일반론 137
• 나. 인간 이사의 경우 137
• 다. 인공지능 이사의 경우 140
• 3. 이사의 제3자에 대한 책임 142
• 가. 일반론 142
• 나. 인간 이사의 경우 142
• 다. 인공지능 이사의 경우 144
• 4. 경영판단법칙의 적용 145
• 가. 일반론 146
• 나. 선관주의의무 위반과의 관계 147
• 1) 인간 이사의 경우 148
• 2) 인공지능 이사의 경우 150
• 다. 감시의무 위반과의 관계 151
• 1) 인간 이사의 경우 154
• 2) 인공지능 이사의 경우 156
• 5. 소결 156
• 제5절 이사의 의무위반과 주주대표소송 157
• 1. 서론 157
• 2. 주주대표소송의 구조 157
• 가. 주주대표소송의 개념 및 요건 157
• 나. 주주대표소송의 기능 159
• 다. 주주대표소송의 발전 및 시사점 161
• 3. 주주대표소송 적용 가부 162
• 가. 인간 이사를 대상으로 하는 경우 162
• 나. 인공지능 이사를 대상으로 하는 경우 164
• 4. 소결 165
• 제6절 인공지능 이사의 책임재산과 제조사의 책임 165
• 1. 서론 165
• 2. 인공지능 이사의 책임재산 166
• 3. 인공지능 이사의 간접책임 168
• 4. 제조사의 책임 170
• 5. 소결 171
• 제7절 결어 171
• 제6장 인공지능 시대의 과제와 법제 개선 방향 173
• 제1절 서언 173
• 제2절 기술적 과제 174
• 1. 서론 174
• 2. 설명가능한 인공지능의 구현과 신뢰성 확보 174
• 3. 인공지능의 공정성과 투명성 확보 178
• 4. 행위주체적 인공지능의 활성화 181
• 5. 양자 인공지능의 도입 184
• 6. 소결 185
• 제3절 제도적 과제 186
• 1. 서론 186
• 2. 인공지능 가치정렬 제도 186
• 3. 데이터 소득 제도 188
• 4. 소결 190
• 제4절 법적 과제 191
• 1. 서론 191
• 2. 설명가능한 인공지능의 의무화 191
• 3. 인공지능 도입 기업의 등록 및 보고 192
• 4. 인공지능 도입 기업에 대한 공시 및 감시 강화 193
• 5. 법제 개선 방향 195
• 가. 서론 195
• 나. 상법 195
• 다. 외부감사법 200
• 라. 자본시장법 201
• 마. 인공지능기본법 및 동법 시행령 202
• 바. 기업지배구조 가이드라인 제정 202
• 사. 인공지능 윤리준칙 제정 204
• 6. 소결 204
• 제5절 결어 205
• 제7장 결론 206