인공지능기본법의 합리적 규율 및 발전방안 연구

다국어 초록 (Multilingual Abstract)

Ⅰ. Background and Purpose
▶ Background of the Discussion
○ Recent AI technology is undergoing revolutionary changes, moving beyond the implementation of deep learning models based on existing neural network architectures like fully connected neural networks, convolutional neural networks, and recurrent neural networks. This shift is driven by the emergence of the transformer model, a transformative form that addresses critical shortcomings.
- In particular, transformer models are widely utilized across diverse fields by partially overcoming issues such as the loss of past information through forgetting, which prevents its influence on new outputs, and the inability to perform parallel processing.
○ However, despite AI's positive outlook, it simultaneously carries negative implications due to persistent risks across multiple layers, including high autonomy, unpredictability, explainability issues, biased risks, and opacity.
- Consequently, efforts to establish norms for appropriate control and limitations to counter infringements on human rights or interests are being attempted in various countries.
○ After ongoing discussions on regulatory legislation, the EU abruptly enacted and enforced the EU Artificial Intelligence Act on May 12, 2024.
- In Korea, the Framework Act on the Development of Artificial Intelligence and the Establishment of a Trust-Based System (hereinafter referred to as the “Framework Act on Artificial Intelligence”), which had been pending in the National Assembly for several years, was recently passed and promulgated on December 26, 2024, and is scheduled to take effect in January 2026.
- While our AI Framework Act does not classify detailed risk levels like the EU, it imposes strong regulations on businesses operating high-impact AI. It thus possesses the framework and form of risk-based regulation. However, conceptual ambiguities at the legal level, along with unclear subjects of compliance and obligations, have been pointed out.
▶ Purpose and Significance of the Study
○ This study pursued the following two objectives
○ First, it proposed improvement measures to ensure legal clarity and establish rational regulation for the Framework Act on Artificial Intelligence
- It is a critical task to devise rational improvement measures for our Framework Act on Artificial Intelligence. These measures should support the establishment of a technology and industry promotion system while clearly defining regulatory targets and prohibited acts, thereby contributing to the development of AI based on safety and trust
- Accordingly, this study proposes follow-up measures to enable effective and rational regulation in the domestic legal context, which has adopted comprehensive legislation.
○ Second, it examined measures to enhance the systemic consistency between the Framework Act on Artificial Intelligence and individual laws.
- Given that the Framework Act was introduced as a foundational law within the legal system, this study assessed whether this characteristic is adequately reflected and proposed points to consider for enhancing systemic consistency with individual laws in the future.
- We considered legislative approaches for interpreting and incorporating regulatory provisions from the Framework Act on Artificial Intelligence into individual laws, presenting related considerations and alternatives.
Ⅱ. Key Content
▶ Issue 1: Need to Supplement Definitions for Explicitly Distinguishing High-Risk and High-Impact Concepts
○ First, the lack of clarity in the concept of high-impact AI increases regulatory uncertainty
- This includes defining impact and risk in parallel terms, or linking safety and fundamental rights using the conjunction “and.”
- Consequently, the degree of ambiguity is greater than in the European Union's AI Act definition of high-risk AI.
- This appears inconsistent with the principle that legal concepts should start from clarity, indicating a need for future improvement.
○ Second, cases affecting safety and those affecting fundamental rights are qualitatively distinct, yet they are not clearly separated. Specifically, the failure to distinguish between safety-based high-impact AI and rights-based high-impact AI is problematic.
- The concept of safety is not self-serving but is intrinsically linked to the protection of fundamental rights for rights holders.
- However, when distinguishing safety into individual safety and collective safety, collective safety—such as national security or maintaining order—may not always show a clear connection to individual fundamental rights compared to individual safety, which is directly linked to them. Therefore, the EU AI Act uses expressions like “safety or fundamental rights,” employing the disjunctive “or.” Our law requires clear wording to reflect this distinction.
▶ Issue 2: Ambiguity Regarding the Scope of Obligations
○ Determining the subjects of AI regulation—i.e., stakeholders subject to obligations and liabilities—requires consideration of the AI value chain and life cycle.
- Compared to the EU AI Act, which defines providers, importers, distributors, and deployers of high-risk AI systems, Korea's Framework Act on Artificial Intelligence can be evaluated as setting stakeholders with obligations and responsibilities relatively comprehensively.
○ The approach of including state agencies within the concept of AI business operators under our law requires reconsideration.
○ Furthermore, it is necessary to consider setting stakeholders—such as AI business operators, users, and affected persons—more appropriately aligned with the AI value chain, similar to European law.
▶ Issue 3: Fact-finding provisions and direction of law enforcement
○ Fact-finding under the AI Framework Act is voluntary in nature and clearly governed by the Framework Act on Administrative Investigation. As such, it is difficult to view it as inherently highly regulatory or intrusive. However, the problem lies in the inherent vagueness of the mandatory provisions themselves that become the subject of fact-finding.
- If the elements of a violation are inherently indeterminate, or if even the subject's applicability to the investigation is disputable (as in Article 32 of the AI Framework Act), it is necessary to refrain from making such provisions the subject of fact-finding to prevent social confusion and legal disputes.
○ Furthermore, making duty provisions like Article 34 of the Framework Act on Artificial Intelligence the subject of fact-finding is inconsistent with the legal system and theory; therefore, deleting them is desirable.
- It would be reasonable to introduce tailored regulation in the form of phased investigations and sanctions for areas where regulatory needs emerge as the AI field develops, thereby striving for a balance between promoting AI technology and preventing abusive practices.
▶ Issue 4: Relationship with Individual Laws and Ensuring Systemic Consistency
○ The Framework Act on Artificial Intelligence comprehensively yet specifically covers quite detailed regulations concerning both regulation and promotion across artificial intelligence, AI technology, the AI industry, and AI society.
- In contrast, legislation in individual fields utilizing AI has yet to be established as robustly as the Framework Act on Artificial Intelligence.
○ Unlike typical basic laws enacted later, the Basic Act on Artificial Intelligence holds a special status as a general law enacted and scheduled to take effect before specific regulations on AI in individual statutes are fully established.
- This unique aspect must be considered when ensuring systemic consistency between the Basic Act on Artificial Intelligence and individual statutes.
○ Regarding ensuring systemic consistency between the Framework Act and individual statutes, it is highly probable that the Framework Act's regulations will take the lead in guiding the regulations within individual statutes. Therefore, at the level of individual statutes, where necessary for AI utilization reflecting the specific characteristics of the relevant field, it should be considered to ensure systemic consistency with the Framework Act by establishing special provisions that either relax or exclude the application of the Framework Act's regulations.
Ⅲ. Expected Effects
○ This study identifies and presents rational and effective improvement tasks, thereby seeking solutions to issues such as the validity of problematic concept definitions, the appropriateness of regulatory levels, and the clarity of regulated entities and conduct regulations within the domestic Framework Act on Artificial Intelligence, which was introduced as comprehensive legislation.
- By obtaining evaluations of the Framework Act on Artificial Intelligence from various experts and exploring specific response directions, this study derived and presented concrete solutions for each issue based on literature analysis as its conclusion.
- However, as of the time of completing this study, the Framework Act on Artificial Intelligence was only three months away from implementation. Since the final subordinate statutes and soft norms had not yet been finalized, this study did not address them in detail.
○ This study holds significance as research that can serve as a reference for structuring the content of subordinate regulations and guidelines, as well as for subsequent legislative efforts and the progressive regulation of the Framework Act on Artificial Intelligence.

국문 초록 (Abstract)

Ⅰ. 배경 및 목적
▶ 논의의 배경
○ 최근 AI 기술은 기존의 완전 연결신경망과 합성곱신경망, 순환신경망 등의 신경망 구조의 딥러닝 모델 구현을 뛰어넘어, 치명적 단점을 보완한 변형적 형태의 트랜스포머(transformer) 모델의 등장으로 혁신적인 변화가 진행되고 있음
- 특히 트랜스포머 모델은 망각 현상을 통해 과거 정보가 소실되어 새로운 출력에 영향을 미치지 못하는 문제와 병렬처리가 불가능한 문제를 어느 정도 극복함으로써 다양한 분야에서 널리 활용되고 있음
○ 그러나, AI의 긍정적인 전망에도 불구하고, AI는 고도의 자율성, 예측불가능성, 설명불가능성, 편향적 위험성, 불투명성 등 여러 층위의 위험적 요소도 상존하므로 부정적 이면도 동시에 가짐
- 이에 따라 인간에 대한 권리나 이익 침해에 대응하여 적절한 통제와 제한을 가하기 위한 규범 형성에 대한 노력도 각국에서 시도되고 있음
○ EU는 지속적으로 규제입법에 대한 논의를 전개해오던 끝에, 2024년 5월 12일 EU Artificial Intelligence Act를 전격적으로 제정·발효
- 우리나라는 지난 몇 년간 국회에 계류되었던 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “인공지능기본법”이라 함)이 최근 2024년 12월 26일자로 가결되어 공포되면서 내년 2026년 1월부로 시행을 앞두고 있는 상황
- 우리 인공지능기본법은 EU와 같이 세부적인 리스크 수준을 구분하고 있지는 않지만, 고영향 인공지능에 해당하는 사업자에 대해 강한 규제를 적용하도록 하고 있어, 리스크 기반 규제의 틀과 형식은 갖추고 있으나, 법률 단위에서의 개념적 모호성과 수범 주체와 행위 의무사항의 불명확성 등이 지적되고 있음
▶ 본 연구의 목표
○ 본 연구는 다음의 두 가지를 목표로 연구를 진행하였음
○ 먼저, 인공지능기본법의 법적 명확성 확보와 합리적 규율을 위한 개선방안을 제시하였음
- 우리 인공지능기본법이 기술·산업의 진흥체계 구축을 지원하면서도 규제대상과 금지행위 등을 명확히 규정함으로써 안전과 신뢰 기반의 인공지능의 발전에 기여하도록 하기 위한 합리적 개선방안을 강구하는 것은 매우 중요한 과제
- 이에 본 연구는 포괄적 입법을 도입한 국내법 상황에서 향후 효과적이고 합리적인 규율이 이루어질 수 있도록 하기 위한 후속적인 대응방향을 제시
○ 다음으로는 인공지능기본법과 개별법 간의 체계정합성을 제고시키기 위한 방안에 대해 연구하였음
- 인공지능기본법이 법체계상 기본법의 형태로 도입됨에 따라 이러한 특성이 잘 반영되어 있는지를 점검하고, 향후 개별법과의 체계정합성 제고를 위해 유의할 점에 대해 제언
- 각 개별법에서 인공지능기본법상의 규제조항을 어떻게 해석하고 받아들여 입법을 추진해야 할지에 대한 입법방향에 대해 고민하고 그와 관련한 고려사항 및 대안을 제시하였음
Ⅱ. 주요 내용
▶ 쟁점 1: 고위험 및 고영향 개념의 명시적 구분 위한 정의규정 보완 필요성
○ 첫째, 고영향 인공지능 개념이 명확하지 않아 규제의 불확실성을 높인다는 점이 문제됨
- 영향과 위험을 병렬적으로 규정하는 것이나 안전과 기본권을 ‘및’이라는 연결어로 연결하는 방식도 그러함
- 이로 인해 유럽연합 인공지능법이 규정하는 고위험 인공지능의 경우보다 불명확성의 정도가 증가함
- 이는 명확성을 출발점으로 삼아야 하는 법적 개념에 어울리지 않아 보여 추후 개선해야 할 필요가 있어 보임
○ 둘째, 안전에 영향을 미치는 경우와 기본권에 영향을 미치는 경우는 질적으로 구별되는데 이를 명확하게 분리하지 않았다는 것인데, 즉 안전 기반 고영향 인공지능과 권리 기반 고영향 인공지능을 구별하지 않았다는 것이 문제됨
- 안전이라는 개념은 자기목적적인 것이 아니라 기본권 주체의 기본권 보호와 밀접한 관련을 맺는다는 것임
- 다만 안전을 개별적 안전과 집단적 안전으로 구별할 때, 개인의 기본권과 직접 연결되는 개별적 안전에 비해 국가안전보장이나 질서 유지와 같은 집단적 안전은 이러한 연결성이 분명하게 보이지 않을 때도 있어 EU AI Act는 “안전 또는 기본권”과 같이 ‘또는’이라는 분리어를 활용한 표현을 사용하는 것이므로 우리법 문언상 명확한 표현 필요
▶ 쟁점 2: 수범주체의 불명확성 문제
○ 인공지능 규제의 수범자, 즉 의무와 책임의 이해관계자를 어떻게 설정할 것인지는 인공지능의 가치사슬(value chain)이나 생애주기(life cycle)를 고려하여 판단할 필요
- 고위험 인공지능 시스템 제공자(provider), 수입업자, 유통업자(distributor), 활용자(deployer)를 규정하는 EU AI Act와 비교하면, 우리 인공지능기본법은 의무와 책임의 이해관계자를 상대적으로 포괄적으로 설정했다고 평가할 수 있음
○ 우리법상 인공지능사업자 개념을 설정하면서 이에 국가기관을 포함하는 방식은 재검토할 필요
○ 나아가 인공지능사업자, 이용자, 영향받는 자라는 이해관계자는 유럽법처럼 좀 더 인공지능의 가치사슬에 적합하게 설정하는 것도 고려할 필요
▶ 쟁점 3: 사실조사 규정 및 법 집행의 방향성
○ 인공지능기본법의 사실조사는 임의조사의 성격을 지니는 것이고, 행정조사기본법이 명확히 적용되는 것이어서 그 자체만으로는 규제적 혹은 침익적 속성이 강하다고 보기는 어렵지만, 사실조사의 대상이 되는 의무 규정 자체가 불명확한 점이 문제임
- 법 위반행위의 구성요건이 불확정적일 수밖에 없고 심지어 인공지능기본법 제32조처럼 조사대상자 해당 여부조차 다툼이 될 수 있는 경우라면 이를 사실조사의 대상으로 삼는 것을 자제하여 사회적 혼란과 법적 분쟁을 방지할 필요가 있음
○ 더불어 인공지능기본법 제34조와 같은 책무 규정을 사실조사의 대상으로 삼는 것은 법체계나 이론상 맞지 않으므로 삭제하는 것이 바람직함
- 인공지능 분야의 발전에 따라 규제의 필요성이 드러나는 영역에 대해 단계적으로 조사와 제재를 가하는 형태의 맞춤형 규제를 도입함으로써 인공지능 기술의 촉진과 남용행위의 방지 간의 균형을 도모하는 것이 타당할 것임
▶ 쟁점 4: 개별법과의 관계 및 체계정합성 확보
○ 인공지능기본법은 인공지능, 인공지능기술, 인공지능산업 및 인공지능사회 등에 걸쳐 꽤 상세한 규제와 진흥에 관한 규율을 포괄적이면서도 구체적으로 아우르고 있음
- 이에 반하여 인공지능을 활용하는 개별 분야에서의 입법은 아직까지 인공지능기본법의 수준만큼 견고하게 구축되어 있다고 보기 어려움
○ 통상적인 기본법의 제정 상황과 달리, 인공지능기본법은 인공지능에 관한 개별 법령상 규율이 본격화되기 전의 시점에서 제정되어 시행될 예정인 일반법이라는 점에서 특별한 위상을 가지고 있음
- 인공지능기본법과 개별 법령 간의 체계정합성 확보에 있어서 이러한 특수한 지점이 고려될 필요
○ 인공지능기본법과 개별 법령 간의 체계정합성 확보와 관련해서는 인공지능기본법상의 규율이 주도권을 가지고 개별 법령상의 규율을 견인해 나갈 가능성이 높다고 할 것인바, 개별 법령 단위에서는 당해 분야의 특수성이 반영된 인공지능의 활용에 필요한 경우 인공지능기본법상의 규율을 완화하거나 적용을 배제하는 특례규정을 두는 방식을 통하여 인공지능기본법과의 체계정합성을 확보하는 방안을 검토하여야 할 것임
Ⅲ. 기대효과
○ 본 연구는 합리적이고 실효적인 개선과제를 발굴하여 제시함으로써 포괄적 입법의 형태로 도입된 국내 인공지능기본법상 문제되는 개념 정의의 타당성, 규제 수준의 적절성, 수범주체 및 행위규제의 명확성 등의 문제에 있어서의 해결책을 도모
- 다양한 전문가로부터 인공지능기본법에 대한 평가를 구득하고, 구체적인 대응방향을 모색함으로써 본 연구의 결론으로서 문헌 분석에 기초하여 각 쟁점별로 구체적인 해결방향을 도출하여 제시하였음
- 다만, 본 연구를 마무리하는 시점을 기준으로 할 때 인공지능기본법은 법 시행을 3개월 앞두고 있으나, 최종적인 하위 법령 및 연성 규범이 확정되지 않은 관계로 그에 관하여는 구체적으로 다루지 아니하였음
○ 본 연구는 하위법령과 가이드라인 등의 내용을 구성하고, 추후 후속적인 입법 추진과 인공지능기본법의 발전적인 규율에 있어서 참고가 될 수 있는 연구로서 의미를 찾을 수 있을 것임

목차 (Table of Contents)

• 요 약 문 1
• Abstract 6
• 제1장
• 서 론 / 15
• 제1절 연구의 배경 및 필요성 17
• 제2절 연구의 목적 및 방법 20
• 제2장
• 인공지능 분야 수평적 규제체계 도입의 의의 및 시사점 / 23
• 제1절 규제방식으로서 수평적 규제체계 25
• 1. 수평적 규제체계의 개념 및 인공지능 분야 도입의 의의 25
• 2. 타 분야의 수평적 규제체계 적용 사례와 시사점 27
• 제2절 인공지능 분야에의 수평적 규제체계 적용의 타당성 검토 37
• 1. 인공지능 규제에 있어 수평적 규제체계 도입의 배경 37
• 2. 인공지능 분야의 수평적 규제체계 적용 가능성 검토 42
• 제3절 소결: 수평적 규제의 법적 규율 방향 50
• 제3장
• 인공지능기본법의 합리적 규율을 위한 법률 쟁점과 발전방안 / 53
• 제1절 기본법의 법규범으로서의 특징 55
• 1. 포괄적 규제방식 55
• 2. 기본법 형식 56
• 3. 영향 기반 접근법 57
• 4. 타율 규제와 자율 규제의 결합 58
• 5. 행위 중심적 규제 59
• 제2절 기본법의 포괄적 접근의 타당성 검토 60
• 1. 인공지능기본법의 입법 태도에 관한 논란 60
• 2. 포괄적 규제 방식에 대한 비판 61
• 3. 포괄적 규제 방식의 타당성 검토 63
• 제3절 수범자 의무와 책임 규정의 해석 70
• 1. 의무와 책임의 출발점으로서 고영향 인공지능 70
• 2. 의무와 책임의 이해관계자 74
• 3. 기본원칙 및 국가 등의 책무 76
• 4. 인공지능 투명성 확보 의무 79
• 5. 인공지능 안전성 확보 의무 84
• 6. 고영향 인공지능과 관련한 사업자의 책무 87
• 7. 고영향 인공지능 확인 90
• 8. 고영향 인공지능 영향평가 92
• 9. 국내대리인 지정제도 93
• 10. 인공지능사업자의 책임 93
• 제4절 법집행상의 쟁점 : 사실조사와 제재규정 95
• 1. 국내법상 사실조사 제도에 대한 분석 95
• 2. 인공지능기본법상 사실조사 및 제재규정에 대한 평가 104
• 3. 법집행 효율화를 위한 향후 입법과제 115
• 제4장
• 기본법-개별법간 체계정합성 확보방안 / 117
• 제1절 체계정합성 검토의 필요성 119
• 1. 기본법의 법적 위상 및 의의 119
• 2. 체계정합성 원칙 관점에서의 검토 필요성 121
• 제2절 인공지능기본법과 개별 법령 간 체계정합성 분석 123
• 1. 인공지능기본법과 개별 법령 간 체계정합성 관련 국내 규율 현황 123
• 2. 법령 간 체계정합성 관련 해외 입법례의 규율 현황 140
• 3. 체계정합성 확보 관점에서 현행 법체계의 한계 및 법적 고려사항 142
• 제3절 체계정합성 확보를 위한 향후 입법과제 148
• 1. 인공지능기본법상 총칙 규정에 다른 법령간 규율 관계를 구체적으로 명시하는 방안 148
• 2. 인공지능기본법상 개별 규정에 다른 법령간 규율 관계를 명시하는 방안 150
• 3. 개별 법령에 인공지능기본법상 규율 적용을 명시하는 방안 152
• 4. 개별 법령에 인공지능기본법상 규율 배제를 명시하는 방안 157
• 제5장
• 결 론 / 161
• 참고문헌 167